Automated Decisions: Definition, Benefits and Risks

Authors

  • Nazareno César Moreira Reis Instituto Brasiliense de Direito Público
  • Gabriel Rocha Furtado Universidade Federal do Piauí

Keywords:

Automated decisions, Artificial intelligence, Data processing, Personal data and General Data Protection Law

Abstract

This article studied the theme of automated decisions produced by electronic machines in the light of the legal framework on the subject in Brazil: The General Data Protection Law. The research sought to investigate what are the automated decisions, what are their benefits and risks in light of the provisions of the LGPD. The methodology used was the bibliographic research of legal doctrines and the documentary research of legislation. In view of the complexity and interdisciplinarity of the theme with other areas, it is necessary to analyze texts outside the law, such as Computer Science and Philosophy of Technology, in certain moments of the research. To conclude the work, an automated decision definition was drawn up, based on the research carried out, as well as the findings about the risks and benefits of this decision-making form were scored.

Downloads

Download data is not yet available.

Author Biographies

Nazareno César Moreira Reis, Instituto Brasiliense de Direito Público

Bacharel em Direito pela Universidade Federal do Piauí (1997) e Especialista em Direito Tributário e Finanças Públicas pelo Instituto Brasileiro de Direito Público (2004). Juiz Federal da Justiça Federal - Seção Judiciária do Estado do Piauí. Professor do Instituto de Ciências Jurídicas e Sociais Professor Camillo Filho.

Gabriel Rocha Furtado , Universidade Federal do Piauí

Professor Adjunto de Direito na Universidade Federal do Piauí (UFPI). Professor Adjunto de Direito no Instituto de Ensino Superior CEV (iCEV). Doutor e Mestre em Direito Civil pela Universidade do Estado do Rio de Janeiro (UERJ). Especialista em Ciências Penais pela Universidade do Sul de Santa Catarina (UNISUL). Bacharel em Direito pela Universidade Federal do Piauí (UFPI). Advogado. Pesquisador visitante no Max-Planck-Institut für ausländisches und internationales Privatrecht, Hamburg-Alemanha. Membro do Instituto Brasileiro de Direito Civil (IBDCivil). Membro Fundador do Instituto Brasileiro de Direito Contratual (IBDCont). Parecerista da Revista Eletrônica de Direito Civil Civilística.com (ISSN 2316-8374). Parecerista da Revista de Ciências Jurídicas Pensar, Unifor (ISSN 2317-2150). Parecerista da Revista de Direito Civil Contemporâneo, RDCC (ISSN 2358-1433). Parecerista da Revista Arquivo Jurídico, UFPI (ISSN 2317-918X). Foi Chefe do Departamento de Ciências Jurídicas (2016-2018). Foi Conselheiro Seccional da OAB/PI (2016-2018). Foi Diretor de Pesquisa e Pós-Graduação da Escola Superior de Advocacia do Piauí, ESA-PI (2016-2018). Foi Membro do Conselho Editorial da Revista da OAB-PI (ISSN 2318-1621). Tem experiência na área de Direito, com ênfase em Direito Privado, atuando principalmente nos seguintes temas: Teoria Geral do Direito Civil, Obrigações, Contratos, Responsabilidade Civil, Direitos Reais, Propriedade Intelectual e Direito do Agronegócio.

References

ABREU, Jacqueline de Souza. Tratado de Proteção deTratamento de Dados Pessoais para Segurança Pública: contornos do regime jurídico pós-LGPD. In: MENDES, Laura Schertel; DONEDA, Danilo; SARLET, Ingo Wolfgang; RODRIGUES JUNIOR, Otavio Luiz; BIONI, Bruno (org.). Tratado de Proteção de Dados Pessoais. Rio de Janeiro: Forense, 2021. Edição do Kindle.

AGGARWAL, Charu C. Neural Networks and Deep Learning: a textbook. New York: Springe, 2018.

AGOSTINHO, Santo. Confissões. São Paulo: Companhia das Letras, 2017. Tradução de Lorenzo Mammì. Edição do Kindle.

AGRAWAL, A; GANS, J.; GOLDFARB. Máquinas preditivas: a simples economia da Inteligência Artificial. Rio de Janeiro: Alta Books, 2018. Tradução de Wendy Campos.

AMBROSE, Meg Leta; AMBROSE, Ben M.. When robots lie a comparison of auto-defamation law. 2014 Ieee International Workshop On Advanced Robotics And Its Social Impacts, [S.L.], p. 56-61, set. 2014. IEEE. <http://dx.doi.org/10.1109/arso.2014.7020980>.

ANDREW Ng: Artificial Intelligence is the New Electricity. Stanford: Stanford Graduate School of Business, 2 fev. 2017. 1 vídeo (1h 27 min). Publicado por Stanford Graduate School of Business. Disponível em: <https://www.youtube.com/watch?v=21EiKfQYZXc>. Acesso em 30 dez. 2020.

ANDRADE, Manuel A. Domingues. Teoria geral da relação jurídica. Coimbra: Almedina, 1992. v. 1.

BREEN, Jason. YouTube or YouLose? Can YouTube Survive a Copyright Infringement Lawsuit. Bepress Legal Series.Working Paper 1950, Los Angeles, p. 1-37, 18 jan. 2007. Disponível em: <https://law.bepress.com/cgi/viewcontent.cgi?article=9209&context=expresso>. Acesso em: 10 dez. 2020.

BINNS, Reuben; GALLO, Valeria. Automated Decision Making: the role of meaningful human reviews. In: ICO. Information Commissioner's Office. 12 abr. 2019. Disponível em: <https://ico.org.uk/about-the-ico/news-and-events/ai-blog-automated-decision-making-the-role-of-meaningful-human-reviews/>. Acesso em: 11 jan. 2021.

CHACE, Calum. Surviving AI: the promise and peril of artificial intelligence. Oxford: Three Cs, 2015. Kindle Edition.

CLARKE, Roger. Profiling: a hidden challenge to the regulation of data surveillance. Journal Of Law, Information And Science, v. 2, n. 4, jan. 1993. Disponível em: <http://www.austlii.edu.au/cgi-bin/sinodisp/au/journals/JlLawInfoSci/1993/26.html?query=>. Acesso em: 10 dez. 2020.

CITRON, Danielle Keats. Technological Due Process. Washington University Law Review, Washington, D.c., v. 85, n. 6, p. 1249-1313, ago. 2008. Disponível em: <https://openscholarship.wustl.edu/cgi/viewcontent.cgi?article=1166&context=law_lawreview>. Acesso em: 17 jul. 2020.

CRAWFORD, Kate; SCHULTZ, Jason. Big Data and Due Process: toward a framework to redress predictive privacy harms. Boston College Law Review, Boston, v. 55, n. 1, p. 93-128, 29 jan. 2014. Disponível em: <https://lawdigitalcommons.bc.edu/bclr/vol55/iss1/4>. Acesso em: 17 jul. 2020.

ERTEL, Wolfgang. Introduction. Undergraduate Topics In Computer Science, p. 1-21, 2017. Springer International Publishing. <http://dx.doi.org/10.1007/978-3-319-58487-4_1>.

GARVIE, Clare; FRANKLE, Jonathan. Facial-Recognition Software Might Have a Racial Bias Problem: Depending on how algorithms are trained, they could be significantly more accurate when identifying white faces than African American one. In: THE ATLANTIC. The Atlantic, 6 abr. 2016. Disponível em: <https://www.theatlantic.com/technology/archive/2016/04/the-underlying-bias-of-facial-recognition-systems/476991/>. Acesso em: 22 dez. 2020.

HANNÁK, Anikó; WAGNER, Claudia; GARCIA, David; MISLOVE, Alan; STROHMAIER, Markus; WILSON, Christo. Bias in Online Freelance Marketplaces: Evidence from TaskRabbit and Fiverr. In Proceedings of the 2017 ACM Conference on Computer Supported Cooperative Work and Social Computing, New York, p. 1914–1933, Fev. 2017.

HILDEBRANDT, Mireille. Privacy as Protection of the Incomputable Self: from agnostic to agonistic machine learning. Theoretical Inquiries In Law, Tel Aviv, v. 20, n. 1, p. 83-121, jan. 2019. Disponível em: <https://www7.tau.ac.il/ojs/index.php/til/article/view/1622/1723>. Acesso em: 17 jul. 2020.

HITACHI-UTOKYO LABORATORY (H-UTOKYO LAB). Society 5.0: a people-centric super-smart society. Tokyo: Springer, 2018. Edição do Kindle.

ICO. What does the UK GDPR say about automated decision-making and profiling?. In: ICO. Information Commissioner's Office. Disponível em: <https://ico.org.uk/for-organisations/guide-to-data-protection/guide-to-the-general-data-protection-regulation-gdpr/automated-decision-making-and-profiling/what-does-the-uk-gdpr-say-about-automated-decision-making-and-profiling/>. Acesso em: 11 jan. 2021.

JUSTICE AND CONSUMERS (Europea Union). Guidelines on Automated individual decision-making and Profiling for the purposes of Regulation 2016/679. In: JUSTICE AND CONSUMERS (Europea Union). European Commission. Disponível em: <https://ec.europa.eu/newsroom/article29/item-detail.cfm?item_id=612053>. Acesso em: 11 jan. 2021.

KEARNS, Michael; ROTH, Aaron. The Ethical Algorithm: the science of socially aware algorithm design. New York: Oxford University Press, 2019. Edição Kindle.

KELLY, Kevin. Inevitável: as 12 forças tecnológicas que mudarão nosso mundo. Rio de Janeio:Alta Books, 2019, Tradução de Cristina Yamagami.

KUBAT, Miroslav. An Introduction to Machine Learning. 2. ed. Coral Gables: Springer, 2017.

LEE, Tian-Shyug; CHEN, I-Fei. A two-stage hybrid credit scoring model using artificial neural networks and multivariate adaptive regression splines. Expert Systems with Applications, [s. l.], v. 28, n. 4, p. 743-752, mai. 2005.

LÉVY, Pierre. As tecnologias da inteligência: o futuro do pensamento na era da informática. São Paulo: Editora 34, 1993. Tradução de Carlos Irineu da Costa.

MASSACHUSETTS INSTITUTE OF TECHNOLOGY (ed.). MIT Technology Review. Self-driving cars. Topics. Disponível em: <https://www.technologyreview.com/topic/smart-cities/self-driving-cars/>. Acesso em: 02 jun. 2020.

MENDES, Laura Schertel. Privacidade, proteção de dados e defesa do consumidor: linhas gerais de um novo direito fundamental. São Paulo: Saraiva, 2014.

MIT TECHNOLOGY REVIEW INSIGHTS. How AI is humanizing health care: Artificial intelligence is helping health-care professionals do their jobs better, giving them the tools to build a smarter, more efficient ecosystem. In: MASSACHUSETTS INSTITUTE OF TECHNOLOGY (ed.). MIT Technology Review. [S. l.], 22 jan. 2020. Disponível em: <https://www.technologyreview.com/2020/01/22/276128/how-ai-is-humanizing-health-care/>. Acesso em: 2 jun. 2020.

MONTI, Andrea. Tribunale di Milano: Ord. 24 marzo 2011. In: MONTI, Andrea. ICT LEX: Diritto, politica, cultura della Rete. [S.l.], 24 mar. 2011. Disponível em: <https://www.ictlex.net/?p=1285>. Acesso em: 7 jan. 2021.

MUSSA, Adriano. Inteligência Artificial - Mitos e Verdades: as reais oportunidades de criação de valor nos negócios e os impactos no futuro do trabalho. São Paulo: Saint Paul, 2020. Edição Kindle.

NORVIG, Peter Peter; NORVIG, Peter. Inteligência Artificial. 3. ed. Rio de Janeiro: Elsevier, 2013. Tradução de Regina Célia Simille.

O’NEIL, Cathy. Weapons of math destruction: how big data increases inequality and threatens democracy. New York:Crown Publishers, 2016. Ebook.

PERRY, Walter L.; MCINNIS, Brian; PRICE, Carter C.; SMITH, Susan C.; HOLLYWOOD, John S. Predictive Policing: The Role of Crime Forecasting in Law Enforcement Operations. [S. l.]: RAND Corporation, 2013. E-book.

RAHWAN, ¬Iyad et al. Machine behaviour. Nature, [s. l.], v. 568, p. 477–486, 24 abr. 2019. Disponível em: <https://www.nature.com/articles/s41586-019-1138-y>. Acesso em: 2 jun. 2020.

SCHILLER, Arnold; WEISKOPF, Tobias. Automated Censorship in the Digital Space. In: YOUNG EUROPEAN FEDERALISTS (Europe). The New Federalist, 1 maio 2019. Tradução de Nora Teuma. Disponível em: <https://www.thenewfederalist.eu/automated-censorship-in-the-digital-space?lang=fr>. Acesso em: 9 dez. 2020.

SEJNOWSKI, Terrence J. A revolução do aprendizado profundo. Rio de Janeiro: Alta Books, 2019. Traduzido por Carolina Gaio.

THOMSON, Amy; BODONI, Stephanie. Google CEO Thinks AI Will Be More Profound Change Than Fire. In: Bloomberg. [S. l.], 22 jan. 2020. Disponível em: <https://www.bloomberg.com/news/articles/2020-01-22/google-ceo-thinks-ai-is-more-profound-than-fire>. Acesso em: 2 jun. 2020.

WEBER, Max. A objetividade do conhecimento nas ciências sociais. In: FERNANDES, Florestan (org.). Weber: sociologia. São Paulo: Ática, 1999. Coleção Grandes Cientistas Sociais.

Downloads

Published

2022-10-07

How to Cite

REIS, Nazareno César Moreira; FURTADO , Gabriel Rocha. Automated Decisions: Definition, Benefits and Risks. civilistica.com: revista eletrônica de direito civil, Rio de Janeiro, v. 11, n. 2, p. 1–44, 2022. Disponível em: https://civilistica.emnuvens.com.br/redc/article/view/763. Acesso em: 17 sep. 2024.

Issue

Vol. 11 No. 2 (2022)

Section

Contemporary doctrine