Decisões automatizadas: definição, benefícios e riscos

Autores

  • Nazareno César Moreira Reis Instituto Brasiliense de Direito Público
  • Gabriel Rocha Furtado Universidade Federal do Piauí

Palavras-chave:

Decisões automatizadas, Inteligência artificial, Tratamento de dados, Dados pessoais e Lei Geral de Proteção de Dados

Resumo

O presente artigo tratou sobre a temática das decisões automatizadas produzidas por máquinas eletrônicas à luz do marco legal sobre o tema no Brasil: A Lei Geral de Proteção de Dados. A pesquisa buscou investigar o que são das decisões automatizadas, quais seus benefícios e riscos à luz das disposições da LGPD. A metodologia usada foi a pesquisa bibliográfica de doutrinas jurídicas e a pesquisa documental de legislação. Diante da complexidade e interdisciplinaridade do tema com outras áreas, mostra-se necessária  a análise de textos fora do Direito, tais como de Ciência da Computação e de Filosofia da Tecnologia, em determinados momentos da pesquisa. Para concluir o trabalho, foi traçada uma definição para as decisões automatizada, com base na pesquisa feita, bem como foram pontuados os achados acerca de riscos e benefícios dessa forma decisória.

Downloads

Não há dados estatísticos.

Biografia do Autor

Nazareno César Moreira Reis, Instituto Brasiliense de Direito Público

Bacharel em Direito pela Universidade Federal do Piauí (1997) e Especialista em Direito Tributário e Finanças Públicas pelo Instituto Brasileiro de Direito Público (2004). Juiz Federal da Justiça Federal - Seção Judiciária do Estado do Piauí. Professor do Instituto de Ciências Jurídicas e Sociais Professor Camillo Filho.

Gabriel Rocha Furtado , Universidade Federal do Piauí

Professor Adjunto de Direito na Universidade Federal do Piauí (UFPI). Professor Adjunto de Direito no Instituto de Ensino Superior CEV (iCEV). Doutor e Mestre em Direito Civil pela Universidade do Estado do Rio de Janeiro (UERJ). Especialista em Ciências Penais pela Universidade do Sul de Santa Catarina (UNISUL). Bacharel em Direito pela Universidade Federal do Piauí (UFPI). Advogado. Pesquisador visitante no Max-Planck-Institut für ausländisches und internationales Privatrecht, Hamburg-Alemanha. Membro do Instituto Brasileiro de Direito Civil (IBDCivil). Membro Fundador do Instituto Brasileiro de Direito Contratual (IBDCont). Parecerista da Revista Eletrônica de Direito Civil Civilística.com (ISSN 2316-8374). Parecerista da Revista de Ciências Jurídicas Pensar, Unifor (ISSN 2317-2150). Parecerista da Revista de Direito Civil Contemporâneo, RDCC (ISSN 2358-1433). Parecerista da Revista Arquivo Jurídico, UFPI (ISSN 2317-918X). Foi Chefe do Departamento de Ciências Jurídicas (2016-2018). Foi Conselheiro Seccional da OAB/PI (2016-2018). Foi Diretor de Pesquisa e Pós-Graduação da Escola Superior de Advocacia do Piauí, ESA-PI (2016-2018). Foi Membro do Conselho Editorial da Revista da OAB-PI (ISSN 2318-1621). Tem experiência na área de Direito, com ênfase em Direito Privado, atuando principalmente nos seguintes temas: Teoria Geral do Direito Civil, Obrigações, Contratos, Responsabilidade Civil, Direitos Reais, Propriedade Intelectual e Direito do Agronegócio.

Referências

ABREU, Jacqueline de Souza. Tratado de Proteção deTratamento de Dados Pessoais para Segurança Pública: contornos do regime jurídico pós-LGPD. In: MENDES, Laura Schertel; DONEDA, Danilo; SARLET, Ingo Wolfgang; RODRIGUES JUNIOR, Otavio Luiz; BIONI, Bruno (org.). Tratado de Proteção de Dados Pessoais. Rio de Janeiro: Forense, 2021. Edição do Kindle.

AGGARWAL, Charu C. Neural Networks and Deep Learning: a textbook. New York: Springe, 2018.

AGOSTINHO, Santo. Confissões. São Paulo: Companhia das Letras, 2017. Tradução de Lorenzo Mammì. Edição do Kindle.

AGRAWAL, A; GANS, J.; GOLDFARB. Máquinas preditivas: a simples economia da Inteligência Artificial. Rio de Janeiro: Alta Books, 2018. Tradução de Wendy Campos.

AMBROSE, Meg Leta; AMBROSE, Ben M.. When robots lie a comparison of auto-defamation law. 2014 Ieee International Workshop On Advanced Robotics And Its Social Impacts, [S.L.], p. 56-61, set. 2014. IEEE. <http://dx.doi.org/10.1109/arso.2014.7020980>.

ANDREW Ng: Artificial Intelligence is the New Electricity. Stanford: Stanford Graduate School of Business, 2 fev. 2017. 1 vídeo (1h 27 min). Publicado por Stanford Graduate School of Business. Disponível em: <https://www.youtube.com/watch?v=21EiKfQYZXc>. Acesso em 30 dez. 2020.

ANDRADE, Manuel A. Domingues. Teoria geral da relação jurídica. Coimbra: Almedina, 1992. v. 1.

BREEN, Jason. YouTube or YouLose? Can YouTube Survive a Copyright Infringement Lawsuit. Bepress Legal Series.Working Paper 1950, Los Angeles, p. 1-37, 18 jan. 2007. Disponível em: <https://law.bepress.com/cgi/viewcontent.cgi?article=9209&context=expresso>. Acesso em: 10 dez. 2020.

BINNS, Reuben; GALLO, Valeria. Automated Decision Making: the role of meaningful human reviews. In: ICO. Information Commissioner's Office. 12 abr. 2019. Disponível em: <https://ico.org.uk/about-the-ico/news-and-events/ai-blog-automated-decision-making-the-role-of-meaningful-human-reviews/>. Acesso em: 11 jan. 2021.

CHACE, Calum. Surviving AI: the promise and peril of artificial intelligence. Oxford: Three Cs, 2015. Kindle Edition.

CLARKE, Roger. Profiling: a hidden challenge to the regulation of data surveillance. Journal Of Law, Information And Science, v. 2, n. 4, jan. 1993. Disponível em: <http://www.austlii.edu.au/cgi-bin/sinodisp/au/journals/JlLawInfoSci/1993/26.html?query=>. Acesso em: 10 dez. 2020.

CITRON, Danielle Keats. Technological Due Process. Washington University Law Review, Washington, D.c., v. 85, n. 6, p. 1249-1313, ago. 2008. Disponível em: <https://openscholarship.wustl.edu/cgi/viewcontent.cgi?article=1166&context=law_lawreview>. Acesso em: 17 jul. 2020.

CRAWFORD, Kate; SCHULTZ, Jason. Big Data and Due Process: toward a framework to redress predictive privacy harms. Boston College Law Review, Boston, v. 55, n. 1, p. 93-128, 29 jan. 2014. Disponível em: <https://lawdigitalcommons.bc.edu/bclr/vol55/iss1/4>. Acesso em: 17 jul. 2020.

ERTEL, Wolfgang. Introduction. Undergraduate Topics In Computer Science, p. 1-21, 2017. Springer International Publishing. <http://dx.doi.org/10.1007/978-3-319-58487-4_1>.

GARVIE, Clare; FRANKLE, Jonathan. Facial-Recognition Software Might Have a Racial Bias Problem: Depending on how algorithms are trained, they could be significantly more accurate when identifying white faces than African American one. In: THE ATLANTIC. The Atlantic, 6 abr. 2016. Disponível em: <https://www.theatlantic.com/technology/archive/2016/04/the-underlying-bias-of-facial-recognition-systems/476991/>. Acesso em: 22 dez. 2020.

HANNÁK, Anikó; WAGNER, Claudia; GARCIA, David; MISLOVE, Alan; STROHMAIER, Markus; WILSON, Christo. Bias in Online Freelance Marketplaces: Evidence from TaskRabbit and Fiverr. In Proceedings of the 2017 ACM Conference on Computer Supported Cooperative Work and Social Computing, New York, p. 1914–1933, Fev. 2017.

HILDEBRANDT, Mireille. Privacy as Protection of the Incomputable Self: from agnostic to agonistic machine learning. Theoretical Inquiries In Law, Tel Aviv, v. 20, n. 1, p. 83-121, jan. 2019. Disponível em: <https://www7.tau.ac.il/ojs/index.php/til/article/view/1622/1723>. Acesso em: 17 jul. 2020.

HITACHI-UTOKYO LABORATORY (H-UTOKYO LAB). Society 5.0: a people-centric super-smart society. Tokyo: Springer, 2018. Edição do Kindle.

ICO. What does the UK GDPR say about automated decision-making and profiling?. In: ICO. Information Commissioner's Office. Disponível em: <https://ico.org.uk/for-organisations/guide-to-data-protection/guide-to-the-general-data-protection-regulation-gdpr/automated-decision-making-and-profiling/what-does-the-uk-gdpr-say-about-automated-decision-making-and-profiling/>. Acesso em: 11 jan. 2021.

JUSTICE AND CONSUMERS (Europea Union). Guidelines on Automated individual decision-making and Profiling for the purposes of Regulation 2016/679. In: JUSTICE AND CONSUMERS (Europea Union). European Commission. Disponível em: <https://ec.europa.eu/newsroom/article29/item-detail.cfm?item_id=612053>. Acesso em: 11 jan. 2021.

KEARNS, Michael; ROTH, Aaron. The Ethical Algorithm: the science of socially aware algorithm design. New York: Oxford University Press, 2019. Edição Kindle.

KELLY, Kevin. Inevitável: as 12 forças tecnológicas que mudarão nosso mundo. Rio de Janeio:Alta Books, 2019, Tradução de Cristina Yamagami.

KUBAT, Miroslav. An Introduction to Machine Learning. 2. ed. Coral Gables: Springer, 2017.

LEE, Tian-Shyug; CHEN, I-Fei. A two-stage hybrid credit scoring model using artificial neural networks and multivariate adaptive regression splines. Expert Systems with Applications, [s. l.], v. 28, n. 4, p. 743-752, mai. 2005.

LÉVY, Pierre. As tecnologias da inteligência: o futuro do pensamento na era da informática. São Paulo: Editora 34, 1993. Tradução de Carlos Irineu da Costa.

MASSACHUSETTS INSTITUTE OF TECHNOLOGY (ed.). MIT Technology Review. Self-driving cars. Topics. Disponível em: <https://www.technologyreview.com/topic/smart-cities/self-driving-cars/>. Acesso em: 02 jun. 2020.

MENDES, Laura Schertel. Privacidade, proteção de dados e defesa do consumidor: linhas gerais de um novo direito fundamental. São Paulo: Saraiva, 2014.

MIT TECHNOLOGY REVIEW INSIGHTS. How AI is humanizing health care: Artificial intelligence is helping health-care professionals do their jobs better, giving them the tools to build a smarter, more efficient ecosystem. In: MASSACHUSETTS INSTITUTE OF TECHNOLOGY (ed.). MIT Technology Review. [S. l.], 22 jan. 2020. Disponível em: <https://www.technologyreview.com/2020/01/22/276128/how-ai-is-humanizing-health-care/>. Acesso em: 2 jun. 2020.

MONTI, Andrea. Tribunale di Milano: Ord. 24 marzo 2011. In: MONTI, Andrea. ICT LEX: Diritto, politica, cultura della Rete. [S.l.], 24 mar. 2011. Disponível em: <https://www.ictlex.net/?p=1285>. Acesso em: 7 jan. 2021.

MUSSA, Adriano. Inteligência Artificial - Mitos e Verdades: as reais oportunidades de criação de valor nos negócios e os impactos no futuro do trabalho. São Paulo: Saint Paul, 2020. Edição Kindle.

NORVIG, Peter Peter; NORVIG, Peter. Inteligência Artificial. 3. ed. Rio de Janeiro: Elsevier, 2013. Tradução de Regina Célia Simille.

O’NEIL, Cathy. Weapons of math destruction: how big data increases inequality and threatens democracy. New York:Crown Publishers, 2016. Ebook.

PERRY, Walter L.; MCINNIS, Brian; PRICE, Carter C.; SMITH, Susan C.; HOLLYWOOD, John S. Predictive Policing: The Role of Crime Forecasting in Law Enforcement Operations. [S. l.]: RAND Corporation, 2013. E-book.

RAHWAN, ¬Iyad et al. Machine behaviour. Nature, [s. l.], v. 568, p. 477–486, 24 abr. 2019. Disponível em: <https://www.nature.com/articles/s41586-019-1138-y>. Acesso em: 2 jun. 2020.

SCHILLER, Arnold; WEISKOPF, Tobias. Automated Censorship in the Digital Space. In: YOUNG EUROPEAN FEDERALISTS (Europe). The New Federalist, 1 maio 2019. Tradução de Nora Teuma. Disponível em: <https://www.thenewfederalist.eu/automated-censorship-in-the-digital-space?lang=fr>. Acesso em: 9 dez. 2020.

SEJNOWSKI, Terrence J. A revolução do aprendizado profundo. Rio de Janeiro: Alta Books, 2019. Traduzido por Carolina Gaio.

THOMSON, Amy; BODONI, Stephanie. Google CEO Thinks AI Will Be More Profound Change Than Fire. In: Bloomberg. [S. l.], 22 jan. 2020. Disponível em: <https://www.bloomberg.com/news/articles/2020-01-22/google-ceo-thinks-ai-is-more-profound-than-fire>. Acesso em: 2 jun. 2020.

WEBER, Max. A objetividade do conhecimento nas ciências sociais. In: FERNANDES, Florestan (org.). Weber: sociologia. São Paulo: Ática, 1999. Coleção Grandes Cientistas Sociais.

Downloads

Publicado

2022-10-07

Como Citar

REIS, Nazareno César Moreira; FURTADO , Gabriel Rocha. Decisões automatizadas: definição, benefícios e riscos. Civilistica.com, Rio de Janeiro, v. 11, n. 2, p. 1–44, 2022. Disponível em: https://civilistica.emnuvens.com.br/redc/article/view/763. Acesso em: 12 set. 2024.

Edição

v. 11 n. 2 (2022)

Seção

Doutrina contemporânea