Discriminação algorítmica: ações afirmativas como estratégia de combate

Autores

Palavras-chave:

Discriminação algorítmica, Ações afirmativas, Inteligência artificial

Resumo

O enviesamento algorítmico aparece como um problema contemporâneo, à medida que os usos da inteligência artificial se tornam mais frequentes no dia a dia. Embora esteja sendo usado em vários campos, problemas como opacidade de algoritmo e machine learning, dentre outros, geralmente são apresentados como barreiras para acabar com os resultados do preconceito. Este artigo propõe que a ação afirmativa pode ser um passo para resolver esse problema.

Downloads

Não há dados estatísticos.

Biografia do Autor

Maurício Requião, Universidade Federal da Bahia - UFBA

Doutor em Direito. Professor de Direito Civil na Faculdade de Direito da UFBA e na Faculdade Baiana de Direito. Líder do grupo de pesquisa “Autonomia e Direito Civil contemporâneo”. Advogado. E-mail: maurequiao@gmail.com.

Diego Costa, UFBA

Mestre em Direito na Universidade Federal da Bahia. Pesquisador do Grupo de Pesquisa “Autonomia e Direito Civil contemporâneo”. Professor de Direito da UNIFACS e na Faculdade de Ciências Sociais Aplicadas – FACISA. Analista Judiciário no Tribunal Regional do Trabalho da 5ª Região. E-mail: diegcost@gmail.com.

Referências

AGÊNCIA CÂMARA DE NOTÍCIAS. Luiza Trajano defende cotas para ampliar acesso dos negros ao mercado de trabalho. Disponível em: <https://www.camara.leg.br/noticias/744455-luiza-trajano-defende-cotas-para-ampliar-acesso-dos-negros-ao-mercado-de-trabalho/>. Acesso em 22 set. 2021.

BAROCAS, Solon; SELBST; Adrew D. Big Data’s Disparate Impact. California Law Review, v. 104, p. 2-6, 2016. Disponível em: <http://ssrn.com/abstract=2477899>. Acesso em: 01 mar. 2020.

BIONI, Bruno Ricardo. Proteção de dados pessoais: a função e os limites do consentimento. Rio de Janeiro: Forense, 2019.

BIONI, Bruno Ricardo; LUCIANO, Maria. O princípio da precaução na regulação da inteligência artificial: seriam as leis de proteção de dados o seu portal de entrada? In: FRAZÃO, Ana; MOLHOLLAND, Caitlin (org.). Inteligência Artificial e o Direito: ética regulação e responsabilidade. São Paulo: Thomson Reuters Brasil, 2019. p. 207-228.

CANO, Rosa Jiménez. O robô racista, sexista e xenófobo da Microsoft acaba silenciado: Projetado para o mercado dos ‘millennials’ nos Estados Unidos, Tay não foi capaz de lidar com piadas e perguntas controvertidas. El País, 25 maio 2016. Disponível em: <https://brasil.elpais.com/brasil/2016/03/24/tecnologia/1458855274_096966.html>. Acesso em: 10 nov. 2020.

CONSELHO NACIONAL DE JUSTIÇA. Pesquisa sobre negros e negras no Poder Judiciário. Brasília: CNJ, 2021. Disponível em: <https://www.cnj.jus.br/wp-content/uploads/2021/09/rela-negros-negras-no-poder-judiciario-150921.pdf>. Acesso em 20 set. 2021.

COSTA, Diego Carneiro. O viés do algoritmo e a discriminação por motivos relacionados à sexualidade. Dissertação (Mestrado) – Universidade Federal da Bahia, Faculdade de Direito, Salvador, 2020.

DONEDA, Danilo. Da privacidade à proteção dos dados pessoais. Rio de Janeiro: Renovar, 2006.

FERRARI, Isabela. Accountability de algoritmos: a falácia do acesso ao código e caminhos para uma explicabilidade efetiva. Inteligência Artificial: 3º Grupo de Pesquisa do ITS, ITS - Instituto de Tecnologia e Sociedade do Rio, 2018. Disponível em: <https://itsrio.org/wpcontent/uploads/2019/03/Isabela-Ferrari.pdf>. Acesso em: 22 nov. 2020.

FERRARI, Isabela; BECKER, Daniel; WOLKART, Erik Navarro. Arbitrium ex machina: panorama, riscos e a necessidade de regulação das decisões informadas por algoritmos. Revista dos Tribunais, v. 995, p. 635-655, set. 2018.

FRAZÃO, Ana. Discriminação algorítmica: Compreendendo a “datificação” e a estruturação da sociedade da classificação JOTA, 2021. Disponível em: <https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/discriminacao-algoritmica-2-23062021>. Acesso em 22 set. 2021.

FRAZÃO, Ana. Discriminação algorítmica: JOTA, 2021. Disponível em: <https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/discriminacao-algoritmica-ciencia-dos-dados-como-acao-politica-21072021?amp>. Acesso em 24 set. 2021.

FRAZÃO, Ana. Nova LGPD: o tratamento de dados pessoais sensíveis. Disponível em: <https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/nova-lgpdo-tratamento-dos-dados-pessoais-sensiveis-26092018>. Acesso em 14 nov. 2020.

FRYER JR, Roland G; LOURY, Glenn C. Affirmative action and its mythology. In: Journal of Economic Perspectives, vol. 19, no. 3, summer 2005. Disponível em <https://www.aeaweb.org/articles?id=10.1257/089533005774357888>. Acesso em 20 set. 2021, p. 147.

GUTIERREZ, Andriei. É possível confiar em um sistema de inteligência artificial? Práticas em torno da melhoria da sua confiança, segurança e evidências de accountability. In: FRAZÃO, Ana; MOLHOLLAND, Caitlin (org.). Inteligência Artificial e o Direito: ética regulação e responsabilidade. São Paulo: Thomson Reuters Brasil, 2019. p. 83-96.

G1. Bolsonaro diz que política de cotas é 'equivocada' e que política de combate ao preconceito é 'coitadismo'. Disponível em: <https://g1.globo.com/politica/eleicoes/2018/noticia/2018/10/24/bolsonaro-diz-ser-contra-cotas-e-que-politica-de-combate-ao-preconceito-e-coitadismo.ghtml>. Acesso em 18 set. 2021.

HERINGER, Rosana. Um balanço de 10 anos de políticas de ação afirmativa no Brasil. In: PENHA-LOPES, Vânia; NEVES, Paulo Sérgio da Costa (Orgs). Revista Tomo. n. 24. 2014. Disponível em: <https://seer.ufs.br/index.php/tomo/article/view/3184> Acesso em: 20 set. 2021.

JUNQUEIRA, Thiago. Tratamento de dados pessoais e discriminação algorítmica nos seguros. São Paulo: Thomson Reuters Brasil, 2020.

LENTES Racistas: Rui Costa está transformando a Bahia em um laboratório de vigilância com reconhecimento facial. The Intercept Brasil, 20 set. 2021. Disponível em: https://theintercept.com/2021/09/20/rui-costa-esta-transformando-a-bahia-em-um-laboratorio-de-vigilancia-com-reconhecimento-facial/. Acesso em: 24 set. 2021.

LONGHI, João Victor Rozatti. #ódio: responsabilidade civil nas redes sociais e a questão do hate speech. In: GODINHO, Adriano Mateleto et al. Responsabilidade civil e novas tecnologias. Indaiatuba: Editora Foco, 2020. E-book.

MAIA, Dhiego. Ao menos 12 universidades federais do país têm cotas para alunos trans. In: Folha de São Paulo, 20/05/2019. Disponível em: <https://www1.folha.uol.com.br/educacao/2019/05/ao-menos-12-universidades-federais-do-pais-tem-cotas-para-alunos-trans.shtml>. Acesso em 15 set. 2021.

MACIEL, Carina Elisabeth; TEIXEIRA, Samantha Felisberto; SANTOS, Lourival dos. Política de cotas e bancas de heteroidentificação na UFMS: uma história em construção. Revista da Associação Brasileira de Pesquisadores/as Negros/as (ABPN), [S.l.], v. 11, n. 29, p. 78-93, ago. 2019. Disponível em: <https://abpnrevista.org.br/index.php/site/article/view/752>. Acesso em: 22 set. 2021

MULHOLLAND, Caitlin Sampaio. Dados pessoais sensíveis e a tutela de direitos fundamentais: uma análise à luz da lei geral de proteção de dados pessoais (Lei 13.709/18). Revista de Direito e Garantias Fundamentais, Vitória, v. 19, p.159-180, set./dez. 2018.

NUNES, Dierle; MARQUES, Ana Luiza Pinto Coelho. Inteligência artificial e direito processual: vieses algorítmicos e os riscos de atribuição de função decisória às máquinas. Revista dos Tribunais, v. 285, nov. 2018.

OLIVEIRA, Joana. Weintraub deixa Ministério da Educação, mas antes revoga cotas para negros e indígenas na pós-graduação. In: El País. Disponível em: <https://brasil.elpais.com/brasil/2020-06-18/prestes-a-deixar-cargo-weintraub-revoga-portaria-de-cotas-a-negros-e-indigenas-na-pos-graduacao.html>. Acesso em 18 set. 2021.

PASQUALE, Frank. The Black Box Society: The Secret Algorithms that control money and information. Cambridge: Havard University Press, 2015.

REQUIÃO, Maurício. Estatuto da pessoa com deficiência, incapacidades e interdição. 2. ed. Florianópolis: Tirant Lo Blanch, 2018.

SILVA FILHO, Penildon. Políticas de ação afirmativa na educação brasileira: estudo de caso do programa de reserva de vagas para ingresso na Universidade Federal da Bahia. Disponível em: <https://repositorio.ufba.br/ri/handle/ri/11855>. Acesso em 18 set. 2021.

UNIÃO EUROPEIA. Regulamento (UR) 2016/679. 2016. Disponível em: <https://www.cncs.gov.pt/content/files/regulamento_ue_2016-679_protecao_de_dados.pdf>. Acesso em: 12 nov. 2020.

UNIÃO EUROPEIA. Livro Branco sobre a inteligência artificial - Uma abordagem europeia virada para a excelência e a confiança. 2020. Disponível em: <https://op.europa.eu/ pt/publication-detail/-/publication/ac957f13-53c6-11ea-aece-01aa75ed71a1>. Acesso em: 24 set. 2021.

UNIÃO EUROPEIA. Regulamento do parlamento europeu e do conselho que estabelece regras harmonizadas em matéria de inteligência artificial e altera determinados atos legislativos da união. 2021. Disponível em: <https://op.europa.eu/pt/publication-detail/-/publication/ac957f13-53c6-11ea-aece-01aa75ed71a1>. Acesso em: 24 set. 2021.

VIEIRA, Renato. ARENDS-KUENNING, Mary Paula. affirmative action in Brazilian universities: effects on the enrollment of targeted groups. In: Economics of Education Review, v. 73, 2019. Disponível em: <https://www.sciencedirect.com/science/article/abs/pii/ S0272775718306216?via%3Dihub>. Acesso em 22 set. 2021.

Downloads

Publicado

2022-12-25

Como Citar

REQUIÃO, Maurício; COSTA, Diego. Discriminação algorítmica: ações afirmativas como estratégia de combate. Civilistica.com, Rio de Janeiro, v. 11, n. 3, p. 1–24, 2022. Disponível em: https://civilistica.emnuvens.com.br/redc/article/view/804. Acesso em: 15 abr. 2024.

Edição

Seção

Doutrina contemporânea