Discriminação algorítmica: ações afirmativas como estratégia de combate
Palavras-chave:
Discriminação algorítmica, Ações afirmativas, Inteligência artificialResumo
O enviesamento algorítmico aparece como um problema contemporâneo, à medida que os usos da inteligência artificial se tornam mais frequentes no dia a dia. Embora esteja sendo usado em vários campos, problemas como opacidade de algoritmo e machine learning, dentre outros, geralmente são apresentados como barreiras para acabar com os resultados do preconceito. Este artigo propõe que a ação afirmativa pode ser um passo para resolver esse problema.
Downloads
Referências
AGÊNCIA CÂMARA DE NOTÍCIAS. Luiza Trajano defende cotas para ampliar acesso dos negros ao mercado de trabalho. Disponível em: <https://www.camara.leg.br/noticias/744455-luiza-trajano-defende-cotas-para-ampliar-acesso-dos-negros-ao-mercado-de-trabalho/>. Acesso em 22 set. 2021.
BAROCAS, Solon; SELBST; Adrew D. Big Data’s Disparate Impact. California Law Review, v. 104, p. 2-6, 2016. Disponível em: <http://ssrn.com/abstract=2477899>. Acesso em: 01 mar. 2020.
BIONI, Bruno Ricardo. Proteção de dados pessoais: a função e os limites do consentimento. Rio de Janeiro: Forense, 2019.
BIONI, Bruno Ricardo; LUCIANO, Maria. O princípio da precaução na regulação da inteligência artificial: seriam as leis de proteção de dados o seu portal de entrada? In: FRAZÃO, Ana; MOLHOLLAND, Caitlin (org.). Inteligência Artificial e o Direito: ética regulação e responsabilidade. São Paulo: Thomson Reuters Brasil, 2019. p. 207-228.
CANO, Rosa Jiménez. O robô racista, sexista e xenófobo da Microsoft acaba silenciado: Projetado para o mercado dos ‘millennials’ nos Estados Unidos, Tay não foi capaz de lidar com piadas e perguntas controvertidas. El País, 25 maio 2016. Disponível em: <https://brasil.elpais.com/brasil/2016/03/24/tecnologia/1458855274_096966.html>. Acesso em: 10 nov. 2020.
CONSELHO NACIONAL DE JUSTIÇA. Pesquisa sobre negros e negras no Poder Judiciário. Brasília: CNJ, 2021. Disponível em: <https://www.cnj.jus.br/wp-content/uploads/2021/09/rela-negros-negras-no-poder-judiciario-150921.pdf>. Acesso em 20 set. 2021.
COSTA, Diego Carneiro. O viés do algoritmo e a discriminação por motivos relacionados à sexualidade. Dissertação (Mestrado) – Universidade Federal da Bahia, Faculdade de Direito, Salvador, 2020.
DONEDA, Danilo. Da privacidade à proteção dos dados pessoais. Rio de Janeiro: Renovar, 2006.
FERRARI, Isabela. Accountability de algoritmos: a falácia do acesso ao código e caminhos para uma explicabilidade efetiva. Inteligência Artificial: 3º Grupo de Pesquisa do ITS, ITS - Instituto de Tecnologia e Sociedade do Rio, 2018. Disponível em: <https://itsrio.org/wpcontent/uploads/2019/03/Isabela-Ferrari.pdf>. Acesso em: 22 nov. 2020.
FERRARI, Isabela; BECKER, Daniel; WOLKART, Erik Navarro. Arbitrium ex machina: panorama, riscos e a necessidade de regulação das decisões informadas por algoritmos. Revista dos Tribunais, v. 995, p. 635-655, set. 2018.
FRAZÃO, Ana. Discriminação algorítmica: Compreendendo a “datificação” e a estruturação da sociedade da classificação JOTA, 2021. Disponível em: <https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/discriminacao-algoritmica-2-23062021>. Acesso em 22 set. 2021.
FRAZÃO, Ana. Discriminação algorítmica: JOTA, 2021. Disponível em: <https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/discriminacao-algoritmica-ciencia-dos-dados-como-acao-politica-21072021?amp>. Acesso em 24 set. 2021.
FRAZÃO, Ana. Nova LGPD: o tratamento de dados pessoais sensíveis. Disponível em: <https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/nova-lgpdo-tratamento-dos-dados-pessoais-sensiveis-26092018>. Acesso em 14 nov. 2020.
FRYER JR, Roland G; LOURY, Glenn C. Affirmative action and its mythology. In: Journal of Economic Perspectives, vol. 19, no. 3, summer 2005. Disponível em <https://www.aeaweb.org/articles?id=10.1257/089533005774357888>. Acesso em 20 set. 2021, p. 147.
GUTIERREZ, Andriei. É possível confiar em um sistema de inteligência artificial? Práticas em torno da melhoria da sua confiança, segurança e evidências de accountability. In: FRAZÃO, Ana; MOLHOLLAND, Caitlin (org.). Inteligência Artificial e o Direito: ética regulação e responsabilidade. São Paulo: Thomson Reuters Brasil, 2019. p. 83-96.
G1. Bolsonaro diz que política de cotas é 'equivocada' e que política de combate ao preconceito é 'coitadismo'. Disponível em: <https://g1.globo.com/politica/eleicoes/2018/noticia/2018/10/24/bolsonaro-diz-ser-contra-cotas-e-que-politica-de-combate-ao-preconceito-e-coitadismo.ghtml>. Acesso em 18 set. 2021.
HERINGER, Rosana. Um balanço de 10 anos de políticas de ação afirmativa no Brasil. In: PENHA-LOPES, Vânia; NEVES, Paulo Sérgio da Costa (Orgs). Revista Tomo. n. 24. 2014. Disponível em: <https://seer.ufs.br/index.php/tomo/article/view/3184> Acesso em: 20 set. 2021.
JUNQUEIRA, Thiago. Tratamento de dados pessoais e discriminação algorítmica nos seguros. São Paulo: Thomson Reuters Brasil, 2020.
LENTES Racistas: Rui Costa está transformando a Bahia em um laboratório de vigilância com reconhecimento facial. The Intercept Brasil, 20 set. 2021. Disponível em: https://theintercept.com/2021/09/20/rui-costa-esta-transformando-a-bahia-em-um-laboratorio-de-vigilancia-com-reconhecimento-facial/. Acesso em: 24 set. 2021.
LONGHI, João Victor Rozatti. #ódio: responsabilidade civil nas redes sociais e a questão do hate speech. In: GODINHO, Adriano Mateleto et al. Responsabilidade civil e novas tecnologias. Indaiatuba: Editora Foco, 2020. E-book.
MAIA, Dhiego. Ao menos 12 universidades federais do país têm cotas para alunos trans. In: Folha de São Paulo, 20/05/2019. Disponível em: <https://www1.folha.uol.com.br/educacao/2019/05/ao-menos-12-universidades-federais-do-pais-tem-cotas-para-alunos-trans.shtml>. Acesso em 15 set. 2021.
MACIEL, Carina Elisabeth; TEIXEIRA, Samantha Felisberto; SANTOS, Lourival dos. Política de cotas e bancas de heteroidentificação na UFMS: uma história em construção. Revista da Associação Brasileira de Pesquisadores/as Negros/as (ABPN), [S.l.], v. 11, n. 29, p. 78-93, ago. 2019. Disponível em: <https://abpnrevista.org.br/index.php/site/article/view/752>. Acesso em: 22 set. 2021
MULHOLLAND, Caitlin Sampaio. Dados pessoais sensíveis e a tutela de direitos fundamentais: uma análise à luz da lei geral de proteção de dados pessoais (Lei 13.709/18). Revista de Direito e Garantias Fundamentais, Vitória, v. 19, p.159-180, set./dez. 2018.
NUNES, Dierle; MARQUES, Ana Luiza Pinto Coelho. Inteligência artificial e direito processual: vieses algorítmicos e os riscos de atribuição de função decisória às máquinas. Revista dos Tribunais, v. 285, nov. 2018.
OLIVEIRA, Joana. Weintraub deixa Ministério da Educação, mas antes revoga cotas para negros e indígenas na pós-graduação. In: El País. Disponível em: <https://brasil.elpais.com/brasil/2020-06-18/prestes-a-deixar-cargo-weintraub-revoga-portaria-de-cotas-a-negros-e-indigenas-na-pos-graduacao.html>. Acesso em 18 set. 2021.
PASQUALE, Frank. The Black Box Society: The Secret Algorithms that control money and information. Cambridge: Havard University Press, 2015.
REQUIÃO, Maurício. Estatuto da pessoa com deficiência, incapacidades e interdição. 2. ed. Florianópolis: Tirant Lo Blanch, 2018.
SILVA FILHO, Penildon. Políticas de ação afirmativa na educação brasileira: estudo de caso do programa de reserva de vagas para ingresso na Universidade Federal da Bahia. Disponível em: <https://repositorio.ufba.br/ri/handle/ri/11855>. Acesso em 18 set. 2021.
UNIÃO EUROPEIA. Regulamento (UR) 2016/679. 2016. Disponível em: <https://www.cncs.gov.pt/content/files/regulamento_ue_2016-679_protecao_de_dados.pdf>. Acesso em: 12 nov. 2020.
UNIÃO EUROPEIA. Livro Branco sobre a inteligência artificial - Uma abordagem europeia virada para a excelência e a confiança. 2020. Disponível em: <https://op.europa.eu/ pt/publication-detail/-/publication/ac957f13-53c6-11ea-aece-01aa75ed71a1>. Acesso em: 24 set. 2021.
UNIÃO EUROPEIA. Regulamento do parlamento europeu e do conselho que estabelece regras harmonizadas em matéria de inteligência artificial e altera determinados atos legislativos da união. 2021. Disponível em: <https://op.europa.eu/pt/publication-detail/-/publication/ac957f13-53c6-11ea-aece-01aa75ed71a1>. Acesso em: 24 set. 2021.
VIEIRA, Renato. ARENDS-KUENNING, Mary Paula. affirmative action in Brazilian universities: effects on the enrollment of targeted groups. In: Economics of Education Review, v. 73, 2019. Disponível em: <https://www.sciencedirect.com/science/article/abs/pii/ S0272775718306216?via%3Dihub>. Acesso em 22 set. 2021.
Civilistica.com está licenciada sob a licença 