Viés da automação e responsabilidade civil médica por erro de diagnóstico realizado com auxílio da Inteligência Artificial
Palavras-chave:
Inteligência artificial, Responsabilidade civil médica, Erro de diagnóstico, Viés da automaçãoResumo
A inteligência artificial é cada vez mais utilizada pelos médicos para o auxílio no diagnóstico de doenças. Essa tecnologia, por suas características, é capaz de gerar inúmeros benefícios, tais como permitir que procedimentos de diagnóstico médico sejam realizados de forma invariavelmente mais célere e normalmente mais precisa. Contudo, essa tecnologia é igualmente capaz de fomentar vieses cognitivos e interferir negativamente no processo de tomada de decisão do médico, podendo assim contribuir para a ocorrência de erros de diagnóstico. O presente trabalho apresenta justamente a possibilidade de ocorrência desses erros de diagnóstico decorrentes do viés da automação e o papel da responsabilidade civil do médico frente a essa nova problemática, analisando as diversas variáveis potencialmente ocorrentes. Utiliza-se a metodologia de pesquisa básica quanto à finalidade, descritiva quanto aos objetivos, qualitativa quanto à abordagem, dedutiva e dialética quanto ao método, e bibliográfica quanto ao procedimento.
Downloads
Referências
AMORIM, Bruno de Almeida Lewer. Vulnerabilidade médica no ambiente hospitalar. In: SÁ, Maria Fátima Freire de; NAVES, Bruno Torquato de Oliveira; SOUZA, Iara Antunes de. (Coord.). Direito e Medicina: autonomia e vulnerabilidade em ambiente hospitalar. Indaiatuba: Foco, 2018, p. 35-58.
BONNA, Alexandre; NOGAROLI, Rafaella; USCOCOVICH, Carolina Martins. Funções da responsabilidade civil médica e o dano moral por erro médico: análise doutrinária e jurisprudencial do Tribunal de Justiça do Estado do Paraná entre os anos de 2013 e 2017. In: KFOURI NETO, Miguel; NOGAROLI, Rafaella. (Org.). Debates contemporâneos em direito médico e da saúde. 2ed. rev., atual. e ampl. São Paulo: Thomson Reuters Brasil, 2022.
BLUMENTHAL-BARBY, Jennifer S.; KRIEGER, Heather. Cognitive biases and heuristics in medical decision making: a critical review using a systematic search strategy. Medical Decision Making, v. 35, n. 4, p. 539-557, 2015. Disponível em: journals.sagepub.com/. Acesso em: 19 abr. 2022.
CAVALIERI FILHO, Sergio. Programa de responsabilidade civil. 11ª ed., São Paulo: Atlas, 2014.
CBS NEWS. “A.I. Making a Difference in Cancer Care”. Publicado em 07/10/2016, disponível em www.cbsnews.com/. Acesso em 27/05/2022.
CHA, Dongchul et al. Automated diagnosis of ear disease using ensemble deep learning with a big otoendoscopy image database. EBioMedicine, v. 45, p. 606-614, 2019. Disponível em: www.thelancet.com/. Acesso em: 26 ago. 2021.
COLL, Liana. Software pode diagnosticar câncer de pele com precisão de 86%. Jornal da Unicamp. Disponível em: www.unicamp.br/. Acesso em: 27 out. 2021.
COLLUCCI, Cláudia. Diagnóstico grátis de Covid-19 por imagem é pouco acessado por hospitais do SUS. Folha de Sâo Paulo. Disponível em: www1.folha.uol.com.br/. Acesso em: 28 out. 2021.
CORTÉS, Julio César Galán. Responsabilidad Civil Médica. 6. ed. Cizur Menor/Navarra: Thomson Reuters/Civitas, 2018.
COSTA, Augusto Pereira; FACCHINI NETO, Eugênio. Responsabilidade civil do médico e do desenvolvedor no diagnóstico algorítmico”. In: PINHO, Ana Carolina (Coord.). Manual de Direito na Era Digital: Médico. Indaiatuba/SP: Editora Foco, 2023.
COSTA, Augusto Pereira; FACCHINI NETO, Eugenio. Machina Sapiens v. Homo Sapiens e a questão da jurisdição: embate ou confraternização? Uma proposta de diálogo entre machine learning, jurimetria e tutelas provisórias. In: PINTO, Henrique Alves; GUEDES, Jefferson Carús; CÉSAR, Joaquim Portes de Cerqueira (Coord.). Inteligência Artificial aplicada ao processo de tomada de decisões. Belo Horizonte/São Paulo: Editora D’Plácido, 2020.
DALE, Steve. Heuristics and biases: The science of decision-making. Business Information Review, v. 32, n. 2, p. 93-99, 2015. Disponível em: journals.sagepub.com/. Acesso em: 19 abr. 2022.
ERIC NIILER. An AI Epidemiologist Sent the First Warnings of the Wuhan Virus. Disponível em www.wired.com/, publicado em 25.01.2020.
EYSENCK, Michael W.; KEANE, Mark t. Manual de Psicologia Cognitiva. 7ª ed. Porto Alegre: Artmed, 2017.
FACCHINI NETO, Eugênio. Da responsabilidade civil no novo código. Revista TST, v. 76, n. 1. p. 17-63, 2010. Disponível em: www.dpd.ufv.br/. Acesso em: 12 jan. 2022.
FACCHINI NETO, Eugenio; SCHMIDT NETO, André Perin. Ensaio jurídico sobre a racionalidade humana: maiores, capazes e irracionais. Revista Brasileira de Políticas Públicas, Brasília, v. 8, nº 2, 2018 p.64-88.
FALEIROS JÚNIOR, José de Moura. A evolução da Inteligência artificial em breve retrospectiva. In: BARBOSA, Mafalda Miranda; NETTO, Felipe Braga; SILVA, Michael César; FALEIROS JÚNIOR, José Luiz de Moura (Coords.). Direito digital e inteligência artificial: diálogos entre Brasil e Europa. Indaiatuba, SP: Editora Foco, 2021.
FERRARI, Isabela; BECKER, Daniel; WOLKART, Erik Navarro. Arbitrium ex machina: panorama, riscos e a necessidade de regulação das decisões informadas por algoritmos. Revista dos Tribunais. Vol. 995, p. 635 – 655 (Set / 2018).
FERREIRA, Ana Elisabete; PEREIRA, André Dias. Uma ética para a medicina pós-humana: propostas ético-jurídicas para a mediação das relações entre humanos e robôs na saúde. In: ROSENVALD, Nelson; MENEZES, Joyceane Bezerra de; DADALTO, Luciana (Coord.). Responsabilidade Civil e Medicina. 9. ed., Indaiatuba/SP: Ed. Foco, 2020.
FRANCIA, Gianluca. O que é a heurística da representatividade. Disponível em br.psicologia-online.com/. Acesso em 02/12/2022.
FROOMKIN, A. Michael; KERR, Ian; PINEAU, Joelle. When AIs outperform doctors: confronting the challenges of a tort-induced over-reliance on machine learning. Arizona Law Review, v. 61, p. 33, 2019. Disponível em: repository.law.miami.edu/. Acesso em: 29 ago. 2021.
GARAY, Oscar Ernesto. Tratado de la Responsabilidad Civil em las Especialidades Médicas. Tomo I. Buenos Aires: Errepar, 2009.
GIGERENZER, Gerd; GAISSMAIER, Wolfgang. Heuristic decision making. Annual review of psychology, v. 62, p. 451-482, 2011. p. 454. Disponível em: www.annualreviews.org/. Acesso em 11 abr. 2022.
GILLESPIE, Stuart. The Oxford spinout company using AI to diagnose heart disease (2018), disponível em www.research.ox.ac.uk/.
HOFFMANN-RIEM, Wolfgang. Teoria Geral do Direito Digital. Transformação digital – desafios para o direito. Trad. de Italo Fuhrmann. Rio de Janeiro, Forense, 2021.
IBM. Machine Learning e Ciência de dados com IBM Watson. Disponível em www.ibm.com/. Acessado em 11 de janeiro de 2021.
JAN, Asim et al. Artificial intelligent system for automatic depression level analysis through visual and vocal expressions. IEEE Transactions on Cognitive and Developmental Systems, [s.l.], v. 10, n. 3, p. 668-680, 2017. p. 678.
JHA, Ashish K.; LARIZGOITIA, Itziar; WATERS, Hugh; BATES, David W. et al. The Global Burden of Unsafe Medical Care: Analytic Modelling of Observational Studies. BMJ quality & safety. October 2013. DOI: 10.1136/bmjqs-2012-001748. Disponível em www.researchgate.net/. Acesso em 04/12/2022.
KAHNEMAN, Daniel et al. (Ed.). Judgment under uncertainty: Heuristics and biases. Cambridge university press, 1982.
KAHNEMAN, Daniel. Rápido e Devagar: duas formas de pensar. Rio de Janeiro: Objetiva, 2012.
KAHNEMAN, Daniel; SIBONY, Olivier; SUNSTEIN, Cass R. Ruído: uma falha no julgamento humano. Rio de Janeiro: Objetiva, 2021.
KFOURI NETO, Miguel. Responsabilidade Civil dos Hospitais. 4. ed. São Paulo: Revista dos Tribunais, 2019, Ebook.
KFOURI NETO, Miguel; NOGAROLI, Rafaella. O consentimento do paciente no admirável mundo novo de robôs de assistência à saúde e algoritmos de inteligência artificial para diagnóstico médico. In: TEPEDINO, Gustavo; SILVA, Rodrigo da Guia (Coord.). O Direito Civil na era da Inteligência Artificial. São Paulo: Thompson Reuters Brasil/Revista dos Tribunais, 2020, p. 150.
KFOURI NETO, Miguel; NOGAROLI, Rafaella. Inteligência Artificial nas decisões clínicas e a responsabilidade civil médica por eventos adversos no contexto dos hospitais virtuais. In: BARBOSA, Mafalda Miranda; BRAGA NETTO, Felipe; SILVA, Michael César; FALEIROS JÚNIOR, José Luiz de Moura (Coord.). Direito digital e inteligência artificial - Diálogos entre Brasil e Europa. Indaiatuba: Ed. Foco, 2021.
KFOURI NETO, Miguel. Responsabilidade Civil do Médico. 11. Ed. São Paulo: Revista dos Tribunais, 2021.
LANZARA, Olindo. Medical Malpractice. Torino: G. Giappihelli Ed., 2019. LANZARA, Olindo. Medical Malpractice: Uno studio di diritto comparato. Torino: G. Giappihelli Ed., 2019.
LIU, Yuan et al. A deep learning system for differential diagnosis of skin diseases. Nature medicine, v. 26, n. 6, p. 900-908, 2020. Disponível em: www.nature.com/. Acesso em: 26 ago. 2021.
LORENZETTI, Ricardo Luis. Responsabilidad civil de los médicos. Tomo II. 2. ed. ampl. e actual. Santa Fe: Rubinzal – Culzoni Ed. 2016.
MANSUR, Alfredo José. Diagnóstico. Diagn. tratamento, v. 15, p. 74-76, 2010. Disponível em: files.bvs.br/. Acesso em: 11 maio 2022.
MEDON, Filipe. Tendências para a responsabilidade civil da Inteligência Artificial na Europa: a participação humana ressaltada. Migalhas de Responsabilidade Civil, coluna publicada em 03.11.20.
MEDON, Filipe. Decisões automatizadas: o necessário diálogo entre a Inteligência Artificial e a proteção de dados pessoais para a tutela de direitos fundamentais. In: TEPEDINO, Gustavo; SILVA, Rodrigo da Guia (Coord.). O Direito Civil na era da Inteligência Artificial. São Paulo: Thompson Reuters Brasil/Revista dos Tribunais, 2020.
MEI, Xueyan et al. Artificial intelligence–enabled rapid diagnosis of patients with COVID-19. Nature medicine, v. 26, n. 8, p. 1224-1228, 2020. Disponível em: www.nature.com/. Acesso em: 01 set. 2021.
MOSIER, Kathleen L.; SKITKA, Linda J. Automation use and automation bias. In: Proceedings of the human factors and ergonomics society annual meeting. Sage CA: Los Angeles, CA: SAGE Publications, 1999. p. 344-348. Disponível em: journals.sagepub.com/. Acesso em 17 abr. 2022.
MOSIER, Kathleen L.; SKITKA, Linda J. Human decision makers and automated decision aids: Made for each other?. In: PARASURAMAN, Raja; MOULOUA, Mustapha (Ed.). Automation and human performance: Theory and applications. Boca Raton: CRC Press, 2009.
MULHOLLAND, Caitlin. Responsabilidade civil e processos decisórios autônomos em sistemas de inteligência artificial (IA): autonomia, imputabilidade e responsabilidade. In: FRAZÃO, Ana; MULHOLLAND, Caitlin (Coord.). Inteligência Artificial e Direito. Ética, Regulação e Responsabilidade. 2. Ed. São Paulo: Thompson Reuters Brasil/Revista dos Tribunais, 2020.
NOGAROLI, Rafaella; SILVA, Rodrigo da Guia. Inteligência Artificial na análise diagnóstica: benefícios, riscos e responsabilidade do médico. In: KFOURI NETO, Miguel; NOGAROLI, Rafaella (Coord.). 2. ed. rev., atual. e ampl. São Paulo: Thomson Reuters Brasil/ Revista dos Tribunais, 2022.
NUNES, Dierle. A supervisão humana das decisões de inteligência artificial reduz os riscos? CONJUR, 25 de junho de 2021. Disponível em www.conjur.com.br/. Acesso em 05/11/2022.
PARASURAMAN, Raja; MANZEY, Dietrich H. Complacency and bias in human use of automation: An attentional integration. Human factors, v. 52, n. 3, p. 381-410, 2010. p. 391. Disponível em: journals.sagepub.com/. Acesso em 16 abr. 2022.
PEIXOTO, Fabiano Harmann; SILVA, Roberta Zumblick Martins da. Inteligência Artificial e Direito. Coleção Direito, Racionalidade e Inteligência Artificial, Vol. 1. Curitiba: Ed. Alteridade, 2019.
PENNIC, Fred. FDA Clears AI-Powered EchoGo Core for Early Detection of Cardiovascular Disease, disponível em hitconsultant.net/.
Ping An Insurance Group Ltd. Ping An Launches COVID-19 Smart Image-Reading System to Help Control the Epidemic”, disponível em www.prnewswire.com/. Acesso em 20.08.2022.
PIRES, Thatiane Cristina Fontão; SILVA, Rafael Peteffi da. A responsabilidade civil pelos atos autônomos da inteligência artificial: notas iniciais sobre a resolução do Parlamento Europeu. Revista Brasileira de Políticas Públicas. Vol. 7, n. 3, 2017.
ROSO, Larissa. Inteligência artificial auxilia no diagnóstico ultraprecoce de câncer de pulmão. GaúchaZH. Disponível em: gauchazh.clicrbs.com.br/. Acesso em: 01 out. 2021.
SCHULMAN, Gabriel; PEREIRA, Paula Moura Francesconi de Lemos. Futuro da saúde e saúde do futuro: impactos e limites reais da inteligência artificial. In: TEPEDINO, Gustavo; SILVA, Rodrigo da Guia (Coord.). O Direito Civil na era da Inteligência Artificial. São Paulo: Thompson Reuters Brasil/Revista dos Tribunais, 2020.
SHEN, Jiayi et al. Artificial intelligence versus clinicians in disease diagnosis: systematic review. JMIR medical informatics, v. 7, n. 3, p. e10010, 2019. Disponível em: medinform.jmir.org/. Acesso em: 31 ago. 2021.
SHILLAN, Duncan Shillan; STERNEL, Jonathan A. C.; CHAMPNEYS, Alan; GIBBISON, Ben. Use of machine learning to analyse routinely collected intensive care unit data: a systematic review. Critical Care, v. 23, p. 284 (2019) – disponível em ccforum.biomedcentral.com/, acesso em 22/12/2020.
SIAG, Jean. Le cancer dans l’oiel de Watson. In: La Presse, 20/12/2016, disponível em plus.lapresse.ca/. Acesso em 28/05/2020
SILVA, Rodrigo Guia da; NOGAROLI, Rafaella. Utilização da inteligência artificial na análise diagnóstica da COVID-19: benefícios, riscos e repercussões sobre a responsabilidade civil do médico. In: MONTEIRO FILHO, Carlos Edison do Rêgo Rêgo; ROSENVALD, Nelson; DENSA, Roberta (Coord.). Coronavírus e responsabilidade civil: impactos contratuais e extracontratuais. Indaiatuba: Ed. Foco, 2020.
SILVA, Rodrigo Guia da; NOGAROLI, Rafaella. Inteligência artificial e big data no diagnóstico e tratamento de doenças: novos desafios ao dever de informação e à proteção de dados sensíveis. In: FALEIROS JÚNIOR, José Luiz de Moura; LONGHI, João Victor Rozatti; GUGLIARA, Rodrigo (Coord.). Proteção de dados pessoais na sociedade da informação: entre dados e danos. Indaiatuba: Ed. Foco, 2021.
SOUZA, Carlos Affonso; PADRÃO, Vinicius. Responsabilidade civil e os “novos turcos”: o papel da conduta humana nos danos relacionados à inteligência artificial. In: TEPEDINO, Gustavo; SILVA, Rodrigo da Guia (Coord.). O Direito Civil na era da Inteligência Artificial. São Paulo: Thomson Reuters Brasil/Revista dos Tribunais, 2020
STAUCH, Marc. The Law of Medical Negligence in England and Germany – A comparative Analysis. Oxford: Hart Publishing, 2008.
TAYLOR, Simon. Medical Accident Liability and Redress in England and French Law. Cambridge: Cambridge University Press, 2015.
THALER, Richard H.; SUNSTEIN, Cass R. Nudge: como tomar melhores decisões sobre saúde dinheiro e felicidade. Rio de Janeiro: Objetiva, 2019.
TING, Daniel Shu Wei et al. Development and validation of a deep learning system for diabetic retinopathy and related eye diseases using retinal images from multiethnic populations with diabetes. Jama, v. 318, n. 22, p. 2211-2223, 2017. Disponível em: jamanetwork.com/. Acesso em: 26 ago. 2021.
TONETTO, Leandro Miletto et al. O papel das heurísticas no julgamento e na tomada de decisão sob incerteza. Estudos de Psicologia. Campinas, v. 23, n. 2, p. 182-183, abr./jun. 2006.
WANSINK, Brian; SOBAL, Jeffery. Mindless eating: The 200 daily food decisions we overlook. Environment and Behavior, v. 39, n. 1, p. 106-123, 2007. Disponível em: journals.sagepub.com/. Acesso em 11 abr. 2022.
WOLKART, Erik Navarro. Análise econômica do processo civil: como a economia, o direito e a psicologia podem vencer a tragédia da justiça. São Paulo: Revista dos Tribunais, 2019.
XrayCovid-19: Inteligência Artificial para diagnosticar o novo coronavírus. Medicina S/A. 21.05.2020, Disponível em medicinasa.com.br/. Acesso em 20.08.2022.
ZHANG, Kang et al. Clinically applicable AI system for accurate diagnosis, quantitative measurements, and prognosis of COVID-19 pneumonia using computed tomography. Cell, v. 181, n. 6, p. 1423-1433. e11, 2020. Disponível em: www.sciencedirect.com/. Acesso em: 26 ago. 2021.
Civilistica.com está licenciada sob a licença 