Plataformas no Marco Civil da Internet: a necessidade de uma responsabilidade progressiva baseada em riscos
Palavras-chave:
Marco Civil da Internet, Regime de responsabilidade, Direitos fundamentais, Tecnologias algorítmicas, Responsabilidade progressivaResumo
O regime de responsabilidade civil de provedores de aplicações na internet é principalmente ditado, no ordenamento brasileiro, pelo Marco Civil da Internet. Seu formato se alinha a um contexto social, tecnológico e econômico específico, refletindo e estabilizando determinada visão sobre o papel das plataformas digitais na sociedade e, em consequência, um determinado julgamento sobre o balanceamento de direitos fundamentais em jogo. Uma década depois da promulgação do Marco, seu regime geral de responsabilidade é alvo de discussão em sede constitucional no Supremo Tribunal Federal brasileiro. Isto se dá em meio a um cenário de concentração do mercado, uso ubíquo dos serviços providos por essas plataformas em relações públicas e privadas e à aplicação de tecnologias algorítmicas sofisticadas, desenhando um panorama de aprofundamento de problemáticas urgentes, como a radicalização política e formas diversas de violência e ódio na internet. Este artigo parte de revisão de bibliografia, jurisprudencial e documental com a intenção de responder à seguinte pergunta de pesquisa: há necessidade de adequação do sistema de responsabilidade construído pelo MCI aos ditames constitucionais e à manutenção do Estado Democrático de Direito? Nesse sentido, apresenta-se a hipótese de que as condições conjunturais e estruturais que determinam a inserção de alguns desses provedores em processos econômicos, políticos e sociais encontram-se tão radicalmente transformadas, que uma releitura do regime de responsabilidade é necessária para preservar o balanço pretendido. Ao fim, pretende-se prover recomendações de política pública que reflitam a complexidade do cenário atual a partir de uma proposta de responsabilidade progressiva baseada em riscos.
Downloads
Referências
ADNER, Ron. Ecosystem as structure: An actionable construct for strategy. Journal of management, v. 43, n. 1, p. 39–58, 2017.
ATLANTIC COUNCIL. Atlantic Council’s DFRLab independent analysis of networks removed by Facebook in Russia, Georgia, and Myanmar. Disponível em: www.atlanticcouncil.org/. Acesso em: 22 maio 2023.
BELLI, Luca. De la gouvernance à la régulation de l’Internet. Paris: Berger-Levrault, 2016. (Au fil des études, Les thèses). Disponível em: www.lalibrairie.com/livres/de-la-gouvernance-a-la-regulation-de-l-internet_0-2946089_9782701318936.html. Acesso em: 3 mar. 2023.
BELLI, Luca. Fundamentos da regulação da tecnologia digital: entender como a tecnologia digital regula para conseguir regulá-la. In: PINHEIRO, A. Porto; SAMPAIO, P. (Orgs.). Regulação e Novas Tecnologias. Rio de Janeiro: FGV Editora, 2022, p. 53–154.
BELLI, Luca. Platform. In: ZINGALES, Nicolo; CURZI, YASMIN (Orgs.). Glossary of Platform Law and Policy Terms. Online: FGV Direito Rio, 2021. Disponível em: platformglossary.info/. Acesso em: 17 maio 2023.
BELLI, Luca. Structural power as a critical element of social media platforms’ private sovereignty. In: CELESTE, Edoardo; KELLER, Clara; HELDT, Amélie (Orgs.). Constitutionalising Social Media. London: Bloomsbury Publishing PLC, 2022.
BELLI, Luca; FRANCISCO, Pedro Augusto P.; ZINGALES, Nicolo. Law of the Land or Law of the Platform? Beware of the Privatisation of Regulation and Police. In: BELLI, Luca; ZINGALES, Nicolo (Orgs.). Platform regulations: how platforms are regulated and how they regulate us. Rio de Janeiro: FGV Direito Rio, 2017, p. 41–64. Disponível em: hdl.handle.net/10438/19402.
BELLI, Luca; FRANCISCO, Pedro Augusto P.; ZINGALES, Nicolo. Law of the Land or Law of the Platform? Beware of the Privatisation of Regulation and Police. In: BELLI, Luca; ZINGALES, Nicolo (Orgs.). Platform regulations: how platforms are regulated and how they regulate us. Rio de Janeiro: FGV Direito Rio, 2017, p. 41–64. Disponível em: hdl.handle.net/10438/19402.
BELLI, Luca; FRANCISCO, Pedro Augusto P.; ZINGALES, Nicolo. Lei do Estado ou lei da Plataforma? Cuidado com a privatização da regulação e da polícia. In: BELLI, Luca; CAVALLI, Olga (Orgs.). Governança e regulações da internet na América Latina. Rio de Janeiro: FGV Direito Rio, 2019, p. 447–471.
BELLI, Luca; SAPPA, Cristiana. The Intermediary Conundrum: Cyber-Regulators, Cyber-Police or Both? JIPITEC, v. 8, n. 3, 2017. Disponível em: www.jipitec.eu/issues/jipitec-8-3-2017/4620.
BELLI, Luca; VENTURINI, Jamila. Private ordering and the rise of terms of service as cyber-regulation. Internet Policy Review, 2016. Disponível em: policyreview.info/. Acesso em: 3 maio 2023.
BELLI, Luca; ZINGALES, Nicolo. Novas Regras do WhatsApp: a proteção de dados se torna um luxo para 2 bilhões de pessoas? MIT Technology Review - Brasil. Disponível em: mittechreview.com.br/. Acesso em: 22 maio 2023.
BENDER, Emily M.; GEBRU, Timnit; MCMILLAN-MAJOR, Angelina; et al. On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?. In: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency. Virtual Event Canada: ACM, 2021, p. 610–623. Disponível em: dl.acm.org/doi/10.1145/3442188.3445922. Acesso em: 19 maio 2023.
BRADSHAW, Samantha; BAILEY, Hannah; HOWARD, Philip N. Industrialized Disinformation: 2020 Global Inventory of Organized Social Media Manipulation. Oxford, UK: Programme on Democracy & Technology, 2021. Disponível em: demtech.oii.ox.ac.uk/. Acesso em: 22 maio 2023.
BRADY, William J.; CROCKETT, M. J.; VAN BAVEL, Jay J. The MAD model of moral contagion: The role of motivation, attention, and design in the spread of moralized content online. Perspectives on Psychological Science, 2020.
BRADY, William J.; MCLOUGHLIN, Killian; DOAN, Tuan N.; et al. How social learning amplifies moral outrage expression in online social networks. Science Advances, v. 7, n. 33, p. eabe5641, 2021.
BRIGNULL, Harry; LEISER, Mark; SANTOS, Cristina; et al. Deceptive patterns – user interfaces designed to trick you. Deceptive patterns. Disponível em: www.deceptive.design/. Acesso em: 17 maio 2023.
CAPLAN, Robyn. Content or context moderation? Artisanal, Community-Reliant, and Industrial Approaches. New York, NY, USA: Data & Society, 2018. Disponível em: datasociety.net/. Acesso em: 22 maio 2023.
CDDO; CDEI; UK. Algorithmic Transparency Reports. GOV.UK. Disponível em: www.gov.uk/. Acesso em: 14 jul. 2023.
CEYLAN, Gizem; ANDERSON, Ian A.; WOOD, Wendy. Sharing of misinformation is habitual, not just lazy or biased. Proceedings of the National Academy of Sciences, v. 120, n. 4, p. e2216614120, 2023.
CITRON, Danielle Keats. Cyber Civil Rights. Boston University Law Review, v. 89, n. 1, p. 61–126, 2009.
CREEMERS, Rogier; WEBSTER, Graham; TONER, Helen. Translation: Internet Information Service Algorithmic Recommendation Management Provisions – Effective March 1, 2022. Disponível em: digichina.stanford.edu/. Acesso em: 14 jul. 2023.
DIAS OLIVA, Thiago. Content Moderation Technologies: Applying Human Rights Standards to Protect Freedom of Expression. Human Rights Law Review, v. 20, n. 4, p. 607–640, 2020.
DONEDA, Danilo. Diretrizes para atores judiciais sobre privacidade e proteção de dados. Paris: UNESCO, 2022.
EDELSON, Laura; NGUYEN, Minh-Kha; GOLDSTEIN, Ian; et al. Understanding engagement with U.S. (mis)information news sources on Facebook. In: Proceedings of the 21st ACM Internet Measurement Conference. New York, NY, USA: Association for Computing Machinery, 2021, p. 444–463. (IMC ’21). Disponível em: dl.acm.org/doi/10.1145/3487552.3487859. Acesso em: 16 maio 2023.
EIFERT, Martin. A Lei Alemã para a Melhoria da Lei nas Redes Sociais (NetzDG) e a Regulação da Plataforma. In: ABBOUD, Georges; NERY JR., Nelson; CAMPOS, Ricardo (Orgs.). Fake news e regulação. São Paulo: Thomson Reuters Brasil, 2018. (Direito e Estado em transformação, 1).
EUROPEAN SYSTEMIC RISK BOARD. Systemic cyber risk. LU: Publications Office, 2020. Disponível em: data.europa.eu/doi/10.2849/566567. Acesso em: 22 maio 2023.
EUROPEAN UNION INTELLECTUAL PROPERTY OFFICE. Automated content recognition: discussion paper. Phase 1, Existing technologies and their impact on IP’. LU: Publications Office, 2020. Disponível em: data.europa.eu/doi/10.2814/52085. Acesso em: 22 maio 2023.
FILIPPI, Primavera De; BELLI, Luca. Law of the Cloud v Law of the Land: Challenges and Opportunities for Innovation. European Journal of Law and Technology, v. 3, n. 2, 2012. Disponível em: www.ejlt.org /. Acesso em: 3 maio 2023.
FRANKS, Mary Anne. Fearless Speech. First Amendment Law Review, v. 17, p. 294–342, 2018.
FRANKS, Mary Anne. Freedom from Speech. Georgetown Journal of Law & Public Policy, v. 20, n. Special 2022, p. 865–872, 2022.
GIL, Antonio Carlos. Métodos e técnicas de pesquisa social. 7. ed. São Paulo: Atlas, 2019.
GOLDMAN, Eric. Content Moderation Remedies. Michigan Technology Law Review, n. 28.1, p. 1, 2021.
GORWA, Robert; BINNS, Reuben; KATZENBACH, Christian. Algorithmic content moderation: Technical and political challenges in the automation of platform governance. Big Data & Society, v. 7, n. 1, p. 205395171989794, 2020.
HARTMANN, Ivar; CURZI, YASMIN; ZINGALES, Nicolo; et al. Moderação de conteúdo online: Contexto, cenário brasileiro e suas perspectivas regulatórias. Rio de Janeiro: FGV Editora, 2023.
HUSOVEC, Martin. The Promises of Algorithmic Copyright Enforcement: Takedown or Staydown? Which Is Superior? And Why? The Columbia Journal of Law & the Arts, v. 42, n. 1, p. 53–84, 2019.
HUSZÁR, Ferenc; KTENA, Sofia Ira; O’BRIEN, Conor; et al. Algorithmic amplification of politics on Twitter. Proceedings of the National Academy of Sciences, v. 119, n. 1, p. e2025334119, 2022.
JACOBIDES, Michael G.; CENNAMO, Carmelo; GAWER, Annabelle. Towards a theory of ecosystems. Strategic management journal, v. 39, n. 8, p. 2255–2276, 2018.
KAPOOR, Rahul. Ecosystems: broadening the locus of value creation. Journal of Organization Design, v. 7, n. 1, p. 1–16, 2018.
KENDRICK, Leslie. Speech, Intent, and the Chilling Effect. William & Mary Law Review, v. 54, n. 5, p. 1633–1691, 2013.
LESSIG, Lawrence. Code: And other laws of cyberspace. [s.l.]: ReadHowYouWant. com, 2009.
LIANOS, Ioannis; LOMBARDI, Claudio. Superior Bargaining Power and the Global Food Value Chain: The Wuthering Heights of Holistic Competition Law? 2016. Disponível em: papers.ssrn.com/abstract=2773455. Acesso em: 22 maio 2023.
MAGRANI, Eduardo. Democracia conectada: a internet como ferramenta de engajamento político-democrático. Curitiba: Juruá Editora, 2014. Disponível em: eduardomagrani.com/.
MARIANO, Antônio; CURZI, Yasmin. Impacto das redes sociais no comportamento eleitoral: o caso do Rio de Janeiro em 2018. In: Lima: ALACIP, 2019. Disponível em: alacip.org/. Acesso em: 22 maio 2023.
MATHUR, Arunesh; KSHIRSAGAR, Mihir; MAYER, Jonathan. What Makes a Dark Pattern... Dark? Design Attributes, Normative Considerations, and Measurement Methods. In: Proceedings of the 2021 CHI Conference on Human Factors in Computing Systems. New York, NY, USA: Association for Computing Machinery, 2021, p. 1–18. (CHI ’21). Disponível em: doi.org/10.1145/3411764.3445610. Acesso em: 17 maio 2023.
MENN, Joseph. Russians boasted that just 1% of fake social profiles are caught, leak shows. Washington Post, 2023. Disponível em: www.washingtonpost.com/. Acesso em: 22 maio 2023.
MOROZOV, Evgeny. Big tech: A ascensão dos dados e a morte da política. São Paulo: Ubu Editora, 2018.
NARAYANAN, Arvind. Understanding Social Media Recommendation Algorithms. Knight First Amendment Institute at Columbia University. Disponível em: knightcolumbia.org/. Acesso em: 22 maio 2023.
PENNEY, Jon. Can Cyber Harassment Laws Encourage Online Speech? Berkman Klein Center Collection. Disponível em: perma.cc/WP49-G9T2. Acesso em: 18 maio 2023.
PENNEY, Jon. Internet Surveillance, Regulation, and Chilling Effects Online: A Comparative Case Study. 2017. Disponível em: papers.ssrn.com/. Acesso em: 18 maio 2023.
RIKAP, Cecilia; LUNDVALL, Bengt-Åke. The Digital Innovation Race: Conceptualizing the Emerging New World Order. Cham: Springer International Publishing, 2021. Disponível em: link.springer.com/10.1007/978-3-030-89443-6. Acesso em: 21 mar. 2023.
RUEDIGER, Marco; GRASSI, Amaro. Polarization Presidentialism. How social media reshaped Brazilian politics: a case study on the 2018 elections. In: SPIECKER GEN. DÖHMANN, Indra; WESTLAND, Michael; CAMPOS, Ricardo (Orgs.). Demokratie und Öffentlichkeit im 21. Jahrhundert – zur Macht des Digitalen. [s.l.]: Nomos Verlagsgesellschaft mbH & Co. KG, 2022, p. 283–298. Disponível em: www.nomos-elibrary.de/. Acesso em: 22 maio 2023.
SILVA, Virgílio Afonso da. Direitos fundamentais: conteúdo essencial, restrição e eficácia. São Paulo: Malheiros, 2009.
SOUZA, Carlos Affonso; LEMOS, Ronaldo. Marco Civil da Internet. Construção e aplicação. Juiz de Fora: Editar, 2016. Disponível em: itsrio.org/. Acesso em: 3 maio 2023.
STRANGE, Susan. States and markets. London: Bloomsbury Publishing, 2015.
TUFEKCI, Zeynep. Algorithmic harms beyond Facebook and Google: Emergent challenges of computational agency. Colo. Tech. LJ, v. 13, p. 203, 2015.
TUFEKCI, Zeynep. Algorithmic Harms beyond Facebook and Google: Emergent Challenges of Computational Agency Symposium Essays. Colorado Technology Law Journal, v. 13, n. 2, p. 203–218, 2015.
WERBACH, Kevin; ZARING, David. Systemically Important Technology. Texas Law Review, v. 101, n. 4, 2023. Disponível em: texaslawreview.org/. Acesso em: 22 maio 2023.
WHATSAPP. WhatsApp Help Center - What happens on the effective date? WhatsApp Help Center (Web Archive). Disponível em: web.archive.org/web/20210506202148/ https:/faq.whatsapp.com/general/security-and-privacy/what-happens-when-our-terms-and-privacy-policy-updates-take-effect/?lang=en. Acesso em: 22 maio 2023.
WIERINGA, Maranke. What to account for when accounting for algorithms: a systematic literature review on algorithmic accountability. In: Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency. Barcelona Spain: ACM, 2020, p. 1–18. Disponível em: dl.acm.org/doi/10.1145/3351095.3372833. Acesso em: 14 jul. 2023.
WILLIAMSON, Oliver E. Markets and hierarchies: analysis and antitrust implications: a study in the economics of internal organization. University of Illinois at Urbana-Champaign’s Academy for Entrepreneurial Leadership Historical Research Reference in Entrepreneurship, 1975.
ZINGALES, Nicolo. The Brazilian Approach to Internet Intermediary Liability: Blueprint for a Global Regime? 2015. Disponível em: papers.ssrn.com/abstract=2933930. Acesso em: 3 maio 2023.
ZINGALES, Nicolo. The Brazilian Approach to Internet Intermediary Liability: Blueprint for a Global Regime? 2015. Disponível em: papers.ssrn.com/abstract=2933930. Acesso em: 3 maio 2023.
ZINGALES, Nicolo. Virtues and perils of anonymity: Should intermediaries bear the burden. J. Intell. Prop. Info. Tech. & Elec. Com. L., v. 5, p. 155, 2014.
ZINGALES, Nicolo; FARANI, Paula. Direito antitruste e ecossistemas digitais: mapeando o debate. In: ZINGALES, Nicolo; FARANI DE AZEVEDO, Paula (Orgs.). Rio de Janeiro: FGV Editora, 2022, p. 13–46.
ZUBOFF, Shoshana. Big other: Surveillance Capitalism and the Prospects of an Information Civilization. Journal of Information Technology, v. 30, n. 1, p. 75–89, 2015.
ZUBOFF, Shoshana. The Age of Surveillance Capitalism. London: Profile Books, 2019.