Inteligência artificial e a não neutralidade dos algoritmos sobre os “corpos dóceis”
DOI:
https://doi.org/10.31994/rvs.v12i2.776Palavras-chave:
Palavras-chave: Inteligência Artificial; direitos humanos; vigilância; dados pessoais.Resumo
O mundo contemporâneo vem sendo alterado pelo avanço tecnológico, principalmente, pelo desenrolar das novas ferramentas pautadas pela Inteligência Artificial (IA). O presente trabalho busca destacar que, nesse contexto de grandes mudanças, o uso incorreto da IA pode potencializar, muitas vezes, o cenário de violações aos direitos humanos. Dessa forma, o estudo terá como ponto de inferência a assertiva de que nem sempre os algoritmos apresentam pontos de neutralidades, já que tais refletem os aspectos culturais dos programadores que, por sua vez, estão a serviço da cultura hegemônica – branca, heteronormativa, machista e marcada por grandes estratificações sociais.
Downloads
Não há dados estatísticos.
Referências
ARBULU, Rafael. Microsoft recusou oferta em reconhecimento facial em favor dos direitos humanos. Canaltech, 2020. Disponível em: <https://canaltech.com.br/apps/microsoft-se-recusa-a-vender-reconhecimento-facial-a-policia-nos-eua-166337/#:~:text=Na%20%C3%A9poca%2C%20Brad%20Smith%20afirmou,de%20interpreta%C3%A7%C3%A3o%20e%2C%20consequentemente%2C%20pris%C3%B5es>. Acesso em:03 abr 2021.
BIFULCO, Raffaele. Intelligenza artificiale, regole e diritti: alla riscoperta di von Hayek, 2018. Disponível em: < https://www.agendadigitale.eu/cultura-digitale/intelligenza-artificiale-regole-e-diritti-alla-riscoperta-di-von-hayek/>. Acesso em: 03 fev. 2020.
BIONI, Bruno; LUCIANO, Maria. O princípio da precaução na regulação da inteligência artificial: seriam as leis de proteção de dados o seu portal de entrada? In: FRAZÃO, Ana; MULHOLLAND, Caitlin; SILVEIRA, Alessandra et al. (coord.). Inteligência artificial e Direito: ética, regulação e responsabilidade. São Paulo: Revista dos Tribunais, 2019.
BRASIL. Superior Tribunal de Justiça. Recurso Especial n. 22.337/RS. Relator: Ministro Ruy Rosado de Aguiar. Diário da Justiça, Brasília, DF, 20 mar. 1995.
BRASIL. Lei Geral de Proteção de Dados, LEI Nº 13.709, DE 14 DE AGOSTO DE 2018. Disponível em: <http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/L13709.htm>. Acesso em: 07 fev. 2020.
CASTRO-GÓMEZ, Santiago. Ciências sociais, violência epistêmica e o problema da “invenção do outro”, 2005. Disponível em: < http://biblioteca.clacso.edu.ar/clacso/sur-sur/20100624102434/9_CastroGomez.pdf>. Acesso em: 07 jan. 2019.
CORVALÁN, Juan. Inteligencia artificial: retos, desafíos y oportunidades – Prometea: la primera inteligencia artificial de Latinoamérica al servicio de la Justicia. Revista de Investigações Constitucionais, vol. 5 | n. 1, 2017. Disponível em: < https://revistas.ufpr.br/rinc/article/view/55334/35014>. Acesso em: 07 jan. 2020.
DONEDA, Danilo et.al Considerações iniciais sobre a inteligência artificial, éticae autonomia pessoal. Pensar, Fortaleza, v.23, n.4, p1-17, 2018.
FOUCAULT, Michel. Vigiar e Punir. 37 ed. Rio de Janeiro: Vozes, 2009.
FOUCAULT, Michel. Microfísica do Poder. 10ª ed. Rio de Janeiro: Paz & Terra, 2019.
FOX, Chris. Face recognition police tools 'staggeringly inaccurate', 2018. Disponível em:<https://www.bbc.com/news/technology-44089161>. Acesso em: 04 abr. 2021.
HAUGELAND, John. Artificial Intelligence: The Very Idea. Massachusetts: The MIT Press, 1985.
INTERVOZES. Reconhecimento facial no Carnaval: riscos tecnológicos nada divertidos. Carta Capital, 2019. Disponível em: <https://www.cartacapital.com.br/blogs/intervozes/reconhecimento-facial-no-carnaval-riscos-tecnologicos-nada-divertidos/>/. Acesso em: 07 abri. 2021.
KURZWEIL, Ray. The Age of Spiritual Machines. Massachusetts: The MIT Press, 1990.
LIMA FILHO, Maxwell Morais de. O experimento de pensamento do quarto chinês: a crítica de John Searle à inteligência artificial forte. Argumentos Revista de Filosofia, Fortaleza, v. 2, n. 3, p. 51-58, 2010.
LOBO, Muniz. Por que a regulamentação do uso do reconhecimento facial é necessária? 2019.
Disponível em: <https://cio.com.br/o-reconhecimento-facial-e-a-lei/>. Acesso em: 10 fev. 2020
LOPES, André. Inteligência artificial pode reproduzir racismo, homofobia e misoginia, 2019. Disponível em: <https://veja.abril.com.br/tecnologia/inteligencia-artificial-pode-reproduzir-racismo-homofobia-e-misoginia/>. Acesso em: 10 jan, 2020.
LYON, David. Surveillance Studies: An Overview. Cambridge: Polity Press, 2007.
LYON, David. Surveillance, Snowden, and big data: Capacities, consequences, critique. Big Data & Society, v. 1, n. 2, 2014. Disponível: http://journals.sagepub.com/doi/pdf/10.1177/2053951714541861 Acesso em: 09 abr. 2021.
MAGALHÃES, Thayana Calmon Leitão. Inimigo e Direito Penal, 2010 Disponível em: http://jus.com.br/artigos/17032/inimigo-e-direito-penal/2. Acesso em: 29 jan. 2020.
MCCARTHY, J. What is artificial intelligence?. Stanford, 2000. Disponível em:
<http://www.formal.stanford.edu/jmc/whatisai.pdf>. Acesso em: 10 jan. 2020
MELO, Paulo; HERCOG, Alex. O racismo que estrutura as tecnologias digitais de informação e comunicação, 2019. Disponível em: <https://www.brasildefato.com.br/2019/12/03/artigo-or-o-racismo-que-estrutura-as-tecnologias-digitais-de-informacao-e-comunicacao/>. Acesso em: 13 fev. 2020.
MONARD, Maria; BARANAUSKAS, José. Conceitos sobre aprendizado de máquina. In: REZENDE, Solange Oliveira (Org.). Sistemas inteligentes: fundamentos e aplicações.Barueri, SP: Manole, 2003.
NUNES, Pablo. Exclusivo: levantamento revela que 90,5% dos presos por monitoramento facial no Brasil são negros. The Intercept Brasil, 21 nov. 2019. Disponível em: https://theintercept.com/2019/11/21/presos-monitoramento-facial-brasil-negros/. Acesso em: 09 abr. 2021.
RODOTà, Stefano. Transformações do corpo. Revista Trimestral de Direito Civil, Ano 5, vol. 19, jul/set 2004
RODOTÀ, Stefano. A vida na sociedade da vigilância: a privacidade hoje. Editora: Renovar, Rio de Janeiro, 2008.
SCHAEFFER, Cesar. A inteligência artificial vai identificar futuros criminosos no Reino Unido. Disponível em: <https://olhardigital.com.br/noticia/inteligencia-artificial-vai-identificar-futuros-criminosos-no-reino-unido/97208>. Acesso em: 25 fev. 2020
SEARLE, John. Mentes, cérebros e programas. Tradução de Cléa Regina de Oliveira Ribeiro. In: TEIXEIRA, João de Fernandes (Org.). Cérebros, máquinas e consciência: uma introdução à Filosofia da Mente. São Carlos: Editora da UFSCar, 1996.
SEARLE, John. A Redescoberta da mente. Tradução de Eduardo Pereira Ferreira. São Paulo: Martins Fontes, 1997.
SHAH, H. Algorithmic accountability.Phil. Trans. R. Soc. A 376: 20170362, 2018. Disponível em: <http://dx.doi.org/10.1098/rsta.2017.0362>. Acesso em: 07 abri. 2021.
STANCIOLI, Brunello; CARVALHO, Nara. Da Integridade Física ao Livre Uso do Corpo: Releitura de um Direito da Personalidade. Disponível em: < http://www.ufjf.br/siddharta_legale/files/2014/07/Da-Integridade-F%C3%ADsica-ao-Livre-Uso-do-Corpo.pdf>. Acesso em: 22 set. 2018.
TEIXEIRA, João de Fenandes. O que é inteligência artificial, 1990. Disponível em: < https://repositorio.ufsc.br/bitstream/handle/praxis/395/o%20que%20e%20inteligencia%20artificial.pdf?sequence=1&isAllowed=y>. Acesso em: 14 abr 2021.
TURING, Alan. Computação e Inteligência. Tradução de Fábio de Carvalho Hansem. Cérebros, Máquinas e Consciência: uma introdução à filosofia da mente. São Carlos: EdUFScar, 1996.
VIEIRA, Kauê. Reconhecimento facial vira ameaça para negros; maioria entre presos. Disponível em: https://www.hypeness.com.br/2019/11/reconhecimento-facial-vira-ameaca-para-negros-maioria-entre-presos/. Acesso em: 01 fev. 2020
WAKEFIELD, Jane. Are you scared yet? Meet Norman, the psychopathic AI, 2018. Disponível em: < https://www.bbc.com/news/technology-44040008>. Acesso em: 09 abr. 2021.
WEYNE, Bruno. A concepção de direitos humanos como direitos morais. Revista de Direitos Humanos e Democracia, vol.6, 2009.
WHITBY, Blay. Inteligência artificial: um guia para iniciantes; tradução de Cláudio Blanc. São Paulo: Madras, 2004.
ZAFFARONI, Eugenio Raúl. A palavra dos mortos: conferências de criminologia cautelar. São Paulo: Saraiva, 2003.
ZAFFARONI, Eugenio Raúl. O inimigo no direito penal. Tradução de Sérgio Lamarão. 2. ed. Rio de Janeiro: Revan, 2007.
BIFULCO, Raffaele. Intelligenza artificiale, regole e diritti: alla riscoperta di von Hayek, 2018. Disponível em: < https://www.agendadigitale.eu/cultura-digitale/intelligenza-artificiale-regole-e-diritti-alla-riscoperta-di-von-hayek/>. Acesso em: 03 fev. 2020.
BIONI, Bruno; LUCIANO, Maria. O princípio da precaução na regulação da inteligência artificial: seriam as leis de proteção de dados o seu portal de entrada? In: FRAZÃO, Ana; MULHOLLAND, Caitlin; SILVEIRA, Alessandra et al. (coord.). Inteligência artificial e Direito: ética, regulação e responsabilidade. São Paulo: Revista dos Tribunais, 2019.
BRASIL. Superior Tribunal de Justiça. Recurso Especial n. 22.337/RS. Relator: Ministro Ruy Rosado de Aguiar. Diário da Justiça, Brasília, DF, 20 mar. 1995.
BRASIL. Lei Geral de Proteção de Dados, LEI Nº 13.709, DE 14 DE AGOSTO DE 2018. Disponível em: <http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/L13709.htm>. Acesso em: 07 fev. 2020.
CASTRO-GÓMEZ, Santiago. Ciências sociais, violência epistêmica e o problema da “invenção do outro”, 2005. Disponível em: < http://biblioteca.clacso.edu.ar/clacso/sur-sur/20100624102434/9_CastroGomez.pdf>. Acesso em: 07 jan. 2019.
CORVALÁN, Juan. Inteligencia artificial: retos, desafíos y oportunidades – Prometea: la primera inteligencia artificial de Latinoamérica al servicio de la Justicia. Revista de Investigações Constitucionais, vol. 5 | n. 1, 2017. Disponível em: < https://revistas.ufpr.br/rinc/article/view/55334/35014>. Acesso em: 07 jan. 2020.
DONEDA, Danilo et.al Considerações iniciais sobre a inteligência artificial, éticae autonomia pessoal. Pensar, Fortaleza, v.23, n.4, p1-17, 2018.
FOUCAULT, Michel. Vigiar e Punir. 37 ed. Rio de Janeiro: Vozes, 2009.
FOUCAULT, Michel. Microfísica do Poder. 10ª ed. Rio de Janeiro: Paz & Terra, 2019.
FOX, Chris. Face recognition police tools 'staggeringly inaccurate', 2018. Disponível em:<https://www.bbc.com/news/technology-44089161>. Acesso em: 04 abr. 2021.
HAUGELAND, John. Artificial Intelligence: The Very Idea. Massachusetts: The MIT Press, 1985.
INTERVOZES. Reconhecimento facial no Carnaval: riscos tecnológicos nada divertidos. Carta Capital, 2019. Disponível em: <https://www.cartacapital.com.br/blogs/intervozes/reconhecimento-facial-no-carnaval-riscos-tecnologicos-nada-divertidos/>/. Acesso em: 07 abri. 2021.
KURZWEIL, Ray. The Age of Spiritual Machines. Massachusetts: The MIT Press, 1990.
LIMA FILHO, Maxwell Morais de. O experimento de pensamento do quarto chinês: a crítica de John Searle à inteligência artificial forte. Argumentos Revista de Filosofia, Fortaleza, v. 2, n. 3, p. 51-58, 2010.
LOBO, Muniz. Por que a regulamentação do uso do reconhecimento facial é necessária? 2019.
Disponível em: <https://cio.com.br/o-reconhecimento-facial-e-a-lei/>. Acesso em: 10 fev. 2020
LOPES, André. Inteligência artificial pode reproduzir racismo, homofobia e misoginia, 2019. Disponível em: <https://veja.abril.com.br/tecnologia/inteligencia-artificial-pode-reproduzir-racismo-homofobia-e-misoginia/>. Acesso em: 10 jan, 2020.
LYON, David. Surveillance Studies: An Overview. Cambridge: Polity Press, 2007.
LYON, David. Surveillance, Snowden, and big data: Capacities, consequences, critique. Big Data & Society, v. 1, n. 2, 2014. Disponível: http://journals.sagepub.com/doi/pdf/10.1177/2053951714541861 Acesso em: 09 abr. 2021.
MAGALHÃES, Thayana Calmon Leitão. Inimigo e Direito Penal, 2010 Disponível em: http://jus.com.br/artigos/17032/inimigo-e-direito-penal/2. Acesso em: 29 jan. 2020.
MCCARTHY, J. What is artificial intelligence?. Stanford, 2000. Disponível em:
<http://www.formal.stanford.edu/jmc/whatisai.pdf>. Acesso em: 10 jan. 2020
MELO, Paulo; HERCOG, Alex. O racismo que estrutura as tecnologias digitais de informação e comunicação, 2019. Disponível em: <https://www.brasildefato.com.br/2019/12/03/artigo-or-o-racismo-que-estrutura-as-tecnologias-digitais-de-informacao-e-comunicacao/>. Acesso em: 13 fev. 2020.
MONARD, Maria; BARANAUSKAS, José. Conceitos sobre aprendizado de máquina. In: REZENDE, Solange Oliveira (Org.). Sistemas inteligentes: fundamentos e aplicações.Barueri, SP: Manole, 2003.
NUNES, Pablo. Exclusivo: levantamento revela que 90,5% dos presos por monitoramento facial no Brasil são negros. The Intercept Brasil, 21 nov. 2019. Disponível em: https://theintercept.com/2019/11/21/presos-monitoramento-facial-brasil-negros/. Acesso em: 09 abr. 2021.
RODOTà, Stefano. Transformações do corpo. Revista Trimestral de Direito Civil, Ano 5, vol. 19, jul/set 2004
RODOTÀ, Stefano. A vida na sociedade da vigilância: a privacidade hoje. Editora: Renovar, Rio de Janeiro, 2008.
SCHAEFFER, Cesar. A inteligência artificial vai identificar futuros criminosos no Reino Unido. Disponível em: <https://olhardigital.com.br/noticia/inteligencia-artificial-vai-identificar-futuros-criminosos-no-reino-unido/97208>. Acesso em: 25 fev. 2020
SEARLE, John. Mentes, cérebros e programas. Tradução de Cléa Regina de Oliveira Ribeiro. In: TEIXEIRA, João de Fernandes (Org.). Cérebros, máquinas e consciência: uma introdução à Filosofia da Mente. São Carlos: Editora da UFSCar, 1996.
SEARLE, John. A Redescoberta da mente. Tradução de Eduardo Pereira Ferreira. São Paulo: Martins Fontes, 1997.
SHAH, H. Algorithmic accountability.Phil. Trans. R. Soc. A 376: 20170362, 2018. Disponível em: <http://dx.doi.org/10.1098/rsta.2017.0362>. Acesso em: 07 abri. 2021.
STANCIOLI, Brunello; CARVALHO, Nara. Da Integridade Física ao Livre Uso do Corpo: Releitura de um Direito da Personalidade. Disponível em: < http://www.ufjf.br/siddharta_legale/files/2014/07/Da-Integridade-F%C3%ADsica-ao-Livre-Uso-do-Corpo.pdf>. Acesso em: 22 set. 2018.
TEIXEIRA, João de Fenandes. O que é inteligência artificial, 1990. Disponível em: < https://repositorio.ufsc.br/bitstream/handle/praxis/395/o%20que%20e%20inteligencia%20artificial.pdf?sequence=1&isAllowed=y>. Acesso em: 14 abr 2021.
TURING, Alan. Computação e Inteligência. Tradução de Fábio de Carvalho Hansem. Cérebros, Máquinas e Consciência: uma introdução à filosofia da mente. São Carlos: EdUFScar, 1996.
VIEIRA, Kauê. Reconhecimento facial vira ameaça para negros; maioria entre presos. Disponível em: https://www.hypeness.com.br/2019/11/reconhecimento-facial-vira-ameaca-para-negros-maioria-entre-presos/. Acesso em: 01 fev. 2020
WAKEFIELD, Jane. Are you scared yet? Meet Norman, the psychopathic AI, 2018. Disponível em: < https://www.bbc.com/news/technology-44040008>. Acesso em: 09 abr. 2021.
WEYNE, Bruno. A concepção de direitos humanos como direitos morais. Revista de Direitos Humanos e Democracia, vol.6, 2009.
WHITBY, Blay. Inteligência artificial: um guia para iniciantes; tradução de Cláudio Blanc. São Paulo: Madras, 2004.
ZAFFARONI, Eugenio Raúl. A palavra dos mortos: conferências de criminologia cautelar. São Paulo: Saraiva, 2003.
ZAFFARONI, Eugenio Raúl. O inimigo no direito penal. Tradução de Sérgio Lamarão. 2. ed. Rio de Janeiro: Revan, 2007.
Downloads
Publicado
2021-09-03
Como Citar
Souza Mello, B. C. de. (2021). Inteligência artificial e a não neutralidade dos algoritmos sobre os “corpos dóceis” . Revista Vianna Sapiens, 12(2), 24. https://doi.org/10.31994/rvs.v12i2.776
Edição
Seção
Artigos Direito
Licença
Copyright (c) 2021 Revista Vianna Sapiens
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial 4.0 International License.
