Resumo expandido

"Estou à venda. Compre-me! Ou melhor, me like a imagem cuidadosamente projetada para essa vitrine… Me crush, me note, me siga, me like!!! Me like, plis! Pois… destituído de mim mesmo, só me resta o seu view em um imaginado date virtual - Deivison Nkosi (Faustino; Lippold, p.12).

De forma resumida, a ética pode ser descrita como um conjunto de princípios morais que governam o comportamento de um indivíduo ou grupo (Aristóteles, 1992). Ao pensar na implementação a Inteligência Artificial (IA), nos deparamos com o mal uso diário de diversas ferramentas de IA Generativa, que rompem com os direitos e a dignidade do ser humano. Isso acontece através da criação de imagens, vídeos, áudios, entre outros produtos que, normalmente estão envoltos de diversos dilemas como a desinformação; comportamentos irresponsáveis nas mídias sociais; polarização e bolhas informativas (Turchio, 2015)

Entre o fascínio e o medo, vivemos, hoje, em uma sociedade que está sendo constantemente permeada e atravessada por questões éticas diversas sobre as potencialidades e os riscos do uso da Inteligência Artificial no nosso cotidiano. Talvez, atualmente, representem, especialmente para a academia, um dos desafios mais significativos e urgentes na era digital moderna.

No entanto, essa rápida integração da IA em nossas vidas traz consigo uma miríade de preocupações éticas que exigem discussões e uma gestão prudente, que envolve educação midiática, regulamentação e o retorno para os valores humanos, que constam em nossa Constituição. São inúmeras as áreas em que a Inteligência Artificial desafia os limites existentes como, por exemplo, a transparência nas decisões algorítmicas (Winques, 2023), o potencial de vieses e discriminação (Silva, 2022), privacidade e segurança de dados pessoas (Faustino; Lippold, 2023) e o impacto no mercado de trabalho (Grohmann, 2019).

Imagem 1 – A dualidade da IA

Fonte: Imagem gerada através da ferramenta Leonardo AI[1], pela autora em 28 de maio de 2024.

Recentemente, durante uma Live para a Intercom, o professor Felipe Pena (meio digital, 2024) afirmou que o campo da Inteligência Artificial é um território complexo e que é necessário desenvolver um olhar crítico para a visão elitista da ciência, nos alertando sobre a sociedade capitalista e desigual em que vivemos, que baseia o acesso às tecnologias pela exclusão e não pela inclusão.

Isso faz com que a nossa sociedade se divida, de uma forma cada vez mais polarizada, entre aqueles que temem a tecnologia e aquele que enxergam na IA, a salvação. Isso nos leva a inferir que vivemos um momento de falso igualitarismo, já que na teoria estamos todos inseridos na tecnociência, mas na prática seguimos divididos entre uma visão prometeica e fáustica da técnica.

Vivemos e somos submetidos, diariamente, à uma tirania das possibilidades tecnológicas, que permeia, justamente nossos sonhos e fantasias e, mesmo que de forma inconsciente, nossos imaginários coletivos. Sendo assim, proponho que existe, hoje, em nossa sociedade diversas tentativas de controle dos imaginários por parte das chamadas BigTechs enquanto importantes agentes hegemônicos munidos de dados e informações. Para além do capital, materializado nos investimentos altamente concentrados e pouquíssimas mãos, portanto, existem os algoritmos (Winques, 2024), movidos por ódio, brigas e pela dor do outro. Não podemos nos esquecer do subtrabalho do Sul Global, a mão de obra humana, constantemente negligenciada.

Há de que se concordar que até o momento, a máquina não foi mencionada, assim, é possível inferir que tais aspectos éticos que tanto permeiam a nossa sociedade são meros reflexos da sociedade que vivemos. O professor Tarcízio Silva (2022), elabora uma linha de raciocínio voltada, particularmente, para o racismo algorítmico, que, segundo ele, é o modo pelo qual a disposição de tecnologias e imaginários sociotécnicos em um mundo moldado pela supremacia branca, realiza a ordenação algorítmica, racializada em detrimento de grupos minorizados.

Imagem 2 – O labirinto ético da IA

Fonte: Imagem gerada através da ferramenta Leonardo AI[2], pela autora em 28 de maio de 2024.

Tal ordenação, mencionada pelo autor, pode ser vista como uma camada adicional ao racismo estrutural, que vai além e molda o futuro e horizontes de relações de poder adicionando mais opacidade sobre a exploração e a opressão global. Para Silva (2022), são características do racismo algoritmo: (1) Opacidade algorítmica, a ocultação de decisões incorporadas nos sistemas; (2) Agência Difusa, onde decisões discriminatórias da branquitude  são distribuídas em diferentes pontos do ciclo de um fenômeno ou sistema; (3) Acesso diferencial a direitos, em que recursos e garantia legais e políticas não são aplicadas de modo igualitário; (4) Visibilidade diferencial, onde populações minorizadas são sujeitas a diferentes regimes escópicos; (5) Concentração e oligopólios na tech, em que há concentração de decisões e produção em poucos núcleos globais; (6) Colonialidade de campo, áreas da chamada “STEM” engolem práticas das demais, simplificando e sintetizando dinâmicas e, por fim, (7) Loop de retroalimentação, onde o aprendizado de máquina usa dados desiguais, intensificando seu impacto negativo.

Imagem 3 – O espelho da sociedade

Fonte: Imagem gerada através da ferramenta Leonardo AI[3], pela autora em 28 de maio de 2024.

Dentro deste contexto, Winques (meio digital, 2024) destaca a presença das grandes empresas e a expansão da plataformização no campo tecnológico. Segundo a autora, grande parte da Inteligência Artificial é da exploração de dados, que são treinados, verificados e limpos por mão de obra humana, muitas vezes, precarizada. É necessário, dentro desta perspectiva ética, ter clareza de que o homem está no meio da história da consolidação das plataformas, ou seja, o dinheiro não é a única força, mas as ideologias de raça, o colonialismo, controle dos discursos públicos, que impulsionam a consolidação de poder das empresas.

Sendo assim, este artigo busca, através da revisão bibliográfica, demonstrar alguns dos muitos debates éticos que circundam a sociedade, especificamente o (1) colonialismo de dados; (2) o racismo algorítmico e a perspectiva da (3) IA feminista. Este estudo demonstra que é necessário um esforço acadêmico, para a produção de conhecimento, mas, também, na sociedade, através do letramento midiático e desenvolvimento de competências midiáticas. Portanto, o que fica, é pensar que a IA automatiza opressões, através de seus dados de treinamento. Tal automatização é materializada no colonialismo digital, na vigilância da população pobre, pelo racismo estrutural, pelas plataformas e aplicativos que são patriarcais por design (Veron, meio digital, 2024), a falta de transparência e, especialmente, a falta de responsabilização, justamente pela ausência de regulamentação da Inteligência Artificial.

Palavras-chave

Inteligência Artificial; Ética; Colonialismo de Dados; Racismo algorítmico; IA Feminista.

Referências

ARISTÓTELES. Ética a Nicómaco. Tradução de Mário da Gama Kury. 3. ed. Brasília: Editora Universidade de Brasília, 1992.

FAUSTINO, Deivison; LIPPOLD, Walter. Colonialismo Digital: por uma crítica hacker-fanoniana. São Paulo: Boitempo Editorial, 2023.

GROHMANN, Rafael. Plataformização do trabalho: entre dataficação, a financeirização e a racionalidade neoliberal. Revista EPITC. V.22, n.1, jan-abr, 2019.

PENA, Felipe. Comunicação e Inteligência artificial: ampliação ou redução das desigualdades. Disponível em: https://www.youtube.com/watch?v=VkOjPcwour8. Acesso em: 28 mai. 2024.

SILVA, Tarcízio da. Racismo algorítmico: inteligência artificial e discriminações nas redes digitais. São Paulo: Edições Sesc, 2022.

TURCHIO, Patricia. Mídias sociais e ética: os desafios da comunicação em rede. Revista Fronteiras, v. 17, n. 2, p. 68-79, 2015. DOI: 10.4013/rft.2015.172.05.

VERON, Joana. Comunicação e Inteligência artificial: ampliação ou redução das desigualdades. Disponível em: https://www.youtube.com/watch?v=VkOjPcwour8. Acesso em: 28 mai. 2024.

WINQUES, Kérley. Mediações algorítmicas: articulação entre dimensões simbólicas e materiais das tecnologias digitais. Florianópolis: Editora Insular, 2024.

_________. Comunicação e Inteligência artificial: ampliação ou redução das desigualdades. Disponível em: https://www.youtube.com/watch?v=VkOjPcwour8. Acesso em: 28 mai. 2024.

[1] Prompt utilizado: “An image showing two faces of Artificial Intelligence. On one side, a human figure holding a bright light symbolizes hope, innovation, and technological progress. On the other side, a projected shadow symbolizes fear, ethical risks, and oppression. In the center, a large digital brain with circuits connecting both sides. Around the brain, are elements representing transparency, privacy, and justice, such as scales of justice, padlocks, and eyes. The background must be divided between a futuristic technological scenario and a dark scenario with algorithms and codes floating around.”.

[2] Prompt utilizado: “A complex maze of circuits and computer codes. In the center of the maze, a scale of justice balancing on one side a representation of humans working (precarious labor) and on the other, data and algorithms. Around the labyrinth, big technology companies (BigTechs) are watching from above, like vigilant giants. In the sky, a hand holding a magnifying glass focused on ethical problems, representing the need for media regulation and education.”.

[3] Prompt utilizado: “A scene where a mirror reflects modern society. On one side of the mirror, is a vibrant and technologically advanced city with robots and AI integrated into everyday life. On the other side of the mirror, is a distorted image showing inequality, polarization, and oppression. In the reflection, racist algorithms and biases are visible. In the foreground, a human figure (representing academia) is writing in a book with the word "Ethics", while in the background, shadows of BigTechs manipulating data and information.”.