Algoritmos violentos: normalização do ciclo de violência nas redes sociais a partir do Instagram

Resumo

A influência do algoritmo no cotidiano vem se tornando objeto de estudo recorrente dentro do campo da comunicação. Apesar de não ser exatamente uma tecnologia recente, o algoritmo ganhou novas proporções e significados com a força das plataformas digitais, construindo uma nova forma de consumir informações e conteúdos a partir da modulação algorítmica que pode, então, controlar o fluxo de comunicacional e até ditar comportamentos.

Dessa forma, questiona-se como a violência permeia esses conteúdos. Portanto, o presente artigo pretende gerar uma tomada de consciência sobre a influência algorítmica no conteúdo consumido dentro de plataformas (no caso da plataforma escolhida para a pesquisa, o Instagram) e sua relação com a violência. Para isto, foram analisadas postagens do perfil do Instagram do jornal G1 e avaliar a relação entre o número de comentários e a relação com as violências definidas por Galtung (1996).

Seja nas ferramentas de busca ou nos feeds das redes sociais, os algoritmos exercem um papel crescente na internet. Não exatamente definidos como necessariamente softwares, os algoritmos são “procedimentos codificados que, com base em cálculos específicos, transformam dados em resultados desejados” (Gillespie, 2018, p. 97). Ou seja, são instruções matemáticas capazes de conectar relações e informações que antes não necessariamente estariam relacionadas, a partir de prompts previamente definidos, mas com capacidade de aprendizado e personalização, se tornando indissociáveis do sujeito conectado.

O algoritmo alcança novas dimensões ao ser inserido nas plataformas, passando a ditar novos comportamentos, ou seja, a modular a sociedade tecnológica. Hui (2015) relaciona os algoritmos com a modulação e explica que essa nova forma de controlar se trata de disponibilizar um espaço ao indivíduo e fazê-lo acreditar que possui liberdade para criar.

A modulação é um processo de controle de visualização de conteúdos, sejam discursos, imagens ou sons. As plataformas não criam discursos, mas possuem sistema algoritmos que distribuem os discursos criados pelos seus usuários, sejam corporações, sejam pessoas. Assim, os discursos são controlados e vistos, principalmente, por e para quem está dentro dos critérios que constituem as políticas de interação desses espaços virtuais (Silveira, 2018, p. 37-38). 

A lógica do algoritmo se relaciona com a lógica das próprias plataformas, definidas como “infraestruturas digitais (re)programáveis que facilitam e moldam  interações  personalizadas  entre  usuários  finais  e  complementadores,  organizadas  por  meio  de  coleta  sistemática,  processamento  algorítmico,  monetização  e  circulação  de  dados” (Poell; Nieborg; van Dijck, 2019, p. 4), ou seja, uma relação com a natureza programável e programada.

Diante dessas características do algoritmo e sua presença nas plataformas, Gillespie (2018) destaca que o mundo vive atualmente a chegada de um novo poder informacional, não apenas social, mas um poder político, principalmente considerando que não existe, de fato, a objetividade algorítmica, visto que “nenhum serviço de informações pode ser completamente isento de interferência humana ao entregar informações” (Gillespie, 2018, p. 107). 

Assim, percebe-se que os algoritmos passam a ter uma influência maior no cotidiano, quando inseridos primeiramente na internet e também nas plataformas, em meio à plataformização da própria vida, de forma intrínseca. Silveira (2017) inclusive traz o conceito de “governo dos algoritmos”, à medida que os algoritmos influenciam ainda mais nas tomadas de decisões, não só particulares e individuais, como coletivas e inseridas dentro dos três poderes de uma democracia.

            No século XX, a violência ganha um novo paradigma ao não ter mais um foco objetivo e concreto, mas sim ao possuir um enfoque mais subjetivo, se caracterizando tanto como instrumento quanto como efeito nas dificuldades entre comunicações. Wieviorka (1997) avalia que, entre as mudanças observadas no fim do século XX no estudo da sociologia da violência, é possível ressaltar ideias de fragmentação, caos e decomposição. O autor também afirma duas dimensões na violência: 1) as instrumentais, principalmente no aspecto político e relacionadas à desordem; 2) alcance e formato das violências quando não precisa de instrumentos para necessariamente se manifestar.

Essas duas orientações da violência, uma marcada pela subjetividade impossível ou infeliz, a outra por sua ausência ou sua perda, podem muito bem coexistir em um mesmo ator, apelando eventualmente para sentimentos ambivalentes, de compreensão com respeito à sua face maltratada e sua subjetividade negada e transformada em violência, e de recusa decidida por sua face sombria e puramente destruidora. (Wieviorka, 1997, p. 37).

Outro autor que contextualiza a violência foi o sociólogo norueguês Johan Galtung. O pesquisador classificou a violência dentro de três tipos: direta, estrutural e cultural. (Galtung, 1996). O primeiro tipo é a violência direta, que é orientada pela visão do agressor, e em que o agressor e a vítima - bem como a agressão - são claramente visíveis e facilmente observáveis. Exemplos são agressões físicas, guerras, violência doméstica etc. O segundo tipo de violência é a estrutural, no caso orientada da perspectiva da vítima e cujo seus autores não são necessariamente visíveis, como por exemplo a fome, desemprego, desigualdade social. O terceiro tipo é a violência cultural, a mais sofisticado entre as violências que se perpetua por meio de discursos e pela própria cultura, incluindo músicas, costumes, arte.

Baudrillard (1991) avalia que a ideia de simulação que a nova mídia insere desconstrói a ideia de realidade, em que não há mais definições concretas e objetivas sobre o próprio ser - mudança de estrutura já mencionada no presente trabalho. Dessa forma, considera-se que a violência, quando inserida nas simulações e simulacros algorítmicos, ganham novas proporções e podem causar resultados, que incluem sua normalização pelo distanciamento.

            Ramos (2017) ressalta o design das plataformas, projetado por grandes atores do mercado, como um dos fatores que contribuem para amplificar certas tendências. Tal amplificação, juntos aos filtros e as chamadas “bolhas algorítmicas”, trazem à tona a hipótese de que a legitimidade dada pela forma como o ambiente numérico modulado pode conter níveis de violência e, dessa forma, ter sua responsabilidade diluída por esse contexto.                 

Assim, compreende-se que a mídia possui relevância quando se trata da da percepção da violência, visto que as plataformas não são isoladas da realidade. Apesar disso, quando acessado pela plataforma, o conteúdo perde um pouco seu aspecto da realidade, causando um certo distanciamento. “Ocorre que o processo de tomada de decisão do usuário diante dos aplicativos e das redes sociais está todo eivado de atitudes disfuncionais que são corroboradas e incentivadas em grande parte pelos algoritmos computacionais”. (Parchen; Freitas; Baggio, 2021, p. 327)

Dessa forma, limitados a imagens com informações incompletas, os usuários do Instagram focam na imagem da violência em si, e não exatamente na mensagem principal. Na falta de aprofundamento e a partir da alta quantidade,

quando vivenciamos a violência através da mídia, saber que ela é violenta não é suficiente para compreendê-la, pois precisamos conhecê-la além do nível representacional. (...)A questão em que me concentro é como a violência é comunicada fora do seu acontecimento real – ou seja, através dos meios de comunicação social. (Arnold, 2019, p. 174, tradução nossa[1]).

Já Morales (2024) avalia que a superexposição de conteúdos violentos que, segundo ele, já se trata de uma exposição diária, acaba por se tornando apenas mais um conteúdo em que pessoas encontram no seu engajamento diário com as redes sociais. A violência, neste caso, é transformada em algo cotidiano, que já integra o consumo midiático do dia a dia de um indivíduo. Ainda, causa um distanciamento de forma que, caso a violência seja levada para o mundo físico (ou seja, para a realidade que não a digital), acabará também sendo considerada normal e cotidiana, levando o indivíduo a reagir de forma automática.

Para avaliar nossa hipótese preliminar, a plataforma escolhida foi o Instagram, por ser uma das mais representativas quanto ao estudo do algoritmo. A metodologia utilizada foi análise de conteúdo das publicações do jornal G1 no Instagram. A partir daí, foram analisadas asa 18 publicações do jornal no dia 14 de outubro de 2024. As matérias foram divididas em as que são exemplo de violência direta, que se relacionam com a violência estrutural e as que não possuem relação com a violência. Não há nenhuma violência cultural.

Das três postagens com mais comentários, as duas primeiras são relacionadas com a guerra russo-ucraniana. A primeira possui uma relação indireta com a violência ao se tratar de uma violência estrutural e direta, a guerra, e, apesar de apresentar o presidente da Rússia, Vladimir Putin, como um possível agressor, não pode ser considerada como uma matéria que tenha relação direta com a violência. Já a segunda possui uma relação direta mais visível, apesar de também se tratar de uma guerra, visto que a matéria mostra de forma clara o agressor (Israel) e a agressão (um ataque). Por fim, a terceira postagem com mais comentários possui uma relação estrutural com a violência e possui 1.044 comentários (Torre de caixa d’água cai 1 segundo após motociclista passar em rua em Hortolândia). 

A presente pesquisa pretendeu avaliar como o algoritmo de redes sociais, utilizando o Instagram como representante de outras plataformas, pode criar um ambiente em que a violência é normalizada. Ao compreender que o algoritmo das redes sociais possui uma influência no usuário, conduzindo discursos, construindo espécie de “bolhas” e prendendo os usuários em uma espécie de caminho pré-determinado, percebe-se que os números se tornam mais relevantes que o conteúdo em si.

            Portanto, ao avaliar as publicações com maior engajamento entre as publicadas pelo jornal G1, percebe-se que as matérias que se relacionam com violência possuem mais comentários e, portanto, são privilegiadas pelo algoritmo do Instagram, em detrimento de publicações que não possuem relação com a violência.

Palavras-chave

Algoritmo; Instagram; Violência; Normalização

Referências

ARNOLD, Ansel. Languages of Violence. Refract: An Open Access Visual Studies Journal, v. 2, n. 1, 2019.

BAUDRILLARD, Jean. Simulacros e simulação. Lisboa: Relógio d’água, 1991

D’ANDRÉA, Carlos Frederico de Brito. Pesquisando plataformas online: conceitos e métodos. Salvador: Edufba, 2020.

FANTI, Kostas A., VANMAN, Eric; HENRICH, Christopher C.; AVRAAMIDES, Marios N. Desensitization to media violence over a short period. Aggressive Behavior, v. 35, p. 179–187, may-jun 2009.

GILLESPIE, Tarleton. A relevância dos algoritmos. Parágrafo, São Paulo, v. 6, n. 1, p. 95-121, 2018.

HUI, Yuk. Modulation after control. New Formations, v. 84, n. 84-85, p. 74-91, 2015.

PARCHEN, Charles Emmanuel; DE ALMENDRA FREITAS, Cinthia Obladen; BAGGIO, Andreza Cristina. O poder de influência dos algoritmos no comportamento dos usuários em redes sociais e aplicativos. Novos Estudos Jurídicos, v. 26, n. 1, p. 312-329, 2021.

RAMOS, Daniela Osvald. A violência a partir do número e suas modelizações: mapeamento inicial. In: Anais do 40º Congresso Brasileiro de Ciências da Comunicação: Intercom–Sociedade Brasileira de Estudos Interdisciplinares da Comunicação. 40º Congresso Brasileiro de Ciências da Comunicação. 2017. p. 1-12.

GALTUNG, Johan. Peace by Peaceful Means: Peace and Conflict, Development and Civilization. Oslo: International Peace Research Institute; London: SAGE Publications, 1996.

POELL, Thomas; NIEBORG, David; VAN DIJCK, José. Plataformização. Revista Fronteiras, São Leopoldo, v. 22, n. 1, 2020.

RAPOSO, J. F. Algoritmos, personalização e filtragem do conteúdo. In: SAAD CORRÊA, E. N.; SILVEIRA, S. C. Tendências em Comunicação Digital II. São Paulo: ECA-USP, 2017.

WANZINACK, Clóvis; REIS, Clóvis. Cyberbullying e violência na rede: Relações entre poder e desenvolvimento no litoral do Paraná. In: XXXVIII Congresso Brasileiro de Ciências da Comunicação, Rio de Janeiro, Brasil. 2015.

WIEVIORKA, Michel. O novo paradigma da violência. Tempo Social. Revista de Sociologia da USP, 9(1): 5-41, maio: 1997.

[1]Although we acknowledge the inherent differences of violence in television, film, sports, and video games, they are made decidedly “good” or “bad” through a representation where context is only selectively accessible. The problem I see is not with types of media themselves, as they do not harbor intentionality until they are interacted with. The question I’m focused on is how violence is communicated outside its real event—which is to say through media.