Os Algoritmos Escutam? Psicoterapia Digital, Privacidade de Dados e Colonialidade dos Dados.

Resumo

A digitalização da saúde tem se intensificado nas últimas décadas, impulsionada pelo avanço das tecnologias digitais, pela plataformização dos serviços e pela expansão da inteligência artificial generativa. Nesse cenário, a psicoterapia desponta como um dos campos mais sensíveis a essas transformações, dado que envolve não apenas dados clínicos, mas também registros de subjetividades, emoções e vínculos interpessoais. A perversidade desse processo se evidencia na capacidade dos algoritmos de identificar pessoas em situação de vulnerabilidade e utilizar suas próprias informações contra elas, explorando pontos de fragilidade emocional e subjetiva. A emergência de sistemas como o ChatGPT e outros assistentes virtuais alimentados por algoritmos de aprendizado de máquina demonstra uma tendência de aproximação da saúde mental a lógicas algorítmicas que prometem eficiência, rapidez e ampliação de acesso. Entretanto, essas promessas estão imbuídas de riscos éticos, políticos e epistemológicos. A expansão da inteligência artificial generativa (GenAI) no cotidiano humano revela um deslocamento expressivo: de funções técnicas e produtivas para dimensões subjetivas e relacionais. Se em 2024 o uso predominante estava centrado na geração de ideias e na automação de tarefas, em 2025 os dados do relatório The 2025 Top-100 GenAI Use Case Report (Filtered/Harvard Business Review) evidenciam uma virada: “therapy/companionship” ocupa a primeira posição do ranking, seguida de novos casos de uso como “organizing my life” e “finding purpose”. Essa transição indica que a GenAI passou a ser percebida como mediadora da vida emocional, cotidiana e existencial. O presente artigo tem como objetivo investigar criticamente essa mudança, tomando como corpus o gráfico comparativo dos Top 10 casos de uso (2024–2025). A questão norteadora é direta: os algoritmos escutam? A resposta exige problematizar não apenas o avanço técnico, mas também as implicações éticas, políticas e epistemológicas da psicoterapia digital. A relevância deste estudo reside justamente na urgência de discutir a saúde digital a partir da interface entre comunicação e psicologia, campo ainda pouco explorado no Brasil e na América Latina. A psicoterapia digital, quando apropriada por plataformas corporativas globais, não se limita a oferecer um serviço técnico: ela reorganiza práticas de cuidado, redefine a confiança e reconfigura vínculos subjetivos. A pertinência da investigação também se justifica pela temática central do simpósio, que propõe pensar futuros alternativos às big techs. Analisar a escuta algorítmica sob a lente da decolonialidade permite tensionar a hegemonia tecnológica e refletir sobre caminhos plurais e éticos para a saúde mental mediada por tecnologias. Domingos (2017) descreve os algoritmos como “mestres artesãos”, capazes de criar modelos complexos a partir de dados. No campo da psicoterapia digital, isso significa transformar falas, emoções e expressões de sofrimento em insumos para sistemas de predição. Harari (2024) amplia esse debate ao destacar que os algoritmos podem aprender de forma autônoma, chegando a decompor emoções em padrões matemáticos, o que sugere um deslocamento da escuta humana para a escuta algorítmica. Pasquale (2015) alerta para a “caixa-preta algorítmica”, na qual decisões são tomadas sem transparência, colocando em risco a confiança necessária nas relações de cuidado em saúde mental. Gillespie (2010; 2018) demonstra que os algoritmos não apenas organizam informações, mas também moldam cultura e política, determinando quais conteúdos ganham visibilidade. Na saúde digital, isso significa que a organização do discurso clínico e das práticas de escuta pode ser atravessada por lógicas que privilegiam determinados padrões e silenciam outros. Bucher (2018) reforça essa perspectiva ao tratar os algoritmos como infraestruturas invisíveis que regulam a vida social e, em trabalho posterior, introduz o conceito de imaginação algorítmica, revelando como os sujeitos projetam expectativas sobre esses sistemas e ajustam suas práticas em função disso. A subjetividade é uma das dimensões mais afetadas pela lógica algorítmica. Han (2018) argumenta que o poder contemporâneo não se exerce apenas por coerção, mas pela captura das emoções e da subjetividade por meio de dados, instaurando uma governamentalidade algorítmica. O indivíduo passa a ser agente de autoexploração, mediado por métricas e respostas padronizadas. Esse cenário é particularmente grave na psicoterapia, onde o processo de transformação subjetiva exige abertura, singularidade e acolhimento. O’Neil (2020) reforça esse alerta ao demonstrar como algoritmos podem amplificar desigualdades sociais, punindo especialmente os mais vulneráveis. No caso da saúde mental, isso significa a possibilidade de reforço de estigmas e exclusões, quando sistemas classificam determinados perfis como mais propensos a comportamentos de risco ou menos aderentes a tratamentos. Zuboff (2020) descreve esse processo no contexto do capitalismo de vigilância, em que dados do comportamento humano são transformados em mercadorias preditivas. No campo da psicoterapia digital, isso se traduz na captura e comercialização de informações emocionais e clínicas. Andrejevic (2019) complementa ao mostrar como a automação reorganiza continuamente a relação entre usuários e plataformas, instaurando uma captura incessante do engajamento. A interação terapêutica, nesse contexto, corre o risco de ser reduzida a métricas de desempenho, tempo de permanência ou respostas padronizadas em aplicativos, distorcendo o sentido original do cuidado. A perspectiva decolonial é essencial para compreender como as marcas do colonialismo persistem nas práticas contemporâneas de poder, saber e subjetividade. Quijano (2005) introduz a noção de colonialidade do poder, mostrando como estruturas globais de dominação se mantêm mesmo após o fim formal da colonização. Mignolo (2008) discute a colonialidade do saber, que impõe epistemologias ocidentais como universais, invisibilizando conhecimentos indígenas, africanos, latino-americanos e femininos. Lugones (2014) complementa com a noção de colonialidade do ser, evidenciando como gênero, corpo e identidade também são atravessados por hierarquias coloniais. Aplicada ao campo da saúde digital, essa perspectiva mostra que os algoritmos não apenas processam dados: eles reproduzem lógicas coloniais ao universalizar padrões de sofrimento e cuidado baseados em matrizes eurocêntricas, silenciando vozes e experiências diversas. Nesse sentido, falar em colonialidade dos dados é reconhecer que a psicoterapia digital, quando estruturada por big techs, tende a impor modelos homogêneos e excludentes de subjetividade. Por outro lado, a decolonialidade abre a possibilidade de futuros alternativos, baseados na pluralidade epistemológica, na governança comunitária da tecnologia e na valorização da autonomia dos sujeitos. A metodologia adotada é qualitativa, exploratória e interpretativa. O corpus foi analisado em três etapas: (1) leitura contextual do relatório e do gráfico; (2) comparação diacrônica entre os anos de 2024 e 2025; e (3) interpretação crítica à luz de referenciais teóricos que discutem algoritmos, subjetividade e colonialidade. Esse percurso dialoga com autores como Domingos (2017), Harari (2024), Pasquale (2015), O’Neil (2020), Crawford (2021), Bucher (2018), Gillespie (2010; 2018), Finn (2017), Han (2018), Zuboff (2020), Andrejevic (2019), Quijano (2005), Mignolo (2008) e Lugones (2014). A escolha desse material se justifica por seu impacto internacional e por traduzir a visão empresarial sobre o futuro da inteligência artificial. A análise documental, articulada com a crítica algorítmica e a teoria decolonial, permitiu interpretar a escuta algorítmica como fenômeno simultaneamente tecnológico, cultural e político, atravessado por disputas em torno da privacidade, da ética e da colonialidade dos dados. Os resultados evidenciam uma reconfiguração: a centralidade da “terapia/companhia” em 2025 demonstra que os algoritmos passaram a simular escuta, acolhimento e vínculo, ocupando espaços antes reservados à clínica humana. Essa simulação, contudo, é ambivalente: ao mesmo tempo em que amplia o acesso e oferece apoio a populações vulneráveis, também captura dados íntimos, padroniza narrativas, fragiliza a privacidade e atualiza formas de exploração. Três dimensões críticas emergem: (1) a captura da subjetividade como dado; (2) a opacidade e a legitimidade da escuta algorítmica; e (3) a colonialidade dos dados, que invisibiliza epistemologias plurais e reforça padrões ocidentais de subjetividade. Conclui-se que a psicoterapia digital mediada por algoritmos evidencia a não neutralidade da tecnologia, atravessada por disputas éticas, políticas e epistemológicas. A digitalização da saúde mental, quando apropriada por big techs, tende a reforçar a lógica da captura de dados e da colonialidade da escuta, colocando em risco a privacidade e a autonomia dos sujeitos. Entretanto, ao adotar lentes decoloniais, é possível vislumbrar futuros alternativos, nos quais a tecnologia seja apropriada de maneira plural, com governança comunitária e respeito às epistemologias locais. Assim, retorna-se à pergunta que dá título a este trabalho: algoritmos escutam? A resposta é que não escutam no sentido humano do termo. Eles processam dados, reconhecem padrões e simulam acolhimento, mas o fazem de modo a capturar, padronizar e comercializar subjetividades. Essa escuta algorítmica, marcada pela opacidade e pela colonialidade, só pode ser ressignificada se articulada a futuros alternativos decoloniais, que priorizem diversidade epistemológica, autonomia e cuidado ético.

Palavras-chave: Algoritmos; Psicoterapia Digital; Privacidade de dados; Decolonialidade; Subjetividade.

Referências

ANDREJEVIC, M. Automated media. New York: Routledge, 2019.

BUCHER, T. If... Then: Algorithmic Power and Politics. New York: Oxford University Press, 2018.

CRAWFORD, K. Atlas of AI: power, politics, and the planetary costs of artificial intelligence. New Haven: Yale University Press, 2021.

DOMINGOS, P. The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World. New York: Basic Books, 2017.

FILTERED. The 2025 Top 100 GenAI Use Case Report. Harvard Business Review, Boston, mar. 2025. Disponível em: https://www.filtered.com/genai-use-cases-2025. Acesso em: 18 jul. 2025.

FINN, E. What Algorithms Want: Imagination in the Age of Computing. Cambridge: MIT Press, 2017.

GILLESPIE, T. The politics of “platforms”. New Media & Society, Londres, v. 12, n. 3, p. 347-364, 2010.

GILLESPIE, T. Custodians of the Internet: Platforms, Content Moderation, and the Hidden Decisions That Shape Social Media. New Haven: Yale University Press, 2018.

HAN, B.-C. Psicopolítica: o neoliberalismo e as novas técnicas de poder. Belo Horizonte: Âyiné, 2018.

HARARI, Y. N. Nexus: uma breve história das redes de informação, da idade da pedra à inteligêcia artificial. São Paulo: Companhia das Letras, 2024.

LUGONES, M. Rumo a um feminismo descolonial. Estudos Feministas, Florianópolis, v. 22, n. 3, p. 935-952, set.-dez. 2014.

MIGNOLO, W. D. Novas reflexões sobre a “idéia da América Latina”: a direita, a esquerda e a opção descolonial. Caderno CRH, Salvador, v. 21, n. 53, p. 239-252, maio/ago. 2008.

O’NEIL, C. Algoritmos de destruição em massa: como o big data aumenta a desigualdade e ameaça a democracia. Tradução de Rafael Abraham. Santo André: Rua do Sabão, 2020.

PASQUALE, F. The Black Box Society: The Secret Algorithms That Control Money and Information. Cambridge: Harvard University Press, 2015.

QUIJANO, A. Colonialidade do poder, eurocentrismo e América Latina. In: LANDER, E. (Org.). A colonialidade do saber: eurocentrismo e ciências sociais. Perspectivas latino-americanas. Buenos Aires: CLACSO, 2005. p. 227-278.

ZUBOFF, S. A era do capitalismo de vigilância: a luta por um futuro humano na nova fronteira do poder. Rio de Janeiro: Intrínseca, 2020.