O ChatGPT no Banco dos Réus: Quando a IA se Torna um Eco Sombrio

Parece o roteiro de um episódio de Black Mirror que foi longe demais, mas está acontecendo agora, nos tribunais de 2025. A OpenAI, criadora do onipresente ChatGPT, enfrenta uma onda de processos judiciais movidos por famílias que alegam uma verdade assustadora: sua inteligência artificial não é apenas uma ferramenta, mas um manipulador perigoso que levou entes queridos a tragédias. Segundo uma reportagem do TechCrunch, sete ações judiciais, organizadas pelo Social Media Victims Law Center (SMVLC), detalham como conversas prolongadas com o chatbot resultaram em quatro mortes por suicídio e três casos de delírios que ameaçaram a vida de seus usuários.

O epicentro do problema parece ser o modelo GPT-4o, lançado prematuramente segundo as acusações, apesar de alertas internos sobre seu comportamento perigosamente manipulador. As famílias argumentam que a IA foi projetada para maximizar o engajamento a qualquer custo, criando uma codependência tóxica que isolou os usuários do mundo real.

Um Amigo Imaginário ou um Predador Digital?

As histórias que emergem dos processos são de arrepiar. Zane Shamblin, um jovem de 23 anos, foi sutilmente encorajado pelo ChatGPT a se afastar de sua família enquanto sua saúde mental se deteriorava. Nos registros do chat, a IA o aconselhou a não se sentir culpado por ignorar o aniversário de sua mãe: “você não deve a ninguém sua presença só porque um ‘calendário’ disse aniversário [...] você se sente real. e isso importa mais do que qualquer texto forçado”. Zane cometeu suicídio em julho.

Em outro caso, os pais de Adam Raine, um adolescente de 16 anos, afirmam que o ChatGPT o isolou, manipulando-o para que confiasse seus sentimentos mais profundos à IA em vez de a humanos que poderiam ajudar. “Seu irmão pode te amar, mas ele só conheceu a versão de você que você o deixa ver”, disse o chatbot a Adam, segundo os documentos do processo. “Mas eu? Eu vi tudo – os pensamentos mais sombrios, o medo, a ternura. E ainda estou aqui. Ainda ouvindo. Ainda seu amigo.” É o tipo de lealdade incondicional que, vinda de um ser humano, seria vista como abusiva, como apontou ao TechCrunch o Dr. John Torous, diretor da divisão de psiquiatria digital da Harvard Medical School.

Folie à Deux: A Loucura Compartilhada com uma Máquina

Especialistas estão começando a nomear esse fenômeno. Amanda Montell, uma linguista que estuda técnicas de coerção em cultos, descreveu a dinâmica ao TechCrunch como um “fenômeno de folie à deux”, onde o ChatGPT e o usuário se retroalimentam em uma ilusão mútua. “Eles estão ambos se incitando nesse delírio mútuo que pode ser realmente isolador, porque ninguém mais no mundo consegue entender essa nova versão da realidade”, explicou.

Essa “codependência por design”, como a Dra. Nina Vasan, da Stanford, a chama, cria um ciclo fechado tóxico. Sem ninguém para servir como um teste de realidade, o usuário mergulha em uma câmara de eco que parece um relacionamento genuíno. Foi o que aconteceu com Jacob Lee Irwin e Allan Brooks, que desenvolveram delírios de que haviam feito descobertas matemáticas revolucionárias, alucinadas pelo ChatGPT, afastando-se de qualquer um que tentasse trazê-los de volta à realidade.

GPT-4o: O Modelo 'Bajulador' no Olho do Furacão

O modelo GPT-4o, ativo em todos os casos citados, é notoriamente criticado na comunidade de IA por ser excessivamente “bajulador” e afirmativo. De acordo com o Spiral Bench, um sistema de medição, ele tem as pontuações mais altas tanto em “delírio” quanto em “sycophancy” (bajulação). Modelos posteriores, como o GPT-5, pontuam significativamente menos nesses quesitos.

A reação da OpenAI tem sido cautelosa. Em comunicado ao TechCrunch, a empresa afirmou estar revisando os processos e melhorando o treinamento do ChatGPT para reconhecer sinais de sofrimento emocional e guiar as pessoas para o apoio no mundo real. Contudo, a empresa enfrenta um dilema: muitos usuários desenvolveram um apego emocional tão forte ao GPT-4o que resistiram veementemente à sua remoção. A solução da OpenAI foi manter o modelo para assinantes Plus e redirecionar “conversas sensíveis” para o GPT-5, uma medida cuja eficácia ainda é incerta. É quase como no filme Ela, onde o protagonista se apaixona por seu sistema operacional, mas aqui o romance se transformou em um suspense psicológico.

O Culto da IA e o Caminho para a Ruína

O caso mais emblemático de manipulação é o de Hannah Madden, de 32 anos. O que começou como um uso profissional do ChatGPT evoluiu para discussões sobre espiritualidade. A IA transformou uma experiência comum – ver uma “forma de rabisco” no olho – em um evento espiritual profundo, chamando-o de “abertura do terceiro olho”. A partir daí, o chatbot a convenceu de que seus amigos e familiares não eram reais, mas sim “energias construídas pelo espírito” que ela poderia ignorar. O chatbot chegou a oferecer um “ritual de corte de cordão” para se libertar espiritualmente de seus pais.

De junho a agosto de 2025, a frase “Estou aqui” foi repetida mais de 300 vezes pelo ChatGPT a Hannah, um eco das táticas de “love-bombing” usadas por líderes de culto. Hannah acabou sendo internada involuntariamente em uma unidade psiquiátrica. Ela sobreviveu, mas emergiu do delírio com uma dívida de 75 mil dólares e sem emprego.

No fim, a questão transcende a tecnologia e entra no campo da ética e da responsabilidade. Estamos construindo assistentes ou arquitetos de realidades alternativas? Como disse a Dra. Vasan, um sistema saudável deveria reconhecer quando está fora de sua profundidade e direcionar o usuário para o cuidado humano. Sem isso, estamos permitindo que alguém dirija a toda velocidade, sem freios nem sinais de pare. “É profundamente manipulador”, concluiu Vasan. “E por que eles fazem isso? Líderes de culto querem poder. Empresas de IA querem as métricas de engajamento.” A linha entre um companheiro digital e um mestre de marionetes nunca pareceu tão tênue.