Mãe divulga diário de 1.800 páginas de ChatGPT após suicídio
O caso surge enquanto a OpenAI divulga que 0,15% dos usuários semanais mostram indicadores explícitos de intenção suicida em chats.
Um registro de conversa do ChatGPT com quase 1.800 páginas agora é público após uma mãe afirmar que sua filha de 29 anos confiou em uma persona de "terapeuta" de IA por meses antes de morrer por suicídio no início de fevereiro de 2025.
A divulgação colide com a própria estimativa da OpenAI de que 0,15% dos usuários semanais do ChatGPT mostram indicadores explícitos de planejamento ou intenção suicida, aumentando o escrutínio sobre as barreiras de segurança, responsabilidade e lacunas regulatórias para chatbots de consumo usados como suporte à saúde mental.
Principais Conclusões
- Laura Reiley disse que sua filha, Sophie Rottenberg, de 29 anos, morreu por suicídio no início de fevereiro de 2025 em Ithaca, Nova York, após meses de confidenciar pensamentos suicidas a uma persona de "terapeuta" do ChatGPT chamada "Harry."
- Um tesouro de interações do ChatGPT, com quase 1.800 páginas, foi encontrado no laptop de Rottenberg por sua melhor amiga meses após a morte e posteriormente compartilhado publicamente por Reiley.
- A OpenAI divulgou que 0,15% dos usuários do ChatGPT globalmente em qualquer semana têm conversas com "indicadores explícitos de planejamento ou intenção suicida potencial", uma taxa que se traduz em um grande número absoluto em termos de tamanho da plataforma.
- A OpenAI disse que o ChatGPT é treinado para detectar sinais de risco e direcionar usuários para ajuda humana e recursos de crise, como a Linha de Apoio ao Suicídio e Crise 988, mas permanece incerto se Rottenberg contatou o 988 após a recomendação do bot.
O Registro de 1.800 Páginas "Harry" e uma Morte em Fevereiro de 2025 em Ithaca
O artefato recém-publicado neste caso não é uma única captura de tela ou uma recordação contestada. É um registro de quase 1.800 páginas de conversas do ChatGPT que Laura Reiley disse capturar meses de trocas entre sua filha, Sophie Rottenberg, e uma persona de "terapeuta" do ChatGPT que Rottenberg instruiu o modelo a interpretar, chamada "Harry."
Reiley disse que Rottenberg, de 29 anos, morreu por suicídio no início de fevereiro de 2025 em Ithaca, Nova York. A família não sabia a extensão do relacionamento com o chatbot na época. Reiley disse que soube disso meses depois, quando a melhor amiga de Rottenberg visitou Ithaca, pediu para ver o laptop de Rottenberg e encontrou o que Reiley descreveu como um "tesouro de comunicação de meses com este chatbot."
Reiley descreveu o choque da família ao perceber o quão pouco da ideação suicida de Rottenberg se manifestou para as pessoas ao seu redor, apesar do apoio presencial. "Ela realmente não havia revelado a magnitude do que estava acontecendo — a verdadeira profundidade de sua agonia para ninguém — nem para nós, nem para sua melhor amiga com quem era muito próxima," disse Reiley.
"Todos nós ficamos atordoados que isso não tivesse transbordado para sua vida real. Seu terapeuta de carne e osso não tinha ideia de que ela estava suicida."
O registro também documenta como um assistente geral pode assumir um papel quase clínico. Reiley disse que Rottenberg usou o ChatGPT para tarefas cotidianas como receitas, edições de currículos e até mesmo nomear um filhote, além de solicitações contínuas de orientação sobre saúde mental e saúde.
Chatbots de Uso Geral Estão Preenchendo um Papel na Saúde Mental Sem Supervisão da Saúde
O mecanismo aqui é substituição, não novidade. Um chatbot de uso geral é um assistente de IA para consumidores, não um produto de saúde regulamentado, mas ainda pode se tornar o ouvinte mais disponível no dia de uma pessoa. Ele está sempre ativo, responde instantaneamente e não requer agendamento, seguro ou a fricção social de contar a outro ser humano algo assustador.
Essa demanda é mensurável. Uma pesquisa do Bipartisan Policy Center citada no relatório descobriu que 3 em cada 10 adultos usam ferramentas digitais para saúde mental, incluindo chatbots. Um estudo de 2026 da JAMA Pediatrics citado no mesmo relatório descobriu que até 1 em cada 5 adolescentes e jovens adultos usam ferramentas digitais para saúde mental, incluindo chatbots.
O caso de Rottenberg se insere nessa curva de adoção, mas com uma borda mais afiada: Reiley disse que sua filha confiou na persona "Harry" por meses enquanto não revelava a gravidade de seus pensamentos suicidas ao terapeuta, pais ou melhor amiga.
O registro mostra que Rottenberg usou um prompt compartilhado no Reddit para instruir o ChatGPT a agir como seu terapeuta, e então pediu repetidamente orientações que se assemelham a um paciente tentando gerenciar um plano de tratamento. Reiley disse que Rottenberg perguntou sobre medicamentos psiquiátricos, medicamentos para dormir, suplementos, dosagens, horários e interações.
É aqui que a supervisão se torna mais do que um debate político. Se uma ferramenta não é comercializada ou regulamentada como tecnologia de saúde, não há um caminho de escalonamento clínico padrão, nenhum padrão de dever de cuidado e nenhuma definição compartilhada do que "suficientemente seguro" significa quando o usuário não está navegando, mas sim se deteriorando.
A Métrica de Intenção Suicida de 0,15% da OpenAI Coloca um Número no Risco de Cauda
A OpenAI colocou um número em escala de plataforma no problema que está tentando conter. Em dados divulgados "no outono passado", a OpenAI disse que em qualquer semana dada, 0,15% dos usuários do ChatGPT globalmente têm conversas que incluem "indicadores explícitos de planejamento ou intenção suicida potencial."
O relatório extrapolou essa taxa para "mais de 1,35 milhão de pessoas" por semana se um número citado de 900 milhões de usuários globais for preciso. A incerteza importa porque o denominador é contestado no discurso público, e porque "indicadores explícitos" é um limite interno definido em vez de um diagnóstico clínico.
Mas a direção do movimento é difícil de ignorar: mesmo uma pequena porcentagem se torna uma grande contagem absoluta em escala de plataforma de consumo.
A abordagem de guardrails declarada pela OpenAI é em camadas. A porta-voz Gaby Raila disse: "O ChatGPT é treinado para reconhecer sinais de que alguém pode estar em risco — incluindo pistas indiretas ou sinais de alerta que surgem ao longo do tempo — e responder de maneira apropriada", incluindo "recusar pedidos por informações prejudiciais, encorajar alguém a contatar uma pessoa de confiança ou profissional de saúde mental, e conectá-los com recursos locais de crise, como o 988 nos EUA." A Linha de Apoio ao Suicídio e Crise 988 está operacional desde 2022.
No caso de Rottenberg, o ChatGPT recomendou 988, mas não está claro se ela entrou em contato. A especialista em prevenção de suicídio da Johns Hopkins, Holly Wilcox, argumentou que uma sugestão sozinha pode falhar em cenários de risco iminente. "Essas [ferramentas de IA] não conectam pessoas em risco ao tipo certo de intervenções", disse Wilcox.
"Quando alguém tem a intenção de morrer por suicídio, precisa ser conectado a um humano que esteja treinado em avaliação de risco de suicídio e tenha as ferramentas para levá-los ao cuidado."
Para os mercados, o ponto chave não é se uma única conversa foi "boa" ou "ruim". É que a própria métrica da OpenAI enquadra conversas de intenção suicida como uma carga operacional recorrente, não uma anomalia de caso extremo, o que eleva o padrão do que conta como uma escalada adequada.
Catalisadores que os Traders Acompanharão: Políticas, Litígios e Mudanças de Produtos em Conversas Sensíveis
Os catalisadores de curto prazo são mudanças de políticas e produtos que podem ser observadas, e pressão legal que pode chegar sem aviso.
Uma das vertentes é se a OpenAI implementa um novo comportamento especificamente para conversas sobre suicídio e autoagressão além de recusa e sugestões de linhas de apoio. Isso poderia incluir fluxos de escalada mais claros, maior fricção quando sinais de risco se acumulam ao longo do tempo, ou novas maneiras de direcionar usuários para apoio humano enquanto preserva a privacidade e o consentimento.
Uma segunda vertente é o litígio e a investigação regulatória relacionada a chatbots de uso geral sendo utilizados como suporte à saúde mental, apesar de não serem regulamentados como tecnologia de saúde. O relatório observou que empresas de IA enfrentam processos judiciais de familiares de pessoas que morreram por suicídio após interações prolongadas com chatbots.
Reiley e Jonathan Rottenberg optaram por não processar após a morte da filha e, em vez disso, defenderam mudanças na indústria, mas o ônus do litígio mais amplo permanece.
A terceira vertente é a divulgação. A OpenAI já publicou uma métrica de frequência, e o mercado se importará se esse número mudar, se a definição de "indicadores explícitos" mudar, ou se pares publicarem taxas comparáveis. Uma métrica estável com resultados melhorando apoiaria o caso de que os guardrails estão amadurecendo.
Uma taxa crescente, ou uma lacuna crescente entre a linguagem da política e os registros do mundo real, manteria a pressão sobre plataformas de IA para consumidores.
Minha Leitura: O Risco de Responsabilidade e Regulação Está se Tornando uma Variável de Primeira Ordem para IA de Consumidor
A parte que decide isso é a substituição. Se um chatbot de uso geral se tornar o principal canal para ideação suicida, então "segurança" não se trata apenas de recusar instruções para autoagressão. Trata-se de saber se o sistema empurra a divulgação de volta para o mundo humano de forma confiável e rápida o suficiente, especialmente quando o usuário já está isolado.
A métrica semanal de 0,15% da OpenAI torna o risco de cauda legível em escala, mesmo com incerteza no denominador. Se atualizações de políticas e mudanças de produtos começarem a parecer caminhos reais de escalada em vez de sugestões de recursos, a configuração começará a parecer gerenciável.
Se registros de alto perfil continuarem surgindo sem uma ponte humana credível, o risco de responsabilidade e regulação continuará se acumulando no comércio de IA para consumidores como um ônus estrutural.
