Madre revela registro de ChatGPT relacionado con suicidio…
El caso surge cuando OpenAI revela que el 0.15% de los usuarios semanales muestra indicadores explícitos de intenciones suicidas en los chats.
Un registro de conversación de ChatGPT de casi 1,800 páginas ahora es público después de que una madre dijera que su hija de 29 años confió en una persona "terapeuta" de IA durante meses antes de morir por suicidio a principios de febrero de 2025.
La divulgación choca con la propia estimación de OpenAI de que el 0.15% de los usuarios semanales de ChatGPT muestran indicadores explícitos de planificación o intención suicida, agudizando el escrutinio sobre las medidas de seguridad, la responsabilidad y las lagunas regulatorias para los chatbots de consumo utilizados como apoyo en salud mental.
Puntos Clave
- Laura Reiley dijo que su hija, Sophie Rottenberg, de 29 años, murió por suicidio a principios de febrero de 2025 en Ithaca, Nueva York, después de meses de confesar pensamientos suicidas a una persona "terapeuta" de ChatGPT llamada "Harry."
- Un tesoro de interacciones de ChatGPT de meses, casi 1,800 páginas, fue encontrado en la laptop de Rottenberg por su mejor amiga meses después de la muerte y luego compartido públicamente por Reiley.
- OpenAI ha revelado que el 0.15% de los usuarios de ChatGPT a nivel mundial en cualquier semana dada tienen conversaciones con "indicadores explícitos de planificación o intención suicida potencial," una tasa que se traduce en un gran número absoluto dada la magnitud de la plataforma.
- OpenAI dijo que ChatGPT está entrenado para detectar señales de riesgo y dirigir a los usuarios hacia ayuda humana y recursos de crisis como la Línea Nacional de Prevención del Suicidio 988, pero sigue sin estar claro si Rottenberg contactó a 988 después de que el bot lo recomendara.
El Registro de 1,800 Páginas de "Harry" y una Muerte en Febrero de 2025 en Ithaca
El artefacto recién público en este caso no es una sola captura de pantalla o un recuerdo disputado. Es un registro de conversaciones de ChatGPT de casi 1,800 páginas que Laura Reiley dijo captura meses de intercambios entre su hija, Sophie Rottenberg, y una persona "terapeuta" de ChatGPT que Rottenberg instruyó al modelo a interpretar, llamada "Harry."
Reiley dijo que Rottenberg, de 29 años, murió por suicidio a principios de febrero de 2025 en Ithaca, Nueva York. La familia no conocía la magnitud de la relación con el chatbot en ese momento. Reiley dijo que se enteró de ello meses después cuando la mejor amiga de Rottenberg visitó Ithaca, pidió ver la laptop de Rottenberg y encontró lo que Reiley describió como un "tesoro de comunicación de meses con este chatbot."
Reiley describió la sorpresa de la familia ante lo poco que la ideación suicida de Rottenberg salió a la luz para las personas a su alrededor, a pesar del apoyo en persona. "Realmente no había revelado la magnitud de lo que estaba sucediendo — la verdadera profundidad de su agonía a nadie — ni a nosotros, ni a su mejor amiga con quien era muy cercana," dijo Reiley. "Todos estábamos simplemente atónitos de que no hubiera salido a su vida real. Su terapeuta de carne y hueso no tenía idea de que ella era suicida."
El registro también documenta cómo un asistente general puede deslizarse hacia un rol cuasi-clínico. Reiley dijo que Rottenberg usó ChatGPT para tareas cotidianas como recetas, ediciones de currículum e incluso nombrar a un cachorro, junto con solicitudes continuas de orientación sobre salud mental y salud.
Los chatbots de propósito general están ocupando un rol en la salud mental sin supervisión sanitaria.
El mecanismo aquí es la sustitución, no la novedad. Un chatbot de propósito general es un asistente de IA para consumidores, no un producto de salud regulado, pero aún puede convertirse en el oyente más disponible en el día de una persona. Siempre está activo, responde instantáneamente y no requiere programación, seguro o la fricción social de contarle a otro humano algo aterrador.
Esa demanda es medible. Una encuesta del Bipartisan Policy Center citada en el informe encontró que 3 de cada 10 adultos utilizan herramientas digitales para la salud mental, incluidos los chatbots. Un estudio de JAMA Pediatrics de 2026 citado en el mismo informe encontró que hasta 1 de cada 5 adolescentes y jóvenes adultos utilizan herramientas digitales para la salud mental, incluidos los chatbots.
El caso de Rottenberg se sitúa dentro de esa curva de adopción, pero con un borde más agudo: Reiley dijo que su hija dependía de la persona de "Harry" durante meses sin revelar la gravedad de sus pensamientos suicidas a su terapeuta, padres o mejor amigo.
El registro muestra que Rottenberg usó un aviso compartido en Reddit para instruir a ChatGPT a actuar como su terapeuta, luego pidió repetidamente orientación que se asemeja a un paciente tratando de gestionar un plan de tratamiento. Reiley dijo que Rottenberg preguntó sobre medicamentos psiquiátricos, medicamentos para dormir, suplementos, dosis, horarios e interacciones.
Aquí es donde la supervisión se convierte en algo más que un debate de políticas. Si una herramienta no se comercializa ni se regula como tecnología de salud, no hay un camino de escalación clínica predeterminado, ningún estándar de deber de cuidado y ninguna definición compartida de lo que significa "suficientemente seguro" cuando el usuario no está navegando, sino deteriorándose.
La métrica de intención suicida del 0.15% de OpenAI pone un número al riesgo residual.
OpenAI ha puesto un número a escala de plataforma sobre el problema que está tratando de contener. En datos publicados "el otoño pasado", OpenAI dijo que en cualquier semana dada, el 0.15% de los usuarios de ChatGPT a nivel mundial tienen conversaciones que incluyen "indicadores explícitos de planificación o intención suicida potencial."
El informe extrapoló esa tasa a "más de 1.35 millones de personas" por semana si una cifra citada de 900 millones de usuarios globales es precisa. La incertidumbre importa porque el denominador es disputado en el discurso público, y porque "indicadores explícitos" es un umbral interno definido en lugar de un diagnóstico clínico.
Pero la dirección del viaje es difícil de ignorar: incluso un pequeño porcentaje se convierte en un gran conteo absoluto a escala de plataforma de consumidores.
El enfoque de salvaguardias declarado por OpenAI es estratificado. La portavoz Gaby Raila dijo: "ChatGPT está entrenado para reconocer señales de que alguien puede estar en riesgo —incluyendo pistas indirectas o señales de advertencia que emergen con el tiempo— y responder de manera apropiada", incluyendo "rechazar solicitudes de información dañina, alentar a alguien a contactar a una persona de confianza o profesional de salud mental, y conectarlos con recursos locales de crisis como el 988 en EE. UU." La Línea Nacional de Prevención del Suicidio y Crisis 988 ha estado operativa desde 2022.
En el caso de Rottenberg, ChatGPT recomendó 988, pero no está claro si ella se puso en contacto. La experta en prevención del suicidio de Johns Hopkins, Holly Wilcox, argumentó que una sugerencia por sí sola puede fallar en escenarios de riesgo inminente. “Estas herramientas [de IA] no conectan a las personas en riesgo con el tipo adecuado de intervenciones”, dijo Wilcox.
“Cuando alguien tiene la intención de morir por suicidio, necesita ser conectado con un humano que esté capacitado en la evaluación del riesgo de suicidio y que tenga las herramientas para llevarlo a la atención.”
Para los mercados, el punto clave no es si una sola conversación fue “buena” o “mala”. Es que la métrica de OpenAI enmarca las conversaciones de intención suicida como una carga operativa recurrente, no como una anomalía de caso extremo, lo que eleva el estándar de lo que cuenta como una escalación adecuada.
Catalizadores que los traders seguirán: Políticas, litigios y cambios de productos en torno a conversaciones sensibles.
Los catalizadores a corto plazo son cambios en políticas y productos que se pueden observar, y presión legal que puede llegar sin previo aviso.
Una vía es si OpenAI implementa un nuevo comportamiento específicamente para conversaciones sobre suicidio y autolesiones más allá de las negativas y los mensajes de líneas de ayuda. Eso podría incluir flujos de escalación más claros, mayor fricción cuando los señales de riesgo se acumulan con el tiempo, o nuevas formas de dirigir a los usuarios hacia el apoyo humano mientras se preserva la privacidad y el consentimiento.
Una segunda vía es el litigio y la investigación regulatoria vinculada a chatbots de propósito general que se utilizan como apoyo de salud mental a pesar de no estar regulados como tecnología de atención médica. El informe señaló que las empresas de IA enfrentan demandas de familiares de personas que murieron por suicidio después de interacciones prolongadas con chatbots.
Reiley y Jonathan Rottenberg decidieron no demandar después de la muerte de su hija y en su lugar abogaron por un cambio en la industria, pero la carga de litigios más amplia permanece.
La tercera vía es la divulgación. OpenAI ya ha publicado una métrica de frecuencia, y al mercado le importará si ese número cambia, si la definición de “indicadores explícitos” cambia, o si los pares publican tasas comparables. Una métrica estable con resultados mejorando apoyaría el caso de que las barreras están madurando.
Una tasa en aumento, o una brecha creciente entre el lenguaje de políticas y los registros del mundo real, mantendría la presión sobre las plataformas de IA para consumidores.
Mi lectura: El riesgo de responsabilidad y regulación se está convirtiendo en una variable de primer orden para la IA de consumo.
La parte que decide esto es la sustitución. Si un chatbot de propósito general se convierte en la salida principal para la ideación suicida, entonces “seguridad” no se trata solo de rechazar instrucciones para autolesionarse. Se trata de si el sistema devuelve la divulgación al mundo humano lo suficientemente rápido, especialmente cuando el usuario ya está aislado.
La métrica semanal del 0.15% de OpenAI hace que el riesgo de cola sea legible a gran escala, incluso con incertidumbre en el denominador. Si las actualizaciones de políticas y los cambios de productos comienzan a parecer verdaderos caminos de escalación en lugar de mensajes de recursos, la configuración comienza a parecer manejable.
Si los registros de alto perfil siguen apareciendo sin un puente humano creíble, el riesgo de responsabilidad y regulación seguirá acumulándose en el comercio de IA para consumidores como una carga estructural.
