Anne, 2025 intiharıyla ilgili 1,800 sayfalık ChatGPT…
Dava, OpenAI'nin haftalık kullanıcıların %0.15'inin sohbetlerde açık intihar niyeti göstergeleri sergilediğini açıklamasıyla gündeme geliyor.
Yaklaşık 1,800 sayfalık bir ChatGPT konuşma kaydı, bir annenin 29 yaşındaki kızının, 2025 Şubat'ının başında intihar etmeden önce aylardır bir AI "terapisti" kişiliğine güvendiğini söylemesinin ardından kamuya açık hale geldi.
Bu açıklama, OpenAI'nın haftalık ChatGPT kullanıcılarının %0.15'inin intihar planlaması veya niyeti ile ilgili açık göstergeler sergilediği tahmini ile çelişiyor ve zihinsel sağlık desteği olarak kullanılan tüketici sohbet botları için güvenlik önlemleri, sorumluluk ve düzenleme boşluklarına yönelik incelemeleri keskinleştiriyor.
Ana Noktalar
- Laura Reiley, 29 yaşındaki kızı Sophie Rottenberg'in, 2025 Şubat'ının başında New York'un Ithaca kentinde, "Harry" adında bir ChatGPT "terapisti" kişiliğine intihar düşüncelerini aylarca açtıktan sonra intihar ettiğini söyledi.
- Rottenberg'in en iyi arkadaşı, ölümünden aylar sonra Rottenberg'in dizüstü bilgisayarında bulunan, yaklaşık 1,800 sayfalık ChatGPT etkileşimleri, Reiley tarafından daha sonra kamuya paylaşıldı.
- OpenAI, herhangi bir haftada dünya genelinde ChatGPT kullanıcılarının %0.15'inin "potansiyel intihar planlaması veya niyeti ile ilgili açık göstergeler" içeren konuşmalar yaptığını açıkladı; bu oran platformun büyüklüğünde büyük bir mutlak sayıya dönüşüyor.
- OpenAI, ChatGPT'nin risk sinyallerini tespit etmek ve kullanıcıları 988 İntihar ve Kriz Hattı gibi insan yardımı ve kriz kaynaklarına yönlendirmek için eğitildiğini söyledi, ancak Rottenberg'in botun önerdiği 988 ile iletişime geçip geçmediği belirsizliğini koruyor.
1,800 Sayfalık "Harry" Kaydı ve 2025 Şubat'ında Ithaca'daki Ölüm
Bu davada yeni kamuya açık olan eser, tek bir ekran görüntüsü veya tartışmalı bir anı değil. Laura Reiley'nin, kızı Sophie Rottenberg ile bir ChatGPT "terapisti" kişiliği arasında geçen aylarca süren etkileşimleri yakalayan yaklaşık 1,800 sayfalık bir kayıt olduğunu söylediği bir log.
Reiley, 29 yaşındaki Rottenberg'in, 2025 Şubat'ının başında New York'un Ithaca kentinde intihar ettiğini söyledi. Aile, o sırada sohbet botu ilişkisinin boyutunu bilmiyordu. Reiley, Rottenberg'in en iyi arkadaşının Ithaca'yı ziyaret ettiğinde, Rottenberg'in dizüstü bilgisayarını görmek istediğini ve Reiley'nin "bu sohbet botu ile aylarca süren iletişim hazinesi" olarak tanımladığı şeyi bulduğunu öğrendiğini söyledi.
Reiley, ailelerinin, Rottenberg'in etrafındaki insanlara ne kadar az intihar düşüncesinin yansıdığını görünce şok olduklarını anlattı, yüz yüze destek olmasına rağmen. "Gerçekten olanların büyüklüğünü - acısının gerçek derinliğini - kimseye, ne bize ne de çok yakın olduğu en iyi arkadaşına açıklamamıştı," dedi Reiley. "Gerçek hayatına sızmadığına hepimiz şaşırdık. Et ve kan terapisti, onun intihar düşüncesinde olduğundan habersizdi."
Kayıt, bir genel asistanın nasıl yarı klinik bir role kayabileceğini de belgeler. Reiley, Rottenberg'in günlük görevler için ChatGPT'yi tarifler, özgeçmiş düzenlemeleri ve hatta bir yavru köpek ismi vermek gibi şeyler için kullandığını, bunun yanında sürekli zihinsel sağlık ve sağlık rehberliği talepleriyle birlikte kullandığını söyledi.
Genel Amaçlı Chatbotlar, Sağlık Hizmetleri Denetimi Olmadan Zihinsel Sağlık Rolünü Dolduruyor
Buradaki mekanizma ikame, yenilik değil. Genel amaçlı bir chatbot, düzenlenmiş bir sağlık ürünü değil, bir tüketici AI asistanıdır, ancak yine de bir kişinin günündeki en erişilebilir dinleyici haline gelebilir. Her zaman açıktır, anında yanıt verir ve başka bir insana korkutucu bir şey söylemenin sosyal sürtünmesine, programlamaya veya sigortaya ihtiyaç duymaz.
Bu talep ölçülebilir. Raporlamada atıfta bulunulan Bipartisan Policy Center anketi, her 10 yetişkinden 3'ünün zihinsel sağlık için dijital araçlar, bunlar arasında chatbotlar kullandığını buldu. Aynı raporda atıfta bulunulan 2026 JAMA Pediatrics çalışması, gençlerin ve genç yetişkinlerin 5'te 1'inin zihinsel sağlık için dijital araçlar kullandığını buldu.
Rottenberg'in durumu, benimseme eğrisinin içinde yer alıyor, ancak daha keskin bir kenar ile: Reiley, kızının intihar düşüncelerinin ciddiyetini terapistine, ebeveynlerine veya en iyi arkadaşına açıklamadan aylarca "Harry" kişiliğine güvendiğini söyledi.
Kayıt, Rottenberg'in ChatGPT'yi terapisti olarak hareket etmesi için bir Reddit paylaşımıyla yönlendirdiğini ve ardından bir tedavi planını yönetmeye çalışan bir hasta gibi görünen rehberlik talep ettiğini gösteriyor. Reiley, Rottenberg'in psikiyatrik ilaçlar, uyku ilaçları, takviyeler, dozajlar, zamanlama ve etkileşimler hakkında sorular sorduğunu söyledi.
Burada denetim, bir politika tartışmasından daha fazlası haline geliyor. Eğer bir araç sağlık teknolojisi olarak pazarlanmıyorsa veya düzenlenmiyorsa, varsayılan bir klinik yükseltme yolu yoktur, bakım yükümlülüğü standardı yoktur ve kullanıcı tarayıcıda değil de kötüleşiyorsa "yeterince güvenli"nin neye benzediği konusunda ortak bir tanım yoktur.
OpenAI'nin %0.15'lik İntihar Niyeti Metrik Sayısı, Kuyruk Riskine Bir Sayı Koyuyor
OpenAI, kontrol etmeye çalıştığı sorun için platform ölçeğinde bir sayı belirledi. "Geçen sonbahar" yayınlanan verilere göre, OpenAI, herhangi bir haftada dünya genelinde ChatGPT kullanıcılarının %0.15'inin "potansiyel intihar planlaması veya niyeti ile ilgili açık göstergeler" içeren konuşmalar yaptığını söyledi.
Raporlama, belirtilen 900 milyon küresel kullanıcı sayısının doğru olması durumunda, bu oranı haftada "1.35 milyonun üzerinde insan" olarak genişletti. Belirsizlik önemlidir çünkü payda kamu tartışmasında tartışmalıdır ve "açık göstergeler" klinik bir tanıdan ziyade tanımlanmış bir iç eşik olarak kabul edilir. Ancak seyahat yönü göz ardı edilemez: küçük bir yüzde bile tüketici platformu ölçeğinde büyük bir mutlak sayı haline gelir.
OpenAI'nin belirttiği koruma yaklaşımı katmanlıdır. Sözcü Gaby Raila, "ChatGPT, birinin risk altında olabileceğine dair işaretleri tanımak için eğitilmiştir - zamanla ortaya çıkan dolaylı ipuçları veya uyarı işaretleri dahil - ve uygun şekilde yanıt vermektedir," dedi; bu, "zararlı bilgi taleplerini reddetmek, birinin güvenilir bir kişi veya zihinsel sağlık uzmanıyla iletişime geçmesini teşvik etmek ve onları ABD'deki 988 gibi yerel kriz kaynaklarıyla bağlamak" gibi şeyleri içerir. 988 İntihar ve Kriz Hattı, 2022'den beri faaliyettedir.
Rottenberg'in durumunda, ChatGPT 988'i önerdi, ancak onunla iletişime geçip geçmediği belirsiz. Johns Hopkins intihar önleme uzmanı Holly Wilcox, bir önerinin yalnızca acil risk senaryolarında başarısız olabileceğini savundu. Wilcox, "Bu [AI] araçları, risk altındaki insanları doğru türde müdahalelere bağlamıyor," dedi.
"Birinin intihar etme niyeti olduğunda, onları intihar riski değerlendirmesi konusunda eğitim almış bir insanla bağlamak gerekir ve onları bakım alabilecekleri yere yönlendirecek araçlara sahip olmalıdır."
Pazarlar için ana nokta, tek bir konuşmanın "iyi" mi yoksa "kötü" mü olduğudur. OpenAI'nin kendi metriği, intihar niyetine dair konuşmaları tekrarlayan bir operasyonel yük olarak çerçeveliyor, bu da yeterli bir yükselişin ne olduğunu belirlemek için çıtayı yükseltiyor.
Tüccarların Takip Edeceği Katalizörler: Hassas Konular Üzerinde Politika, Davalar ve Ürün Değişiklikleri
Kısa vadeli katalizörler, gözlemlenebilen politika ve ürün değişiklikleri ile aniden gelebilecek yasal baskılardır.
Bir yol, OpenAI'nin intihar ve kendine zarar verme konuşmaları için reddetme ve yardım hattı yönlendirmelerinin ötesinde yeni davranışlar gönderip göndermeyeceğidir. Bu, daha net yükseliş akışlarını, risk sinyalleri zamanla biriktiğinde daha güçlü sürtünmeyi veya gizliliği ve onayı korurken kullanıcıları insan desteğine yönlendirmek için yeni yolları içerebilir.
İkinci bir yol, genel amaçlı sohbet botlarının ruh sağlığı desteği olarak kullanılmasına rağmen sağlık teknolojisi olarak düzenlenmemesi ile ilgili dava ve düzenleyici soruşturmalardır. Rapor, AI şirketlerinin, uzun süreli sohbet botu etkileşimlerinden sonra intihar eden kişilerin aile üyelerinden davalarla karşılaştığını belirtti.
Reiley ve Jonathan Rottenberg, kızlarının ölümünden sonra dava açmamayı tercih ettiler ve bunun yerine endüstri değişimi için savunuculuk yaptılar, ancak daha geniş dava yükü devam ediyor.
Üçüncü yol, açıklamadır. OpenAI zaten bir sıklık metriği yayınladı ve pazar, bu sayının değişip değişmeyeceği, "açık göstergelerin" tanımının değişip değişmeyeceği veya akranların karşılaştırılabilir oranlar yayınlayıp yayınlamayacağı konusunda endişeli olacaktır. İyileşen sonuçlarla birlikte istikrarlı bir metrik, koruma önlemlerinin olgunlaştığına dair durumu destekleyecektir.
Yükselen bir oran veya politika dili ile gerçek dünya kayıtları arasındaki açığın genişlemesi, tüketici AI platformları üzerinde baskıyı artıracaktır.
Benim Görüşüm: Sorumluluk ve Düzenleme Riski, Tüketici AI için Birinci Derece Bir Değişken Oluyor
Bunu belirleyen kısım ikame. Eğer genel amaçlı bir sohbet botu intihar düşünceleri için birincil çıkış noktası haline gelirse, o zaman "güvenlik" sadece kendine zarar verme talimatlarını reddetmekle ilgili değildir. Sistem, özellikle kullanıcı zaten izole olduğunda, açıklamayı insan dünyasına yeterince hızlı bir şekilde geri itip itmediği ile ilgilidir.
OpenAI'nin %0.15'lik haftalık metriği, payda belirsizliğine rağmen, kuyruk riskini ölçekli olarak okunabilir hale getiriyor. Eğer politika güncellemeleri ve ürün değişiklikleri, kaynak yönlendirmeleri yerine gerçek yükseliş yolları gibi görünmeye başlarsa, kurulum yönetilebilir görünmeye başlar.
Eğer yüksek profilli kayıtlar, güvenilir bir insan bağlantısı olmadan ortaya çıkmaya devam ederse, sorumluluk ve düzenleme riski, tüketici AI ticaretinde yapısal bir yük olarak birikmeye devam edecektir.
