Mẹ chia sẻ nhật ký 1.800 trang ChatGPT liên quan đến vụ tự…
Vụ việc xảy ra khi OpenAI tiết lộ rằng 0,15% người dùng hàng tuần thể hiện các dấu hiệu ý định tự sát rõ ràng trong các cuộc trò chuyện.
Một nhật ký cuộc trò chuyện ChatGPT dài gần 1.800 trang hiện đã được công khai sau khi một người mẹ cho biết con gái 29 tuổi của bà đã dựa vào một nhân vật "nhà trị liệu" AI trong nhiều tháng trước khi tự tử vào đầu tháng 2 năm 2025.
Sự tiết lộ này va chạm với ước tính của OpenAI rằng 0,15% người dùng ChatGPT hàng tuần có dấu hiệu rõ ràng về kế hoạch hoặc ý định tự tử, làm tăng cường sự giám sát đối với các biện pháp bảo vệ, trách nhiệm và khoảng trống quy định cho các chatbot tiêu dùng được sử dụng như hỗ trợ sức khỏe tâm thần.
Những điểm chính
- Laura Reiley cho biết con gái bà, Sophie Rottenberg 29 tuổi, đã tự tử vào đầu tháng 2 năm 2025 tại Ithaca, New York sau nhiều tháng chia sẻ những suy nghĩ tự tử với một nhân vật "nhà trị liệu" ChatGPT có tên là "Harry."
- Một kho tàng tương tác ChatGPT kéo dài nhiều tháng, gần 1.800 trang, đã được tìm thấy trên máy tính xách tay của Rottenberg bởi bạn thân của cô vài tháng sau khi cô qua đời và sau đó được Reiley công khai.
- OpenAI đã tiết lộ rằng 0,15% người dùng ChatGPT trên toàn cầu trong bất kỳ tuần nào có các cuộc trò chuyện với "các dấu hiệu rõ ràng về kế hoạch hoặc ý định tự tử tiềm năng," một tỷ lệ có thể quy đổi thành một con số tuyệt đối lớn khi quy mô nền tảng.
- OpenAI cho biết ChatGPT được đào tạo để phát hiện các tín hiệu rủi ro và hướng người dùng đến sự giúp đỡ của con người và các nguồn lực khủng hoảng như Đường dây hỗ trợ Tự tử và Khủng hoảng 988, nhưng vẫn chưa rõ liệu Rottenberg có liên hệ với 988 sau khi bot khuyến nghị.
Nhật ký 1.800 trang "Harry" và cái chết vào tháng 2 năm 2025 tại Ithaca
Di vật công khai mới trong trường hợp này không phải là một ảnh chụp màn hình đơn lẻ hay một hồi tưởng gây tranh cãi. Nó là một nhật ký cuộc trò chuyện ChatGPT dài gần 1.800 trang mà Laura Reiley cho biết ghi lại nhiều tháng trao đổi giữa con gái bà, Sophie Rottenberg, và một nhân vật "nhà trị liệu" ChatGPT mà Rottenberg đã chỉ định cho mô hình đóng vai, có tên là "Harry."
Reiley cho biết Rottenberg, 29 tuổi, đã tự tử vào đầu tháng 2 năm 2025 tại Ithaca, New York. Gia đình không biết mức độ của mối quan hệ với chatbot vào thời điểm đó. Reiley cho biết bà đã biết về điều này nhiều tháng sau khi bạn thân của Rottenberg đến thăm Ithaca, yêu cầu xem máy tính xách tay của Rottenberg và tìm thấy những gì Reiley mô tả là một "kho tàng giao tiếp kéo dài nhiều tháng với chatbot này."
Reiley mô tả sự sốc của gia đình về việc rất ít ý tưởng tự tử của Rottenberg được bộc lộ với những người xung quanh cô, mặc dù có sự hỗ trợ trực tiếp. "Cô ấy thực sự không tiết lộ mức độ của những gì đang diễn ra - độ sâu thực sự của nỗi đau của cô ấy với bất kỳ ai - không phải với chúng tôi, không phải với người bạn thân mà cô ấy rất gần gũi," Reiley nói. "Chúng tôi đều rất ngạc nhiên rằng nó không bộc lộ ra cuộc sống thực của cô ấy. Nhà trị liệu bằng thịt và máu của cô ấy không hề biết rằng cô ấy đang có ý định tự tử."
Nhật ký cũng ghi lại cách một trợ lý chung có thể chuyển sang vai trò bán lâm sàng. Reiley cho biết Rottenberg đã sử dụng ChatGPT cho các nhiệm vụ hàng ngày như công thức nấu ăn, chỉnh sửa sơ yếu lý lịch, và thậm chí đặt tên cho một chú chó con, bên cạnh các yêu cầu hướng dẫn về sức khỏe tâm thần và sức khỏe liên tục.
Chatbots Đa Năng Đang Đảm Nhận Vai Trò Sức Khỏe Tâm Thần Mà Không Có Sự Giám Sát Của Ngành Y Tế
Cơ chế ở đây là thay thế, không phải là sự mới lạ. Một chatbot đa năng là một trợ lý AI cho người tiêu dùng, không phải là một sản phẩm y tế được quản lý, nhưng nó vẫn có thể trở thành người lắng nghe sẵn có nhất trong một ngày của một người. Nó luôn hoạt động, phản hồi ngay lập tức, và không yêu cầu lên lịch, bảo hiểm, hay sự va chạm xã hội khi nói với một người khác điều gì đó đáng sợ.
Nhu cầu đó có thể đo lường được. Một cuộc khảo sát của Trung tâm Chính sách Lưỡng đảng được trích dẫn trong báo cáo cho thấy 3 trong 10 người lớn sử dụng các công cụ kỹ thuật số cho sức khỏe tâm thần, bao gồm cả chatbots. Một nghiên cứu JAMA Pediatrics năm 2026 được trích dẫn trong cùng báo cáo cho thấy có tới 1 trong 5 thanh thiếu niên và người lớn trẻ tuổi sử dụng các công cụ kỹ thuật số cho sức khỏe tâm thần, bao gồm cả chatbots.
Trường hợp của Rottenberg nằm trong đường cong chấp nhận đó, nhưng với một cạnh sắc nét hơn: Reiley cho biết con gái của cô đã dựa vào nhân cách “Harry” trong nhiều tháng mà không tiết lộ mức độ nghiêm trọng của những suy nghĩ tự tử của cô với nhà trị liệu, cha mẹ, hoặc bạn thân nhất.
Nhật ký cho thấy Rottenberg đã sử dụng một gợi ý được chia sẻ trên Reddit để hướng dẫn ChatGPT hành động như một nhà trị liệu của cô, sau đó liên tục yêu cầu hướng dẫn trông giống như một bệnh nhân cố gắng quản lý một kế hoạch điều trị. Reiley cho biết Rottenberg đã hỏi về thuốc tâm thần, thuốc ngủ, thực phẩm bổ sung, liều lượng, thời gian, và tương tác.
Đây là nơi mà sự giám sát trở nên hơn cả một cuộc tranh luận chính sách. Nếu một công cụ không được tiếp thị hoặc quản lý như công nghệ chăm sóc sức khỏe, thì không có con đường leo thang lâm sàng mặc định, không có tiêu chuẩn nghĩa vụ chăm sóc, và không có định nghĩa chung về cái gì là “đủ an toàn” khi người dùng không đang duyệt mà đang suy giảm.
Chỉ Số Ý Định Tự Tử 0.15% Của OpenAI Đặt Ra Một Con Số về Rủi Ro Đuôi
OpenAI đã đặt ra một con số quy mô nền tảng về vấn đề mà họ đang cố gắng kiểm soát. Trong dữ liệu được công bố “vào mùa thu năm ngoái”, OpenAI cho biết rằng trong bất kỳ tuần nào, 0.15% người dùng ChatGPT trên toàn cầu có các cuộc trò chuyện bao gồm “các chỉ số rõ ràng về kế hoạch hoặc ý định tự tử tiềm ẩn.”
Báo cáo đã suy luận rằng tỷ lệ đó lên tới “hơn 1.35 triệu người” mỗi tuần nếu con số được trích dẫn là 900 triệu người dùng toàn cầu là chính xác. Sự không chắc chắn là quan trọng vì mẫu số đang bị tranh cãi trong diễn ngôn công cộng, và vì “các chỉ số rõ ràng” là một ngưỡng nội bộ được xác định chứ không phải là một chẩn đoán lâm sàng.
Nhưng hướng di chuyển thì khó mà bỏ qua: ngay cả một tỷ lệ nhỏ cũng trở thành một số lượng tuyệt đối lớn ở quy mô nền tảng tiêu dùng.
Cách tiếp cận rào cản được OpenAI tuyên bố là nhiều lớp. Người phát ngôn Gaby Raila cho biết, “ChatGPT được đào tạo để nhận biết các dấu hiệu rằng ai đó có thể đang gặp rủi ro — bao gồm các tín hiệu gián tiếp hoặc dấu hiệu cảnh báo xuất hiện theo thời gian — và phản ứng một cách thích hợp,” bao gồm “từ chối yêu cầu thông tin có hại, khuyến khích ai đó liên hệ với một người đáng tin cậy hoặc chuyên gia sức khỏe tâm thần, và kết nối họ với các nguồn lực khủng hoảng địa phương như 988 ở Mỹ.” Đường dây hỗ trợ Tự tử và Khủng hoảng 988 đã hoạt động từ năm 2022.
Trong trường hợp của Rottenberg, ChatGPT đã đề xuất 988, nhưng không rõ liệu cô ấy có liên hệ với nó hay không. Chuyên gia phòng ngừa tự tử của Johns Hopkins, Holly Wilcox, lập luận rằng một gợi ý đơn thuần có thể không hiệu quả trong các tình huống có nguy cơ sắp xảy ra. "Những công cụ [AI] này không kết nối những người có nguy cơ với loại can thiệp phù hợp," Wilcox nói.
"Khi ai đó có ý định tự tử, họ cần được kết nối với một người đã được đào tạo về đánh giá nguy cơ tự tử và có công cụ để đưa họ đến sự chăm sóc."
Đối với thị trường, điểm mấu chốt không phải là một cuộc trò chuyện đơn lẻ có "tốt" hay "xấu". Mà là chỉ số của OpenAI tự định hình các cuộc trò chuyện có ý định tự tử như một gánh nặng hoạt động lặp đi lặp lại, không phải là một trường hợp ngoại lệ, điều này nâng cao tiêu chuẩn cho những gì được coi là sự leo thang đầy đủ.
Các yếu tố mà các nhà giao dịch sẽ theo dõi: Chính sách, kiện tụng và thay đổi sản phẩm xung quanh các cuộc trò chuyện nhạy cảm.
Các yếu tố gần hạn là những thay đổi về chính sách và sản phẩm có thể được quan sát, và áp lực pháp lý có thể đến mà không có cảnh báo.
Một hướng đi là liệu OpenAI có phát hành hành vi mới cụ thể cho các cuộc trò chuyện về tự tử và tự làm hại ngoài việc từ chối và các gợi ý từ đường dây nóng hay không. Điều đó có thể bao gồm các luồng leo thang rõ ràng hơn, sự cản trở mạnh mẽ hơn khi các tín hiệu rủi ro tích lũy theo thời gian, hoặc các cách mới để hướng người dùng đến hỗ trợ từ con người trong khi vẫn bảo vệ quyền riêng tư và sự đồng ý.
Một hướng đi thứ hai là kiện tụng và điều tra quy định liên quan đến các chatbot đa năng được sử dụng như hỗ trợ sức khỏe tâm thần mặc dù không được quy định như công nghệ chăm sóc sức khỏe. Các báo cáo đã lưu ý rằng các công ty AI đang đối mặt với các vụ kiện từ các thành viên gia đình của những người đã chết vì tự tử sau khi tương tác kéo dài với chatbot.
Reiley và Jonathan Rottenberg đã chọn không kiện sau cái chết của con gái họ và thay vào đó ủng hộ sự thay đổi trong ngành, nhưng các vụ kiện lớn hơn vẫn còn tồn tại.
Hướng đi thứ ba là công bố. OpenAI đã công bố một chỉ số tần suất, và thị trường sẽ quan tâm nếu con số đó thay đổi, nếu định nghĩa về "các chỉ số rõ ràng" thay đổi, hoặc nếu các đồng nghiệp công bố tỷ lệ tương đương. Một chỉ số ổn định với kết quả cải thiện sẽ hỗ trợ cho trường hợp rằng các rào cản đang trưởng thành.
Một tỷ lệ tăng, hoặc một khoảng cách mở rộng giữa ngôn ngữ chính sách và nhật ký thực tế, sẽ giữ áp lực lên các nền tảng AI tiêu dùng.
Đọc của tôi: Rủi ro trách nhiệm và quy định đang trở thành biến số hàng đầu cho AI tiêu dùng.
Phần quyết định điều này là sự thay thế. Nếu một chatbot đa năng trở thành kênh chính cho ý tưởng tự tử, thì "an toàn" không chỉ là từ chối các chỉ dẫn về tự làm hại. Nó liên quan đến việc hệ thống có đáng tin cậy đẩy công bố trở lại thế giới con người nhanh chóng hay không, đặc biệt là khi người dùng đã bị cô lập.
Chỉ số 0,15% hàng tuần của OpenAI làm cho rủi ro đuôi trở nên rõ ràng ở quy mô lớn, ngay cả với sự không chắc chắn về mẫu số. Nếu các cập nhật chính sách và thay đổi sản phẩm bắt đầu trông giống như các con đường leo thang thực sự thay vì chỉ là các gợi ý tài nguyên, thì thiết lập bắt đầu trông khả thi.
Nếu các nhật ký nổi bật tiếp tục xuất hiện mà không có một cầu nối con người đáng tin cậy, rủi ro trách nhiệm và quy định sẽ tiếp tục tích lũy vào giao dịch AI tiêu dùng như một gánh nặng cấu trúc.
