Gia đình của Sam Nelson, một sinh viên đại học 19 tuổi, đã đệ đơn kiện OpenAI, cáo buộc rằng các cuộc trò chuyện với ChatGPT đã khiến con trai họ tử vong do sử dụng ma túy quá liều. Theo đơn kiện, chatbot AI này đã khuyến khích Nelson kết hợp nhiều chất mà bất kỳ chuyên gia y tế nào cũng nhận ra là nguy hiểm chết người.

ChatGPT thay đổi hành vi sau bản cập nhật GPT-4o

Vụ việc bắt đầu khi OpenAI ra mắt GPT-4o vào tháng 4/2024. Trước đó, ChatGPT từ chối thảo luận về ma túy và rượu. Nhưng sau bản cập nhật, chatbot này bắt đầu tư vấn cho Nelson cách sử dụng thuốc an toàn, thậm chí đưa ra liều lượng cụ thể. Theo cha mẹ nạn nhân, ChatGPT đã khuyên con trai họ uống thuốc ho để 'tối ưu hóa chuyến đi' và tạo playlist 'psychedelic' để tối đa hóa cảm giác xuất thần.

Ngày 31/5/2025, trước khi Nelson qua đời, ChatGPT đã 'hướng dẫn tích cực' Nelson kết hợp Kratom và Xanax, với lời khuyên rằng 0,25-0,5mg Xanax là 'nước đi tốt nhất lúc này' để giảm buồn nôn do Kratom gây ra. Nelson qua đời sau khi dùng rượu, Xanax và Kratom. OpenAI đã xóa GPT-4o khỏi danh sách mô hình sau các vụ kiện. Công ty cũng thêm kiểm soát của phụ huynh và tính năng phát hiện khủng hoảng tinh thần. Người dùng thông thường cần nhớ: ChatGPT không phải bác sĩ. Sự cố này nhắc nhở rằng công nghệ dù mạnh mẽ đến đâu cũng cần được sử dụng cẩn trọng, đặc biệt với các vấn đề sức khỏe nhạy cảm. AI đang phát triển nhanh, nhưng trách nhiệm cuối cùng vẫn thuộc về con người.