OpenAI đang đối mặt với 7 vụ kiện tại California, cáo buộc hãng đã bỏ qua cảnh báo từ đội ngũ an toàn nội bộ về một tài khoản ChatGPT có dấu hiệu đe dọa bạo lực súng đạn thực tế. Theo đơn kiện, hơn 8 tháng trước vụ xả súng trường học đẫm máu nhất lịch sử Canada, các chuyên gia đã xác định tài khoản này thuộc về kẻ tấn công và đề nghị OpenAI thông báo cho cơ quan chức năng, điều mà quy định nội bộ yêu cầu. Tuy nhiên, lãnh đạo OpenAI quyết định ưu tiên quyền riêng tư của người dùng hơn rủi ro bạo lực, chỉ khóa tài khoản rồi hướng dẫn kẻ tấn công cách đăng ký lại bằng email khác để tiếp tục lên kế hoạch.

CEO Sam Altman thừa nhận sai lầm

Trong lời xin lỗi công khai tới cộng đồng Tumbler Ridge (thị trấn 2.000 dân tại Canada), Sam Altman thừa nhận quyết định không báo cảnh sát là sai. "Tôi vô cùng xin lỗi vì đã không cảnh báo cơ quan thực thi pháp luật về tài khoản bị cấm vào tháng 6", Altman nói. CEO này cam kết sẽ tìm cách ngăn chặn thảm kịch tương tự trong tương lai và hợp tác với chính phủ các cấp. Vụ việc đặt ra câu hỏi lớn về trách nhiệm của các công ty AI trong việc cân bằng giữa quyền riêng tư và an toàn cộng đồng, một vấn đề ngày càng cấp bách khi các mô hình ngôn ngữ lớn (LLM) như ChatGPT trở nên phổ biến. Đây là hồi chuông cảnh tỉnh cho toàn ngành công nghệ về việc xây dựng quy trình báo cáo rõ ràng hơn với cơ quan thực thi pháp luật.