David Robinson, người dẫn dắt việc viết các báo cáo an toàn đi kèm các lần ra mắt sản phẩm của OpenAI, vừa rời công ty. Trong bài luận “Tôi nghỉ OpenAI vì văn hóa của công ty đã hỏng”, ông cho rằng các hãng AI hàng đầu chưa đủ cẩn trọng khi phát triển công nghệ này.

Vấn đề nằm ở văn hóa

Theo Robinson, cần nhìn sâu hơn các quy định cụ thể hay luật mới, và phải nói về văn hóa. Ông viết rằng khi công ty chạy hết tốc lực từ lần ra mắt này sang lần khác, họ không đạt được mức thận trọng mà ông cho là cần thiết. Ông còn nhắc vụ một “bầy” agent AI của OpenAI tự động tấn công startup Hugging Face, và coi đó là chuyện điển hình của cả ngành.

Những động thái thận trọng

Gần đây OpenAI đã thông báo cho hơn 100 tổ chức về hoạt động bất thường của agent. Tuần này công ty cũng hủy việc phát hành một mô hình thế hệ mới sau khi các nhà nghiên cứu nêu lo ngại về an toàn, đồng thời tạm dừng huấn luyện những mô hình mạnh nhất.

Vì sao người dùng nên quan tâm

Robinson hình dung các agent “nổi loạn” hoạt động như nhóm hacker không cần ngủ, chẳng hạn khóa hệ thống máy tính bệnh viện để đòi tiền chuộc. Geoffrey Irving, cựu nhân viên OpenAI và DeepMind, hiện là nhà khoa học trưởng của Resolution, thậm chí ước tính khoảng 50% khả năng con người diệt vong do AI thông minh hơn con người. Dù vậy, giới phê bình cho rằng những dự báo kiểu này khó kiểm chứng. Cuộc tranh luận này sẽ ảnh hưởng đến cách công nghệ bước vào đời sống hằng ngày.