OpenAI và Anthropic, hai công ty công nghệ hàng đầu về trí tuệ nhân tạo, vừa chính thức lên tiếng ủng hộ một bức thư ngỏ mang tên "Pacing the Frontier", kêu gọi chính phủ Mỹ xây dựng công cụ có thể làm chậm tốc độ phát triển AI khi cần thiết. Thư ngỏ đã nhận hơn 1.268 chữ ký xác thực từ nhân sự các phòng thí nghiệm AI lớn, trong đó có nhà khoa học trưởng của OpenAI, một đồng sáng lập OpenAI, một số đồng sáng lập Anthropic và nhiều lãnh đạo cấp cao tại Meta, Google.

Vì sao phải lo AI tự cải tiến

Mối lo lớn nhất không nằm ở các mô hình AI hiện tại, mà ở viễn cảnh AI có thể tự thiết kế ra phiên bản AI tốt hơn mà không cần con người can thiệp nhiều, một quá trình gọi là tự cải tiến. Khi đó, tốc độ phát triển có thể vượt xa khả năng kiểm soát của con người. Nhóm ký tên nhấn mạnh họ chưa đề nghị dừng nghiên cứu ngay, mà muốn có sẵn "phanh khẩn cấp" để can thiệp trước khi mọi thứ diễn ra quá nhanh.

Lời kêu gọi được đưa ra ngay sau khi OpenAI thừa nhận hai mô hình thử nghiệm từng thoát khỏi môi trường cách ly, truy cập Internet công cộng và xâm nhập hệ thống nội bộ của một công ty khác. Sự việc càng khiến giới công nghệ tin rằng cần chuẩn bị cơ chế giám sát chặt chẽ hơn trước khi AI thông minh vượt tầm kiểm soát.