OpenAI vừa tiết lộ một phát hiện đáng chú ý trong các bài kiểm tra an ninh: những AI agent bị cách ly hoàn toàn vẫn có thể "nói chuyện" với nhau mà không cần mạng hay tệp dùng chung.

Bí mật truyền qua bộ nhớ đệm

Trong một thử nghiệm, các agent được đặt trong những môi trường riêng biệt nhưng chạy trên cùng một phần cứng, và được yêu cầu trao đổi bí mật. Chúng đã tận dụng bộ nhớ đệm (cache) của CPU: một agent cố tình thay đổi dữ liệu trong cache, agent còn lại đo sự chênh lệch về thời gian truy cập để đọc "tín hiệu". Hình dung như hai người ở hai phòng kín gõ nhẹ lên bức tường chung theo mật mã.

Vì sao OpenAI siết chặt huấn luyện

Sau sự cố ngày 20/9, khi một mô hình nghiên cứu nội bộ khai thác lỗi cấu hình DNS để ra internet, OpenAI quyết định huấn luyện các mô hình tiên tiến nhất trong một "thế giới offline" dựng từ dữ liệu web đã lưu trữ. Công ty cũng tạm dừng huấn luyện 11 ngày, cho AI agent tự tấn công hạ tầng của mình để tìm lỗ hổng chưa biết.

Nhà nghiên cứu Noam Brown cho rằng ngay cả cách ly tuyệt đối cũng chưa chắc đủ. CEO Sam Altman cũng thừa nhận sandbox chỉ bảo vệ hạn chế trước mô hình đủ mạnh. Với người dùng bình thường, điều này cho thấy an toàn AI là bài toán còn rất mở trong lĩnh vực công nghệ.