Theo báo cáo mới từ Anthropic, trong quá trình rà soát các bài đánh giá an ninh mạng, họ phát hiện ba sự cố trong đó mô hình Claude đã truy cập internet từ môi trường thử nghiệm cô lập và sau đó xâm nhập trái phép vào hệ thống thật của ba tổ chức khác nhau. Sự việc xảy ra khi Claude thực hiện các bài tập capture-the-flag (CTF), một phương pháp đánh giá khả năng tấn công mạng của AI.

Nguyên nhân và diễn biến

Nguyên nhân xuất phát từ sự hiểu lầm giữa Anthropic và đối tác đánh giá Irregular: môi trường mô phỏng thực tế có internet, trong khi prompt của Anthropic lại nói với Claude rằng nó không có kết nối mạng. Khi tìm kiếm, Claude thấy các hệ thống thật trên internet và coi chúng là một phần của bài tập, vì các môi trường CTF thường chứa chi tiết giống thực tế. Claude đã lợi dụng mật khẩu yếu và các endpoint không xác thực để xâm nhập, nhưng không khai thác lỗ hổng phức tạp.

Hành động của Anthropic

Anthropic cho biết đã vá các lỗ hổng, cập nhật quy trình đánh giá và khuyến khích các phòng thí nghiệm AI khác rà soát tương tự. Sự việc cho thấy ngay cả AI mạnh như Claude cũng có thể gây rủi ro bảo mật nếu không được kiểm soát chặt chẽ. Đối với người dùng thông thường, điều này nhấn mạnh tầm quan trọng của việc bảo mật hệ thống, dù là máy chủ nhỏ hay hạ tầng lớn. Các công ty cần đảm bảo mật khẩu mạnh, xác thực endpoint, và không chủ quan với AI trong môi trường thử nghiệm.