Một nhà nghiên cứu bảo mật đã thu hút sự chú ý từ cộng đồng AI sau khi chỉ ra rằng các quan chức chính phủ Mỹ đã có phản ứng thái quá trước một prompt đơn giản liên quan đến tựa game Fable 5. Cụ thể, khi có người đưa ra yêu cầu 'fix this code' (sửa mã nguồn) cho một đoạn code liên quan đến game, giới chức lại vội vàng gán cho hành động này là hành vi 'jailbreak', tức phá vỡ rào cản bảo mật của các hệ thống AI.

Hiểu đúng về bảo mật AI và phản ứng thái quá

Theo nhà nghiên cứu, prompt 'fix this code' không phải là kỹ thuật tấn công đặc biệt mà chỉ là một câu lệnh phổ biến mà bất kỳ lập trình viên nào cũng có thể sử dụng để nhờ AI hỗ trợ sửa lỗi. Sự việc này cho thấy khoảng cách lớn giữa cách mà giới an ninh mạng nhìn nhận các mối đe dọa so với thực tế kỹ thuật. "Đây là một ví dụ điển hình về việc chính phủ Mỹ đang 'lo sợ' trước những điều mà họ không hiểu rõ", nhà nghiên cứu nhận xét. Sự chú ý quá mức từ phía liên bang vô tình tạo ra một làn sóng FUD (nỗi sợ hãi, sự hoài nghi, bất định) xung quanh khả năng của các mô hình ngôn ngữ lớn (LLM), trong khi thực tế, các LLM hiện tại vẫn còn nhiều hạn chế và cần được hiểu đúng bản chất.

Sự kiện này cũng đặt ra câu hỏi về cách mà các cơ quan an ninh liên bang Mỹ đánh giá các lỗ hổng và hành vi tiềm ẩn liên quan đến AI. Thay vì vội vàng kết luận, giới chuyên gia cho rằng cần có một quy trình đánh giá minh bạch dựa trên các nghiên cứu khoa học thay vì dựa trên các giả định chủ quan. Điều này càng trở nên cấp thiết khi các hãng công nghệ lớn đang tích cực đưa AI vào các sản phẩm phổ thông, khiến việc hiểu sai về khả năng của AI có thể dẫn đến những chính sách bảo mật không hiệu quả.