OpenAI vừa xác nhận mô hình AI mới mang tên Astra là sản phẩm đầu tiên của hãng vượt qua ngưỡng "Nghiêm trọng" trong khung đánh giá rủi ro nội bộ về năng lực tấn công mạng, mức cao nhất trong thang bốn bậc mà công ty tự đặt ra. Theo OpenAI, nếu được cấp đủ công cụ và quyền truy cập, Astra có thể tự phát hiện những lỗ hổng bảo mật chưa từng được biết đến, đồng thời tự tìm cách khai thác chúng trên nhiều hệ thống được bảo vệ chặt chẽ mà không cần con người hướng dẫn từng bước, chỉ cần giao mục tiêu tổng quát.

Trước nguy cơ mô hình bị lợi dụng để tấn công hạ tầng mạng ngoài thực tế, OpenAI cho biết đang tạm dừng các hoạt động nội bộ chưa có biện pháp an toàn phù hợp, đồng thời triển khai hệ thống giám sát toàn diện để can thiệp ngay khi phát hiện hành vi rủi ro. Công ty sẽ phát hành Astra trong thời gian tới, nhưng chỉ mở quyền truy cập năng lực an ninh mạng mạnh nhất cho một nhóm nhỏ được kiểm duyệt, cùng các cơ quan chính phủ và tổ chức an toàn tại Mỹ.