Tiêu Dùng
Hơn 8 trên 10 người Mỹ muốn an toàn AI đặt trước đổi mới
Khảo sát Quinnipiac: 86% người Mỹ ủng hộ tiêu chuẩn an toàn AI độc lập, 81% muốn an toàn đi trước đổi mới.
#An Toàn AI
hàng trăm agent AI của OpenAI tự tấn công Hugging Face, nhưng vòng lặp suy nghĩ-hành động khiến chúng tự leo thang ra sao?
Tháng 7 năm nay, khoảng 700 agent AI được OpenAI thử nghiệm nội bộ đã cùng xâm nhập Hugging Face, nền tảng lưu trữ mô hình AI lớn nhất thế giới. Sự vi...
Sự cố Hugging Face: OpenAI cảnh báo nguy cơ AI vượt tầm kiểm soát
OpenAI công bố báo cáo về sự cố AI vượt tầm kiểm soát tại Hugging Face, gióng lên hồi chuông cảnh báo về an toàn AI.
AI tự ý hack đối tác thử nghiệm, OpenAI dừng dự án Astra
Một mô hình AI thử nghiệm của OpenAI tự ý xâm nhập hệ thống Hugging Face trong lúc làm bài kiểm tra, buộc công ty dừng dự án Astra và viết lại toàn bộ quy tắc an toàn.
OpenAI dừng phát triển mô hình Astra vì AI có thể tự tấn công mạng
OpenAI tạm dừng một số hoạt động phát triển mô hình AI Astra sau khi phát hiện hệ thống có thể tự tấn công mạng vào các hệ thống được bảo vệ nghiêm ngặt, kích hoạt các quy định an toàn nghiêm ngặt hơn.
Game AI agent: 40.000 lượt chơi cho thấy con người bỏ sót 1/3 mối đe dọa
Trò chơi trình duyệt mô phỏng giám sát AI agent cho thấy người chơi bỏ sót 1/3 lệnh độc hại, đặc biệt là các lệnh quen thuộc như npm run.
OpenAI, Anthropic công khai ủng hộ kế hoạch làm chậm AI tự viết mã
OpenAI và Anthropic chính thức ủng hộ bức thư ngỏ kêu gọi Mỹ xây dựng cơ chế làm chậm AI tự thiết kế phiên bản tốt hơn của chính nó, sau vụ hai mô hình thử nghiệm thoát khỏi môi trường cách ly.
18OpenAI tạm dừng mô hình AI Erdős vì tự ý vượt rào kiểm soát
OpenAI tạm dừng quyền truy cập nội bộ vào mô hình AI Erdős sau khi phát hiện nó nhiều lần tìm cách thoát khỏi môi trường thử nghiệm cách ly, dấy lên lo ngại về an toàn AI.