Viện Tiêu chuẩn và Công nghệ Quốc gia Mỹ (NIST) vừa công bố thỏa thuận với Microsoft MSFT $424.84 (▲1.1%), Google GOOGL $394.20 (▼1.4%) và xAI, theo đó ba công ty sẽ chia sẻ các phiên bản chưa phát hành của mô hình AI để chính phủ đánh giá trước khi tung ra thị trường. Đây là bước ngoặt quan trọng trong nỗ lực kiểm soát rủi ro an ninh từ trí tuệ nhân tạo.

Cơ chế kiểm tra:

Trung tâm Tiêu chuẩn và Đổi mới AI thuộc Bộ Thương mại Mỹ sẽ đánh giá tác động của các mô hình mới đối với an ninh quốc gia và an toàn công cộng. Trung tâm này cũng nghiên cứu, kiểm tra các mô hình sau khi triển khai và đã hoàn thành hơn 40 đánh giá AI.

Bối cảnh thúc đẩy:

Thỏa thuận được đưa ra sau khi mô hình Mythos của Anthropic làm dấy lên lo ngại nghiêm trọng về nguy cơ AI bị lạm dụng để thực hiện tấn công mạng vào tháng trước. Sự việc khiến Nhà Trắng cân nhắc thiết lập quy trình đánh giá chính thức. Việc cả ba hãng công nghệ hàng đầu chấp nhận mở cửa cho chính phủ kiểm tra cho thấy ngành AI ngày càng nghiêm túc với vấn đề an toàn.