Khi trò chuyện với một chatbot, bạn gần như không có cách nào biết chắc câu trả lời đến từ đúng mô hình mà nhà phát triển quảng cáo. Một dịch vụ trung gian có thể lén thay bằng mô hình rẻ hơn để tiết kiệm chi phí, hoặc kẻ tấn công có thể can thiệp vào luồng token. Anthropic vừa công bố FlashProve, hệ thống giúp giải quyết vấn đề này bằng toán học.

Bằng chứng mật mã cho từng câu trả lời

FlashProve dựa trên zkSNARK, một loại bằng chứng mật mã cho phép nhà cung cấp cam kết với một mô hình, rồi chứng minh mỗi phản hồi đều do chính mô hình đó tạo ra, mà không để lộ trọng số. Giống như con dấu xác thực trên giấy tờ, người dùng có thể kiểm tra mà không cần biết bên trong có gì.

Tốc độ vượt xa các hệ thống trước

Với Llama 4 Maverick (400 tỷ tham số), một GPU H100 đơn lẻ tạo bằng chứng khoảng 110 token mỗi giây, dung lượng khoảng 19 MB cho mỗi yêu cầu 1.024 token. Chi phí vẫn gấp khoảng 70 đến 95 lần so với chạy mô hình trên vLLM, nhưng các hệ thống open source trước đó còn chậm hơn nhiều bậc. Claude đã góp phần tối ưu hóa, và nhóm nghiên cứu cung cấp các phát biểu bảo mật có thể kiểm toán bằng ngôn ngữ Lean.

Ý nghĩa với người dùng

Công nghệ này có thể giúp ứng dụng tiêu dùng, bảo mật nội bộ và kiểm tra việc tuân thủ quy định về AI trở nên đáng tin cậy hơn. Đây là bước tiến đáng chú ý của lĩnh vực công nghệ Mỹ.

#Llama 4

Anthropic công bố FlashProve, chứng minh AI trả lời đúng mô hình đã cam kết