Một thẩm phán liên bang Mỹ vừa ra phán quyết rằng việc Bộ Hiệu quả Chính phủ (DOGE) hủy hơn 100 triệu USD tài trợ liên bang là vi hiến, vì quy trình sử dụng AI chatbot ChatGPT để sàng lọc các khoản tài trợ dựa trên chủng tộc, nguồn gốc quốc gia, tôn giáo và xu hướng tính dục. Phán quyết dài 143 trang của Thẩm phán Colleen McMahon khôi phục các khoản tài trợ đã bị DOGE cắt vì bị cho là liên quan đến DEI (đa dạng, công bằng và hòa nhập).

ChatGPT làm “công cụ săn lùng” DEI

Theo hồ sơ tòa án, hai nhân viên DOGE là Justin Fox và Nate Cavanaugh đã sử dụng ChatGPT để quét danh sách tài trợ của Quỹ Nhân văn Quốc gia (NEH). Fox thừa nhận đã gửi từng mô tả tài trợ cho ChatGPT với câu lệnh chuẩn: “Điều này có liên quan đến DEI không? Trả lời bằng ‘Có’ hoặc ‘Không’ trong 120 ký tự.” Fox không hề định nghĩa DEI cho chatbot, và cũng không biết ChatGPT hiểu DEI như thế nào. Ngoài ra, Fox còn dùng các từ khóa “Mã phát hiện” như “BIPOC”, “Người bản địa”, “LGBTQ”, “Người nhập cư” để gắn nhãn các tài trợ là “tồi tệ nhất” và “xấu khác”.

Ý nghĩa với người dùng thường

Phán quyết này cho thấy rủi ro khi cơ quan chính phủ dùng AI mà không hiểu rõ cách thức hoạt động của nó. ChatGPT vốn là công cụ hữu ích cho soạn thảo văn bản hoặc lập trình, nhưng khi dùng để quyết định tài trợ khoa học xã hội và nhân văn, vốn đòi hỏi đánh giá tinh tế, thì trở nên nguy hiểm. Vụ việc cũng đặt ra câu hỏi về trách nhiệm giải trình của các cơ quan như DOGE khi triển khai AI vào quyết định hành chính ảnh hưởng tới cộng đồng học thuật và văn hóa Mỹ.

Đây là lời cảnh tỉnh cho các tổ chức, startup và cơ quan nhà nước ở Việt Nam khi áp dụng công nghệ AI vào quy trình ra quyết định nhạy cảm: luôn cần có sự giám sát của con người và khung pháp lý rõ ràng.