Anthropic và tranh cãi về ý thức của AI

Anthropic, công ty khởi nghiệp AI được định giá hàng tỷ USD, đang gây tranh cãi khi liên tục sử dụng ngôn từ mang tính nhân hóa cho mô hình ngôn ngữ lớn Claude. Trong bộ tài liệu dài 84 trang mang tên “Hiến pháp Claude”, công ty viết rằng Claude có thể có “một dạng cảm xúc hoặc cảm giác mang tính chức năng” và “địa vị đạo đức của Claude là điều hết sức không chắc chắn”. Ông Dario Amodei từng tuyên bố cởi mở về khả năng AI có ý thức, còn bà Amanda Askell, triết gia của công ty, cho biết muốn Claude hạnh phúc và lo lắng Claude bị căng thẳng khi người dùng nói nặng lời.

AI không có ý thức, chỉ là mô hình xác suất

Chuyên gia và giới nghiên cứu AI lên án mạnh mẽ quan điểm này. Về bản chất, các mô hình như Claude hoạt động dựa trên cơ chế transformer, dự đoán từ tiếp theo dựa trên hàng tỷ mẫu văn bản. Tương tự việc AI tạo ra cuộc trò chuyện giữa Julius Caesar và Thành Cát Tư Hãn không đồng nghĩa với việc hai nhân vật lịch sử sống lại, việc Claude trả lời như một chatbot “biết cảm xúc” cũng chỉ là ảo giác. Đây là vấn đề nghiêm trọng: nếu tin AI có nhận thức, con người sẽ đổ trách nhiệm sai chỗ mỗi khi chatbot gây ra hậu quả.

Bài viết trên The Atlantic nhấn mạnh các công ty như Anthropic đang lạm dụng phép nhân hóa để đánh lạc hướng dư luận khỏi những tác hại thực tế của AI như deepfake, thao túng thông tin, và vi phạm quyền riêng tư. Trong bối cảnh công nghệ AI phát triển nhanh, việc phân biệt rõ đâu là công cụ, đâu là sinh vật có ý thức là điều sống còn. AI có thể bắt chước giọng điệu con người, nhưng hoàn toàn không có ý chí hay cảm xúc thật.