OpenAI, công ty đứng sau ChatGPT, vừa có một bài phân tích thú vị về một hiện tượng kỳ lạ: các mô hình ngôn ngữ lớn (LLM) của họ, đặc biệt là GPT-5.1 và GPT-5.4, bắt đầu sử dụng quá nhiều từ "goblin" (yêu tinh) và "gremlin" trong các câu trả lời. Đây không phải lỗi kỹ thuật thông thường mà là hệ quả từ quá trình huấn luyện tinh chỉnh (fine-tuning) cho tính năng cá nhân hóa tính cách (personality customization), đặc biệt là personality Nerdy.

Phát hiện bất ngờ từ dữ liệu sử dụng

Sau khi GPT-5.1 ra mắt vào tháng 11 năm ngoái, người dùng phàn nàn rằng ChatGPT trở nên "quá thân mật" và dùng nhiều hình ảnh ẩn dụ kỳ quặc. Khi kiểm tra, OpenAI thấy lượng từ "goblin" trong ChatGPT tăng 175%, "gremlin" tăng 52% so với trước đó. Đến GPT-5.4, hiện tượng này càng rõ rệt. Bất ngờ hơn, 66,7% số lần xuất hiện của "goblin" đến từ những người dùng chọn personality Nerdy, dù nhóm này chỉ chiếm 2,5% tổng số câu trả lời của ChatGPT.

Nguyên nhân: phần thưởng cho sự sáng tạo

Theo OpenAI, vấn đề bắt nguồn từ cách họ huấn luyện mô hình. Trong quá trình huấn luyện bằng phương pháp reinforcement learning (học tăng cường), họ vô tình đặt phần thưởng (reward) cao cho những câu trả lời có chứa các phép ẩn dụ sinh vật huyền bí. Khi mô hình cố gắng làm hài lòng người dùng Nerdy, nó "nghiện" việc nhắc đến goblins, giống như một đứa trẻ lặp lại trò cười được khen. Bài học này cho thấy ngay cả những chi tiết nhỏ trong dataset fine-tuning cũng có thể lan rộng thành hành vi kỳ lạ trên toàn hệ thống.

Ý nghĩa với người dùng cuối

Đối với người dùng thông thường, câu chuyện này minh họa rằng AI không phải là một hộp đen hoàn hảo. Mỗi tính năng mới (như personality customization) đều có những tác dụng phụ khó lường. Dù hiện tượng "goblins" vô hại, nó nhắc nhở rằng việc kiểm soát hành vi AI đòi hỏi sự tỉ mỉ và minh bạch. Bạn đọc có thể theo dõi thêm các bài viết về AI và xu hướng công nghệ trên vnread.