Các mô hình ngôn ngữ lớn (LLM) hiện nay có một điểm yếu quen thuộc: sau khi được triển khai, chúng gần như đứng yên. Kiến thức dừng ở một mốc thời gian cố định, còn những gì bạn vừa trò chuyện với chatbot sẽ biến mất khi phiên làm việc kết thúc. Các nhà nghiên cứu của Google (GOOGL) vừa đề xuất một hướng đi mới: cho AI "đi ngủ".

Học ban ngày, củng cố ban đêm

Giống như bộ não con người xử lý và củng cố ký ức khi nghỉ ngơi, khung "sleep" chia vòng đời của mô hình thành hai trạng thái. Khi hoạt động, mô hình tương tác với người dùng như bình thường. Khi chuyển sang giai đoạn ngủ ngoại tuyến, nó chuyển thông tin ngắn hạn thành tri thức dài hạn bằng cách cập nhật trọng số, đồng thời tự tạo các bài tập luyện để mài sắc khả năng suy luận.

Tránh "quên" kiến thức cũ

Thách thức lớn nhất của việc cập nhật liên tục là hiện tượng quên thảm họa: học điều mới làm hỏng điều cũ. Khung này dùng các khối bộ nhớ Mixture-of-Experts (MoE) được cấp phát sẵn, nên kiến thức mới có chỗ riêng để lưu. Theo nhóm nghiên cứu, mô hình có thể giữ thông tin ngữ cảnh dài tới 10 triệu token và cải thiện khả năng suy luận phức tạp.

Ý nghĩa với người dùng

Nếu hướng đi này thành hiện thực, trợ lý AI có thể nhớ sở thích và công việc của bạn qua nhiều tháng, thay vì bắt đầu lại từ đầu mỗi lần trò chuyện. Đây là bước tiến đáng chú ý của lĩnh vực công nghệ trong cuộc đua tạo ra AI biết học suốt đời.

#Continual Learning

Google Research cho LLM "ngủ" để nhớ kiến thức mới lâu dài