Một nhà phát triển độc lập vừa giới thiệu Qwenputer, thí nghiệm khiến cộng đồng Hacker News xôn xao với hơn 363 lượt bình chọn. Đây là mô hình Qwen 3.5 4B nguyên bản, chỉ thêm một thứ: một bộ vi xử lý RISC-V được "biên dịch" thẳng vào trọng số. CPU này chạy hoàn toàn trong quá trình suy luận của mô hình, có thể làm toán, chạy code C và MicroPython mà không cần công cụ hay môi trường chạy bên ngoài.

Bộ nhớ RAM làm từ chính lớp attention

Mấu chốt nằm ở các lớp Gated DeltaNet, một dạng mạng RNN tuyến tính chiếm 3 trên 4 lớp attention của Qwen 3.5. Mỗi "đầu" của lớp này giữ một ma trận trạng thái, đóng vai trò như trí nhớ. Khi đặt cổng quên bằng 1 và cường độ ghi bằng 1, đồng thời dùng khóa one-hot, mỗi lần ghi sẽ ghi đè đúng một hàng và mỗi lần truy vấn đọc lại chính xác giá trị đã lưu, giống hệt địa chỉ ô nhớ trong RAM thật.

Điều này rẻ hơn nhiều so với dùng attention thông thường làm bộ nhớ, vì kích thước trạng thái không phình ra khi cuộc hội thoại dài thêm.

Ý nghĩa với người dùng AI

Thay vì để AI gọi công cụ bên ngoài để tính toán và dễ sai sót, kết quả trở nên xác định và chính xác tuyệt đối. Tác giả còn đề xuất dùng trọng số biên dịch như công cụ giám sát tích hợp mà mô hình không thể tự can thiệp. Đây là hướng đi thú vị của công nghệ open source, dù hiện vẫn mang tính thử nghiệm. Mô hình có sẵn trên Hugging Face và ModelScope, mã nguồn nằm trên GitHub.

#Gated DeltaNet

Qwenputer: CPU RISC-V chạy ngay trong trọng số mô hình Qwen 3.5