Strata là một dự án open source miễn phí, cho phép chạy mô hình Qwen3.8-Flash-Next với 125 tỷ tham số ngay trên máy tính chơi game thông thường. Trước đây, những AI cỡ này gần như chỉ chạy được trên máy chủ đắt tiền.

Cần phần cứng gì?

Bạn chỉ cần một card đồ họa NVIDIA hoặc AMD có từ 12 GB VRAM trở lên, cùng Windows hoặc Linux. Nhóm phát triển thử trên các PC gaming phổ thông, chẳng hạn máy dùng RTX 5070 chạy được ngữ cảnh 128K. Với card nhiều VRAM hơn như RTX 3090 (24 GB), tốc độ viết có thể đạt khoảng 100 đến 140 token mỗi giây, nhanh hơn nhiều so với tốc độ đọc của con người.

Dùng được vào việc gì?

Mô hình có thể trò chuyện, viết code, đọc hình ảnh và kết nối với các app hoặc trợ lý lập trình. Điểm đáng chú ý là mọi dữ liệu đều nằm trên máy của bạn, không gửi đi đâu, rất phù hợp với người quan tâm đến quyền riêng tư.

Cài đặt thế nào?

Người dùng tải Strata về, trên Windows chỉ cần bấm đúp START-HERE.bat, trên Linux chạy ./setup.sh. Trình cài đặt tự nhận diện card và chọn engine phù hợp. Mô hình nặng khoảng 70 GB, và máy có thể chậm 1 đến 3 phút khi khởi động lần đầu. Đây là bước tiến thú vị của công nghệ AI chạy cục bộ, giúp nhiều người tiếp cận hơn.