Moonshot AI vừa đưa model Kimi K3.1 Pro lên Hugging Face, cho phép nhà phát triển tải trọng số (model weights) về và tự chạy. Bài đăng thu hút 330 lượt upvote trên Hacker News, cho thấy cộng đồng AI rất quan tâm.

Hiểu cả hình ảnh lẫn văn bản

Trang model xếp Kimi K3.1 Pro vào nhóm image-text-to-text, tức là nhận cả ảnh và chữ rồi trả lời bằng văn bản. Ví dụ, bạn đưa một bức ảnh và yêu cầu mô tả nó trong một câu.

Dễ triển khai với công cụ phổ biến

Hướng dẫn đi kèm cho thấy model chạy được với Transformers, vLLM và SGLang. Các công cụ này tạo ra một máy chủ có API tương thích chuẩn của OpenAI, nên ứng dụng viết cho chatbot hiện có chỉ cần đổi địa chỉ kết nối là dùng được. Model cũng hỗ trợ Docker Model Runner, Google Colab và Kaggle, phù hợp cho cả người mới thử nghiệm.

Vì sao đáng chú ý

Khi trọng số được mở, các startup và lập trình viên, kể cả ở Việt Nam, có thể fine-tune model theo nhu cầu riêng hoặc chạy trên hạ tầng GPU của mình thay vì trả phí API theo từng token. Đây là xu hướng giúp công nghệ AI đến gần hơn với doanh nghiệp nhỏ.