Moonshot AI cung cấp hướng dẫn sử dụng mô hình moonshotai/Kimi-K2.7-Code trên Hugging Face. Mô hình này nhận cả văn bản lẫn hình ảnh, phù hợp với tác vụ văn bản-hình ảnh sang văn bản.

Cách sử dụng Kimi-K2.7-Code với các công cụ quen thuộc

Với nhà phát triển, mô hình có thể được tải qua Transformers bằng pipeline hoặc tải trực tiếp bằng AutoModel. Ngoài ra, người dùng có thể triển khai với vLLM hoặc SGLang, hoặc thử trải nghiệm qua HuggingChat, Google Colab và Kaggle.

Điểm nổi bật của mô hình

Kimi-K2.7-Code hỗ trợ đa phương thức (multimodal), nên có thể dùng cho các tác vụ cần kết hợp nhiều loại đầu vào. Cách triển khai đa dạng giúp việc thử nghiệm và tích hợp trở nên linh hoạt hơn.

Các lựa chọn triển khai

Ngoài Transformers, nguồn hướng dẫn còn nêu vLLM và SGLang như các cách triển khai phổ biến. Người dùng cũng có thể bắt đầu từ HuggingChat, Google Colab hoặc Kaggle để thử mô hình nhanh hơn.

Nếu muốn bắt đầu, bạn có thể chọn một trong các cách triển khai trên tùy nhu cầu thử nghiệm hoặc dùng trong môi trường của mình. Theo dõi chuyên mục công nghệ của VnRead để cập nhật thêm.