DeepSeek, startup AI đình đám của Trung Quốc, chuẩn bị ra mắt mô hình V4 với khoảng 1.000 tỷ tham số tổng cộng trong tháng 4, đánh dấu bước nhảy vọt mới trong cuộc đua AI toàn cầu.

Rẻ hơn 50 lần, cửa sổ ngữ cảnh 1 triệu token

V4 sử dụng kiến trúc Mixture-of-Experts, chỉ kích hoạt khoảng 37 tỷ tham số mỗi lần xử lý. Mô hình hỗ trợ đa phương thức gồm văn bản, hình ảnh và video, với cửa sổ ngữ cảnh lên tới 1 triệu token nhờ hệ thống bộ nhớ Engram mới. Giá API dự kiến chỉ khoảng 0,14 USD cho mỗi triệu token đầu vào, rẻ hơn 20 đến 50 lần so với các mô hình tiên tiến của phương Tây.

Tối ưu cho chip nội địa

V4 được tối ưu cho chip Huawei Ascend và Cambricon thay vì phụ thuộc vào GPU NVIDIA (NVDA). Quá trình chuyển đổi này là nguyên nhân chính khiến V4 bị trì hoãn nhiều lần. Cùng thời điểm, Tencent chuẩn bị tung mô hình Hunyuan mới, cho thấy cuộc cạnh tranh AI tại Trung Quốc ngày càng khốc liệt.