Một startup AI mới tại châu Âu mang tên Desert Ant Labs vừa công bố ra mắt với 18 mô hình AI nhỏ gọn, chạy trực tiếp trên điện thoại và laptop thay vì phải gửi dữ liệu lên cloud. Trong đó 12 mô hình đã ổn định, 6 mô hình còn ở dạng beta, được đóng gói trong một SDK duy nhất cho Swift, Kotlin và JavaScript để lập trình viên tích hợp chỉ với vài dòng code.

Nhanh, rẻ và không phụ thuộc cloud

Điểm đặc biệt là các mô hình này cực kỳ nhỏ nhưng hiệu quả không thua kém dịch vụ cloud. Mô hình Voz có thể phiên âm 10 phút ghi âm chỉ trong 2 giây trên iPhone, nhanh gấp 4,7 lần Whisper của OpenAI. Mô hình Clear nặng vỏn vẹn 9MB nhưng biến bản ghi âm dài 5 phút từ laptop thành âm thanh chuẩn studio trong một giây. Redact thì tự động che tên, địa chỉ, số thẻ ngân hàng theo thời gian thực bằng 27 ngôn ngữ, giúp dữ liệu nhạy cảm không bao giờ rời khỏi máy người dùng. Tất cả đều miễn phí cho tới 100.000 thiết bị hoạt động mỗi tháng, không cần token hay tài khoản đăng nhập.

Từ ứng dụng video đến phòng thí nghiệm AI

Đội ngũ sáng lập vốn phát triển ứng dụng video Detail suốt 5 năm qua. Khi chi phí hạ tầng cloud tăng vọt vì các tính năng như dựng video tự động hay xử lý âm thanh, họ quyết định tự huấn luyện mô hình riêng, thay thế cả Dolby lẫn Claude Sonnet của Anthropic bằng công nghệ do chính mình xây dựng. Với xu hướng ưu tiên chủ quyền dữ liệu tại châu Âu, hướng đi trên thiết bị của Desert Ant Labs được xem là bước đi táo bạo trong làn sóng startup công nghệ AI hiện nay.