Mới đây, dự án Kokoro TTS đã gây chú ý lớn trong cộng đồng open source khi mang đến khả năng tổng hợp giọng nói (text-to-speech) chất lượng cao, chạy hoàn toàn trên CPU, trên máy local có GPU GTX 1080 Ti. Điểm đột phá: Mô hình chỉ có 82 triệu tham số nhưng tạo ra giọng nói tự nhiên, đa ngôn ngữ (Anh, Quan Thoại, Hindi) với khoảng 50 giọng đọc, chủ yếu tối ưu cho tiếng Anh.

Vì sao Kokoro lại quan trọng với người dùng thông thường?

Không giống các dịch vụ TTS đám mây trả phí, Kokoro chạy local, đảm bảo quyền riêng tư. Dữ liệu giọng nói của bạn không bị gửi lên server nào. Bạn chỉ cần một máy tính có Docker hoặc Podman, tải container Kokoro-FastAPI (dung lượng khoảng 5 GB) và chạy lệnh podman run -p 8880:8880 ghcr.io/remsky/kokoro-fastapi-cpu. Ngay lập tức, bạn có một API tương thích với OpenAI speech API, giúp tích hợp vào các chương trình đã dùng OpenAI speech API.

Hiệu năng ấn tượng trên nhiều dòng chip

Đoạn test với giọng am_eric trên văn bản ngắn cho thấy tốc độ tổng hợp đáng kinh ngạc: Intel Core i7-4770K (4.7 giây), Apple M2 Pro (4.5 giây) và AMD Ryzen 7 8745HS chỉ 1.5 giây. Dù chạy CPU, chất lượng âm thanh vẫn rõ ràng, tự nhiên nhờ mô hình được tối ưu hóa hiệu quả. Điều này mở ra cơ hội cho các ứng dụng offline như trợ lý giọng nói, sách nói, hay hỗ trợ người khuyết tật thị giác mà không cần đầu tư GPU đắt đỏ.

Tương lai AI giọng nói local đang đến gần

Kokoro là dấu hiệu cho thấy xu hướng AI chạy trên thiết bị người dùng (on-device AI) đang bùng nổ. Với khả năng chạy local, cộng đồng công nghệ có thể tùy chỉnh và tích hợp vào các ứng dụng khác. Đây là bước tiến quan trọng để AI trở nên phổ biến, riêng tư và tiết kiệm chi phí hơn.