CrankGPT, một startup mới nổi, vừa gây chú ý trên Hacker News với thông điệp châm biếm nhưng nghiêm túc: thay vì đốt nhiên liệu hóa thạch cho các mô hình AI chạy trên đám mây, hãy tự đốt calo để sinh token ngay trên thiết bị của bạn. Đây là một giải pháp AI hoàn toàn cục bộ, riêng tư và không cần kết nối internet.

CrankGPT hoạt động thế nào?

Thay vì gửi dữ liệu lên cloud của các gã khổng lồ như Google (GOOGL) hay Microsoft (MSFT) để xử lý, CrankGPT cho phép người dùng tự "crank" (quay tay) tạo token ngay trên máy tính cá nhân. Ý tưởng là mỗi token AI không chỉ là đơn vị tính toán mà còn là đơn vị vận động thể chất. Người dùng càng crank mạnh, càng nhiều token được sinh ra, đồng thời cơ bắp cũng được rèn luyện.

Tại sao điều này lại quan trọng?

Các công ty công nghệ lớn đang lặng lẽ xây dựng các nhà máy điện chạy bằng khí đốt để phục vụ nhu cầu AI ngày càng tăng. Trong khi đó, chi phí token từ các dịch vụ như ChatGPT đang ngày càng đắt đỏ, còn CEO của các hãng này lại tiếp tục thu lợi nhuận khổng lồ. CrankGPT hứa hẹn một hướng đi ngược lại: AI hoàn toàn cục bộ, bảo vệ quyền riêng tư tuyệt đối và không phụ thuộc vào hạ tầng đám mây. Nó đặc biệt hữu ích trong các tình huống mất kết nối internet, thiếu điện hoặc khi người dùng muốn giữ kín những câu hỏi nhạy cảm của mình.

Tiềm năng thị trường

Dù có vẻ như một trò đùa, CrankGPT thực chất là một tín hiệu cho thấy xu hướng "rightsized AI" đang lên. Khi mà các mô hình LLM ngày càng nặng và ngốn năng lượng, những giải pháp tinh gọn, chạy local như CrankGPT có thể trở thành lựa chọn thay thế hấp dẫn cho người dùng thông thường. Startup này hiện đang nhận đăng ký demo và hứa hẹn sẽ tạo ra một làn sóng mới trong ngành công nghệ và AI.