Startup Castform vừa công bố giải pháp giúp doanh nghiệp tự huấn luyện AI bằng dữ liệu nội bộ, dùng Neon Lakebase Search làm môi trường truy xuất. Hệ thống hứa hẹn chi phí rẻ hơn 100 lần so với mô hình đóng như GPT-5.6 Sol.

Đột phá từ RL post-training

Thay vì dùng pipeline RAG thủ công phổ biến từ 2022, Castform áp dụng RL post-training: mô hình tự thử nghiệm, nhận điểm từ reward function rồi tự cải thiện qua nhiều vòng lặp. Nhờ đó, mô hình open source nhỏ có thể đạt kết quả tìm kiếm ngang ngửa, thậm chí vượt các mô hình đắt tiền.

Doanh nghiệp được lợi gì?

Hiện một yêu cầu tìm kiếm nhiều bước với GPT-5.6 Sol mất hơn 10 giây và khoảng 0,03 USD. Với Castform, chi phí giảm tới 100 lần nhờ tận dụng tài liệu nội bộ, hồ sơ khách hàng, wiki và kho dữ liệu vận hành. Doanh nghiệp không cần đội ngũ ML hay GPU riêng, quy trình post-training đơn giản như prompt engineering.

Đây là bước tiến quan trọng của ngành công nghệ, giúp AI rẻ hơn, nhanh hơn và không phụ thuộc vào API đắt đỏ. Với xu hướng AI, giải pháp này mở ra cơ hội cho cả startup lẫn tập đoàn lớn, đồng thời giúp người dùng cuối tiếp cận sản phẩm AI thông minh với chi phí thấp hơn.