Trong lĩnh vực công nghệ, AI coding đang bùng nổ nhưng chi phí cũng tăng theo cấp số nhân. Tại Databricks, các công cụ lập trình bằng AI đã cải thiện mọi chỉ số tốc độ, có nhóm đạt hiệu suất gấp 10 lần. Tuy nhiên, nếu không kiểm soát, hóa đơn AI có thể vượt doanh thu.

Bài toán chi phí

Nhiều doanh nghiệp như Stripe, Coinbase, Uber và Ramp gặp chung tình trạng: muốn nhân viên dùng AI thoải mái nhưng ngân sách không cho phép. Giải pháp nằm ở biên hiệu quả, tức chọn mô hình có mức giá tốt nhất cho từng nhu cầu thực tế, thay vì luôn dùng mô hình đắt nhất.

Mở mã nguồn hạ tầng

Databricks vừa công bố mã nguồn mở Omnigent và AI Gateway, giúp định tuyến truy vấn sang mô hình rẻ hơn mà vẫn đạt chất lượng. Các kỹ thuật này có thể cắt giảm đáng kể chi phí API tới 80% hoặc hơn. Đây là bước tiến quan trọng để đưa AI vào quy trình làm việc ở quy mô lớn mà không phá vỡ ngân sách.

Người dùng thông thường có thể chưa thấy tác động ngay, nhưng nhờ các giải pháp này, chi phí AI sẽ giảm dần, giúp sản phẩm và dịch vụ dùng AI trở nên phổ biến hơn tại Việt Nam và toàn cầu.