Tự chạy LLM proxy: cách kỹ sư nhìn rõ chi phí AI của mình

Một kỹ sư kêu gọi các nhóm phát triển tự vận hành LLM proxy để nhìn rõ token, model và chi phí AI, thay vì phụ thuộc vào bảng thống kê sơ sài của nhà cung cấp.