Theo dự báo của Gartner, nếu không có mô hình vận hành kiểm soát chặt chẽ, đến năm 2028, chi phí sử dụng công cụ AI cho mỗi nhà phát triển sẽ vượt mức lương trung bình. Cảnh báo này được đưa ra trong bối cảnh các doanh nghiệp Mỹ đang đối mặt với cuộc khủng hoảng chi phí AI leo thang, đặc biệt khi các "AI agent" (tác nhân AI) tự động hóa công việc ngày càng phổ biến.

Nguyên nhân chi phí AI tăng vọt

Sự gia tăng chi phí bắt nguồn từ việc chuyển đổi từ mô hình tính phí cố định (theo tài khoản) sang mô hình trả tiền theo mức sử dụng (pay-as-you-go), cùng với sự bùng nổ của AI agent. Theo ước tính của Goldman Sachs, tài nguyên tính toán mà một AI agent yêu cầu có thể lớn hơn tới 50 lần so với chatbot truyền thống. Việc dự đoán lượng token tiêu thụ cho từng tác vụ trở nên khó khăn, khiến doanh nghiệp khó kiểm soát ngân sách.

Một ví dụ điển hình là Uber Technologies: khi nhân viên đồng loạt triển khai các công cụ phát triển AI, công ty đã tiêu hết ngân sách năm chỉ trong 4 tháng. Các nhà phát triển thường ưu tiên sự tiện lợi hơn chi phí, khiến phương pháp quản lý dựa trên quyết định cá nhân trở nên bất khả thi.

Giải pháp: FinOps và tự động phân luồng mô hình

Trước tình hình này, các doanh nghiệp đang áp dụng các phương pháp quản lý chi phí từng được sử dụng trong điện toán đám mây. FinOps (kết hợp giữa tài chính và vận hành) trở thành cốt lõi, giúp tối ưu hóa chi tiêu liên tục. Các công ty như Priceline và Qualcomm đã triển khai bảng điều khiển (dashboard) để theo dõi lượng token sử dụng. Một số đội nhóm được đặt giới hạn sử dụng, đồng thời áp dụng chế độ "showback" – công khai số liệu sử dụng trong nội bộ.

Lãnh đạo Open Text, công ty phần mềm quản lý thông tin Canada, cho biết việc áp dụng tính phí nội bộ có thể giảm 20-30% chi phí token. Về mặt kỹ thuật, giải pháp "tự động phân luồng" (routing) đang gia tăng nhanh chóng: thay vì chạy mọi tác vụ trên mô hình lớn nhất, các tác vụ hàng ngày được chuyển sang các mô hình nguồn mở rẻ hơn.

Xu hướng chuyển dịch quản lý chi phí AI

Rõ ràng, các doanh nghiệp đang chuyển từ giai đoạn "thử nghiệm mọi mô hình tiên tiến" sang giai đoạn quản lý chặt chẽ hiệu quả chi phí. Việc kiểm soát chi tiêu AI không chỉ là bài toán tài chính mà còn là yếu tố sống còn để duy trì hoạt động kinh doanh bền vững trong kỷ nguyên AI agent.

Theo JBpress

Ảnh: Pixabay / Pexels