Ngày 7/7, Viện Khoa học và Công nghệ tiên tiến Hàn Quốc (KAIST) công bố nghiên cứu định lượng đầu tiên về mức tiêu thụ điện của AI agent – loại mô hình AI tự lập kế hoạch, sử dụng công cụ như web, máy tính và môi trường chạy mã code. Kết quả cho thấy một AI agent dùng mô hình ngôn ngữ lớn (LLM) 70 tỷ tham số tiêu thụ trung bình 348.41 Wh mỗi yêu cầu, cao gấp 136.5 lần so với generative AI chỉ trả lời hỏi đáp đơn giản. Nếu xử lý 13.7 tỷ yêu cầu mỗi ngày – tương đương quy mô Google Search hiện tại – nhu cầu điện của các trung tâm dữ liệu có thể đạt khoảng 198.9 GW, tương đương một nửa mức tiêu thụ điện trung bình của Hoa Kỳ.
AI agent tiêu thụ điện năng thế nào?
AI agent là dạng ứng dụng sử dụng mô hình ngôn ngữ lớn (LLM) để không chỉ trả lời câu hỏi mà còn tự lập kế hoạch, thực hiện nhiều bước xử lý như tìm kiếm web, tính toán, chạy mã nguồn… nhằm giải quyết các bài toán phức tạp. Trong khi đó, generative AI truyền thống chỉ đưa ra câu trả lời dựa trên câu hỏi, không cần gọi thêm công cụ bên ngoài. Trước nghiên cứu này, chi phí điện năng và chi phí vận hành thực tế của AI agent gần như chưa được làm rõ.
Nhóm nghiên cứu của Giáo sư Minsoo Rhu tại Khoa Kỹ thuật điện KAIST đã coi AI agent là một khối lượng công việc (workload) mới liên tục được xử lý trên máy chủ và chip đồ họa (GPU) trong trung tâm dữ liệu. Họ tiến hành đo đạc mức tiêu thụ điện và thời gian phản hồi trong môi trường vận hành thực tế.
Kết quả nghiên cứu: 348.41 Wh mỗi yêu cầu, gấp 136.5 lần AI thông thường
Nhóm phát hiện AI agent gọi LLM nhiều hơn hẳn so với phương pháp suy luận chuỗi suy nghĩ (Chain-of-Thought – CoT) – kỹ thuật chia quá trình suy luận thành nhiều bước được dùng phổ biến hiện nay. Điều này khiến thời gian phản hồi kéo dài tối đa gấp 153.7 lần. Đáng chú ý, trong lúc chờ công cụ bên ngoài xử lý, GPU rơi vào trạng thái chờ tới 54.5% tổng thời gian thực thi, khiến tài nguyên tính toán đắt tiền không được sử dụng hết công suất.
Dưới đây là các số liệu chính từ nghiên cứu:
| Chỉ số | Giá trị |
|---|---|
| Điện năng trung bình mỗi yêu cầu (AI agent dùng LLM 70 tỷ tham số) | 348.41 Wh |
| Mức tăng so với generative AI truyền thống | 136.5 lần |
| Thời gian phản hồi tối đa so với phương pháp CoT | 153.7 lần |
| Tỷ lệ GPU chờ khi xử lý công cụ ngoài | 54.5% |
| Số yêu cầu mỗi ngày dùng để ước tính | 13.7 tỷ |
| Công suất điện ước tính của trung tâm dữ liệu | 198.9 GW |
Nghiên cứu này có tác giả chính là nghiên cứu sinh Jiin Kim thuộc Khoa Kỹ thuật điện KAIST. Kết quả đã được trình bày tại Hội nghị quốc tế lần thứ 32 của IEEE về Kiến trúc máy tính hiệu năng cao (HPCA 2026) hồi tháng 2. Nhóm cũng công bố mã nguồn mở phần triển khai AI agent và bộ tiêu chuẩn đo lường (benchmark) để cộng đồng nghiên cứu có thể sử dụng.
Cảnh báo về hạ tầng điện và giải pháp đồng thiết kế
Nếu quy đổi sang quy mô lớn – chẳng hạn 13.7 tỷ yêu cầu mỗi ngày tương đương lượng tìm kiếm Google Search hiện tại – nhu cầu điện của các trung tâm dữ liệu có thể lên tới khoảng 198.9 GW, tương đương một nửa mức tiêu thụ điện trung bình toàn nước Mỹ. Con số này cho thấy việc phổ biến AI agent mà không tối ưu hạ tầng có thể dẫn đến chi phí năng lượng khổng lồ, đồng thời tạo áp lực lên lưới điện toàn cầu.
Giáo sư Minsoo Rhu nhấn mạnh: "Chúng tôi lần đầu tiên định lượng được không chỉ mức độ thông minh của AI mà còn cả điện năng và chi phí để đạt được và duy trì trí tuệ đó." Ông cho rằng cần có thiết kế phối hợp (co-design) giữa mô hình AI, bán dẫn, trung tâm dữ liệu và hạ tầng điện, thay vì tối ưu từng phần riêng lẻ, nhằm giảm chi phí vận hành dài hạn.
Ý nghĩa với người dùng Việt Nam
Người dùng Việt Nam đang ngày càng sử dụng các dịch vụ AI như chatbot, trợ lý ảo và công cụ tìm kiếm thông minh. Nghiên cứu này cho thấy việc vận hành AI agent ở quy mô lớn có thể tạo áp lực đáng kể lên hệ thống điện và chi phí hạ tầng, điều mà các doanh nghiệp và nhà hoạch định chính sách cần cân nhắc khi phát triển trung tâm dữ liệu trong nước. Dù chưa có số liệu cụ thể cho Việt Nam, xu hướng toàn cầu về tiêu thụ điện của AI là tín hiệu để chú trọng giải pháp phần cứng và phần mềm tiết kiệm năng lượng ngay từ đầu.
Theo Science Portal Asia Pacific
Ảnh: panumas nikhomkhai / Pexels
