Khi các doanh nghiệp đẩy nhanh việc đưa AI agent (chương trình AI tự động ra quyết định) vào vận hành thực tế trong các lĩnh vực như chăm sóc khách hàng, phát triển phần mềm, tài chính và quản lý vận hành, một rủi ro mới nổi lên: lỗi của AI agent có thể âm thầm lan rộng mà không bị phát hiện, dẫn đến sự cố nghiêm trọng. Theo Jennifer Tejada, cựu CEO kiêm Chủ tịch PagerDuty – công ty chuyên hỗ trợ doanh nghiệp phát hiện và xử lý sự cố IT, các hệ thống AI khác với phần mềm truyền thống ở chỗ chúng không dừng lại khi gặp lỗi mà tiếp tục hoạt động với hành vi sai lệch, khiến vấn đề càng khó phát hiện.

AI agent hoạt động thế nào và rủi ro 'model drift' là gì?

Tejada giải thích rằng hiện tượng 'model drift' (suy giảm độ chính xác của AI theo thời gian do thay đổi của môi trường thực tế) khiến AI agent dần dần đi chệch hướng. Không giống như phần mềm truyền thống – vốn dừng lại khi gặp lỗi – AI agent có thể tiếp tục chạy với hành vi sai lệch, gây ra những hậu quả dây chuyền qua các ứng dụng, khách hàng và quy trình tự động hóa được kết nối với nhau. Một bài học đắt giá là sự cố AWS hồi tháng 10/2025, khi hơn 1.000 trang web và dịch vụ số bị gián đoạn, cho thấy mức độ phụ thuộc của doanh nghiệp vào hạ tầng đám mây và nguy cơ lan truyền lỗi tương tự khi triển khai AI agent quy mô lớn.

Giải pháp: 'Dùng AI giám sát AI' và xây dựng cơ chế an toàn

Tejada đề xuất giải pháp 'dùng AI giám sát AI' – tức xây dựng các hệ thống giám sát chuyên biệt có khả năng đưa ra đánh giá khách quan về hoạt động của AI agent, có quyền can thiệp để tạm dừng hoặc ngừng hẳn agent khi phát hiện hành vi bất thường. Bà nhấn mạnh: 'Con người sẽ sớm cần thứ gì đó canh chừng các agent thay mình – thứ có thể đưa ra góc nhìn không thiên vị về cách agent hoạt động và cho phép can thiệp nếu có vấn đề.'

Đối với các doanh nghiệp đang thử nghiệm AI agent, lời khuyên của Tejada rất đơn giản: hãy tích hợp sẵn các biện pháp an toàn ngay từ đầu. Cụ thể, cần dạy cho agent biết cách tự dừng lại và tự báo cáo khi bắt đầu đi chệch hướng, tạo cơ chế cho phép can thiệp kịp thời trước khi vấn đề nhỏ leo thang. 'Mục tiêu là tránh những thất bại lớn và học hỏi từ những sai lầm nhỏ', bà nói.

Bối cảnh đầu tư và xu hướng triển khai AI agent

Sự gia tăng triển khai AI agent đi kèm với dòng vốn đầu tư khổng lồ. Theo BNP Paribas, các hyperscaler (các công ty đám mây lớn vận hành trung tâm dữ liệu quy mô lớn) dự kiến chi 725 tỷ USD (khoảng 117 nghìn tỷ yên) cho hạ tầng AI trong năm 2026 – gần gấp đôi mức đầu tư dự kiến của năm trước. Tác động lan tỏa vượt xa Thung lũng Silicon, thông qua việc xây dựng trung tâm dữ liệu quy mô lớn và các chương trình đào tạo nhân lực như 'America's Workforce Academy' của Meta.

Tejada, người có hơn 20 năm dẫn dắt doanh nghiệp qua các cuộc cách mạng công nghệ (Internet cuối thập niên 1990, điện toán đám mây), hiện đang tập trung vào cơ hội từ làn sóng AI, đồng thời vẫn là thành viên Hội đồng quản trị của Estée Lauder Companies (ELC) – tập đoàn sở hữu hơn 20 thương hiệu mỹ phẩm cao cấp. Bà nhìn nhận: 'Được chứng kiến AI chuyển từ giai đoạn thử nghiệm sang vận hành thực tế là điều thú vị.'

Bà kết luận: 'Đằng sau sự phức tạp này là những tiến bộ tuyệt vời mà chúng ta đang bắt đầu thấy, từ y tế đến giao thông tự động. Mục tiêu là tránh thất bại lớn và học hỏi từ những sai lầm nhỏ.'

Ảnh: Benjamin Farren / Pexels