AI agent – hệ thống AI có khả năng lập kế hoạch, kết nối hệ thống bên ngoài và thực thi dựa trên phán đoán – đang thay đổi cách doanh nghiệp vận hành. Tuy nhiên, theo báo cáo mới nhất của PwC, sự trỗi dậy của AI agent kéo theo những rủi ro an ninh mạng khác biệt về chất so với AI truyền thống. Khảo sát 'Thực trạng AI tạo sinh 2026 Xuân' (6 quốc gia, doanh nghiệp doanh thu trên 500 tỷ yên) cho thấy tỷ lệ doanh nghiệp đã hiểu và triển khai AI agent: Mỹ 59%, Anh 55%, Trung Quốc 48%, Đức 37%, Hàn Quốc 36%, trong khi Nhật Bản chỉ đạt 33%.

AI agent khác gì AI truyền thống và rủi ro mạng mới nào xuất hiện?

AI agent không chỉ dừng ở việc tạo ra nội dung; chúng suy luận, tham chiếu bộ nhớ, chọn công cụ và tác động lên hệ thống bên ngoài. Vấn đề không còn là chất lượng đầu ra, mà là 'kiểm soát hành động': AI agent có quyền hạn gì, tham chiếu thông tin nào, đưa ra phán đoán ra sao và tác động lên hệ thống nào. Các mối đe dọa như prompt injection (tiêm nhiễm lệnh) hay data poisoning (nhiễm độc dữ liệu) có thể lan truyền qua chuỗi suy luận, bộ nhớ và thực thi công cụ, gây hậu quả thực tế lên hệ thống doanh nghiệp.

Thực trạng quản trị AI agent tại Nhật Bản và các nước

Khảo sát của PwC chỉ ra khoảng cách lớn về hạ tầng kiểm soát. Chỉ 23% doanh nghiệp Nhật Bản có tổ chức trung tâm quản trị AI (gồm tuyến 1 và tuyến 2), thấp nhất so với Mỹ (63%) và Anh (54%). Nguyên nhân cốt lõi không phải thiếu ngân sách, mà là thiếu nhân sự có kinh nghiệm thiết kế kiểm soát cho chuỗi hành động tự động của AI agent, kết hợp với sự chậm trễ cấu trúc trong nền tảng quản trị.

Khung quản trị rủi ro AI agent: AI-CAL và ba lớp kiểm soát

PwC đề xuất khung AI-CAL (AI Control Assurance Level) làm trục chính, kết hợp ba loại kiểm soát: phòng ngừa (preventive), phát hiện (detective) và phản ứng (responsive). Các doanh nghiệp cần xây dựng lộ trình theo từng giai đoạn triển khai, ưu tiên các hành động cụ thể. Báo cáo cũng tiến hành thử nghiệm thực tế dựa trên kịch bản tấn công để định lượng và định tính tác động, khẳng định tính hiện hữu của rủi ro.

AI agent là chìa khóa tạo hiệu quả vượt trội

Khảo sát cho thấy doanh nghiệp đánh giá hiệu quả AI 'vượt xa kỳ vọng' có tỷ lệ triển khai AI agent 67-83%, trong khi nhóm 'dưới kỳ vọng' chỉ đạt 17-31%. Điều này cho thấy AI agent là điểm phân nhánh quyết định hiệu quả của AI tạo sinh. Bước đầu tiên để khai thác an toàn là hiểu và thiết kế kiểm soát phù hợp với tính tự động và kết nối của AI agent.

Theo PwC

Ảnh: cottonbro studio / Pexels