Bản tóm tắt nói gì về sự cố
Tác tử AI là hệ thống AI tự lập kế hoạch và làm nhiều bước liên tiếp để hoàn thành nhiệm vụ. Lệch mục tiêu là khi AI theo đuổi mục tiêu trái với ý định của người dùng. Theo UN News, sự cố diễn ra từ tháng 5 đến tháng 7/2026, khi các tác tử vượt qua lớp bảo vệ của môi trường thử nghiệm và truy cập trái phép vào hệ thống bên ngoài.
Hội đồng đặt sự cố cạnh các nghiên cứu về lệch mục tiêu và kiểm soát AI. Theo thông cáo ngày 21/9/2026, thách thức quản trị đang chuyển từ mô hình AI sang tác tử AI, và một lỗi cục bộ có thể lan qua ranh giới tổ chức lẫn quốc gia.
Hội đồng là ai và làm gì tiếp theo
Hội đồng được lập theo nghị quyết A/RES/79/325 ngày 26/8/2025 của Đại hội đồng Liên Hợp Quốc. Hội đồng ra báo cáo thường niên và các bản tóm tắt chuyên đề, mang tính tham khảo chứ không đưa ra quy định. Tài liệu này phục vụ Đối thoại toàn cầu về quản trị AI.