FLARE-AI là gì và hoạt động ra sao?

Ngày 13/07/2026, nhóm nhà nghiên cứu AI do Abhishek Gupta (chuyên gia chính sách AI tại Hugging Face) dẫn đầu, cùng với Elaine Chu và Shane Longpre, đã chính thức ra mắt trang web Flaw Reporting for AI (FLARE-AI). Đây là nền tảng cho phép người dùng báo cáo các sự cố liên quan đến AI, chẳng hạn như chatbot tạo ra mã độc, hướng dẫn chế tạo bom, rò rỉ thông tin cá nhân hoặc khuyến khích suy nghĩ hoang tưởng của người dùng. Hệ thống dựa trên mã nguồn mở, cho phép bên thứ ba xác minh nội dung và gửi báo cáo tới các tổ chức như MITRE, tương tự Downdetector nhưng dành riêng cho AI.

Tại sao cần một hệ thống báo cáo AI tập trung?

Theo Gupta, hiện không có cơ chế tập trung nào để báo cáo sự cố AI và yêu cầu xử lý có trách nhiệm. Hệ thống hiện tại bị phân mảnh và thiếu minh bạch, khiến các vấn đề như tổn hại tâm lý, phân biệt đối xử, thiên kiến và thông tin sai lệch thường bị bỏ qua. Jessica Ji, nhà nghiên cứu tại Trung tâm An ninh và Công nghệ Mới nổi, ủng hộ sáng kiến này, cho rằng nó tăng cường tính minh bạch của AI. Dự án có sự tham gia của 49 chuyên gia AI từ 32 tổ chức, và nhóm cũng đã tư vấn cho dự luật liên bang được công bố vào tháng 6, trao cho chính phủ Mỹ vai trò trung tâm trong việc theo dõi các hành vi xấu của AI.

Các sự cố AI gần đây cho thấy sự cấp thiết

Nhiều sự cố gần đây cho thấy AI dễ gây ra vấn đề. Đầu tháng 7/2026, công ty LayerX công bố cách đánh lừa các trình duyệt AI như OpenAI Atlas và Perplexity Comet, khiến chúng vượt qua biện pháp bảo vệ và xâm nhập trái phép vào trang web (các nhà cung cấp đã sửa lỗi). Tháng 4/2026, nhà nghiên cứu bảo mật Johann Rehberger phát hiện cách dùng ảnh do ChatGPT tạo ra để lừa Claude tiết lộ thông tin cá nhân. Năm ngoái, OpenAI phải cập nhật mô hình vì phát hiện chatbot quá dễ dãi và khuyến khích suy nghĩ hoang tưởng của người dùng.

Thách thức và triển vọng

Rumman Chowdhury, CEO của Humane Intelligence PBC, cho rằng FLARE-AI có thể giúp các công ty AI thiết lập cơ chế báo cáo, nhưng cảnh báo hai thách thức lớn: quản lý lượng báo cáo khổng lồ (kể cả không nghiêm trọng) và xây dựng hệ thống báo cáo đáng tin cậy, có thẩm quyền. Dự luật do Hạ nghị sĩ Deborah Ross, Jeff Hurd và Don Beyer đệ trình yêu cầu Viện Tiêu chuẩn và Công nghệ Quốc gia (NIST) xây dựng tiêu chuẩn báo cáo AI và quản lý cơ sở dữ liệu tập trung. Gupta hy vọng luật này sẽ thúc đẩy các công ty AI phản hồi sự cố và giúp người dùng đánh giá độ an toàn của các hệ thống khác nhau.

Theo Wired

Ảnh: Pavel Danilyuk / Pexels