OpenAI vào thứ Tư (15/07/2026) đã công bố GPT-Red, một mô hình kiểm tra an toàn tự động dành riêng cho các hệ thống AI tiên tiến. Đây là công cụ được OpenAI sử dụng nội bộ để thử nghiệm các mô hình mới nhất như GPT-5.6 Sol, chuyên về tấn công prompt injection – phương pháp mà tin tặc lợi dụng để thao túng mô hình AI bằng cách đưa vào các lệnh độc hại trong câu lệnh đầu vào.

GPT-Red hoạt động như thế nào?

GPT-Red là kết quả của những nỗ lực của OpenAI nhằm kiểm tra độ an toàn cho các mô hình của họ. Mô hình này tự động tạo ra các cuộc tấn công mô phỏng để cố gắng chiếm quyền hoặc phá vỡ hệ thống phòng vệ của AI. Các cuộc tấn công do GPT-Red tạo ra sau đó được dùng để huấn luyện các mô hình sản xuất và đánh giá chúng trước khi đưa vào thực tế.

Bối cảnh ra đời: nỗi lo về AI siêu mạnh

Sự ra đời của GPT-Red diễn ra trong bối cảnh lo ngại ngày càng tăng về các mô hình AI mạnh như Claude Fable và Mythos của Anthropic, vốn có thể làm lộ lỗ hổng hoặc tạo điều kiện cho tin tặc xâm nhập hệ thống. Mức độ lo ngại lớn đến mức chính quyền Trump đã đưa ra chính sách cách ly tự nguyện, cho phép chính phủ liên bang có thời gian đánh giá các mô hình trước khi công bố ra công chúng.

Chuyên gia nói gì về GPT-Red?

Sid Nag, chuyên gia công nghệ và CEO của hãng phân tích AI độc lập Tekonyx, nhận xét: “GPT-Red thừa nhận rằng các hệ thống AI tiên tiến đang trở nên quan trọng hơn. Chúng cần được đánh giá độc lập và tiêu chuẩn hóa hơn trước khi triển khai rộng rãi.” Ông Nag cho rằng việc kiểm tra và thử nghiệm các mối đe dọa tiềm ẩn trước khi triển khai giúp doanh nghiệp đưa ra quyết định vận hành tốt nhất về mô hình nào nên sử dụng.

Tuy nhiên, Mike Gualtieri, nhà phân tích tại Forrester, lưu ý rằng OpenAI không phải là nhà cung cấp duy nhất kết hợp con người và AI để kiểm tra mô hình mới. Anthropic cũng công khai về Frontier Red Team của họ, sử dụng AI để mô phỏng các cuộc tấn công trước khi phát hành mô hình mới ra công chúng.

Lưu ý cho doanh nghiệp

Dù red teaming tự động mang lại lợi ích, Gualtieri cảnh báo doanh nghiệp không nên coi đó là lý do để bỏ qua quy trình thẩm định riêng của mình. “Không phải tất cả đều tốt, vì điều người này cho là lỗ hổng, người khác lại cho là quyền riêng tư hoặc tự do,” ông nói. Doanh nghiệp cần thận trọng và đảm bảo các biện pháp an toàn của nhà cung cấp không can thiệp vào cách họ muốn sử dụng mô hình.

Theo AI Business

Ảnh: TheOtherKev / Pixabay