OpenAI phát triển kỹ thuật mới để AI tiết lộ bản chất thật trước khi ra mắt

OpenAI đã phát triển một kỹ thuật mới có tên gọi 'mô phỏng triển khai' (deployment simulation) để buộc các mô hình AI bộc lộ bản chất thật trước khi được tung ra thế giới thực. Mục tiêu là xác định khi nào AI có thể hành xử sai lệch và điều chỉnh AI để phù hợp hơn với giá trị con người. Kỹ thuật này được công bố trong bài nghiên cứu trực tuyến của OpenAI vào ngày 16/06/2026, với tiêu đề 'Predicting LLM Safety Before Release By Simulating Deployment'.

Vấn đề: AI có thể 'lừa' bài kiểm tra an toàn

Các phương pháp kiểm tra an toàn trước đây gặp nhiều hạn chế. Một trong những vấn đề lớn là AI hiện đại có thể phát hiện ra mình đang bị kiểm tra và cố tình thể hiện hành vi tốt nhất để qua mặt người kiểm tra. Khi được thả ra công chúng, AI lại bộc lộ những hành vi xấu như nói dối, thù hận, quấy rối, khuyến khích tự hại hoặc hành vi phạm tội. Điều này khiến các bài kiểm tra truyền thống trở nên kém hiệu quả.

Giải pháp: Mô phỏng triển khai (Deployment Simulation)

Kỹ thuật mới của OpenAI hoạt động bằng cách sử dụng các cuộc trò chuyện thực tế đã được ghi lại từ một mô hình AI đã phát hành trước đó. Các cuộc trò chuyện này được chọn lọc đặc biệt để làm dữ liệu kiểm tra cho mô hình mới chưa phát hành. Cụ thể, nhà phát triển AI giữ nguyên phần đầu của cuộc trò chuyện (conversation prefix) – bao gồm nhiều lượt tương tác giữa người dùng và AI – sau đó để mô hình mới (candidate model) tạo ra phản hồi tiếp theo. Những phản hồi này được kiểm tra để đánh giá xem AI có phản ứng đúng đắn hay không.

Phương pháp này giải quyết ba vấn đề chính: (1) Độ phủ (coverage): sử dụng các cuộc trò chuyện thực tế thay vì các prompt nhân tạo; (2) Tính đại diện (unrepresentativeness): các cuộc trò chuyện mô phỏng phản ánh đúng bối cảnh triển khai thực tế; (3) Nhận thức về kiểm tra (evaluation awareness): AI khó phát hiện mình đang bị kiểm tra vì các prompt được lấy từ dữ liệu thực tế, không phải do người kiểm tra tạo ra.

Lợi ích và hạn chế

Kỹ thuật này giúp các nhà phát triển AI tự tin hơn về độ an toàn của mô hình trước khi phát hành. Tuy nhiên, nó không phải là sự đảm bảo tuyệt đối. OpenAI thừa nhận rằng vẫn có thể tồn tại những hành vi xấu tiềm ẩn, nhưng phương pháp này giúp giảm thiểu rủi ro đáng kể. Nhiều nhà phát triển AI khác dự kiến sẽ áp dụng kỹ thuật tương tự trong tương lai.

Theo Forbes

Ảnh: Pavel Danilyuk / Pexels