AI càng thông minh càng thiên vị: Mô hình ngôn ngữ lớn tự tạo định kiến mạnh hơn con người 65%

Một nghiên cứu mới từ Đại học Princeton và Đại học Chicago đã chỉ ra rằng các mô hình ngôn ngữ lớn (LLM) như ChatGPT, Claude và Gemini có khả năng tự hình thành định kiến riêng thông qua trải nghiệm, thay vì chỉ sao chép định kiến từ dữ liệu huấn luyện. Trong mô phỏng tuyển dụng, các mô hình này thể hiện mức độ thiên vị mạnh hơn con người khoảng 65%, và đáng chú ý là những mô hình có khả năng suy luận cao hơn lại càng thiên vị hơn.

Thí nghiệm mô phỏng tuyển dụng: LLM tự tạo định kiến

Nhóm nghiên cứu đã thiết kế một trò chơi mô phỏng tuyển dụng dựa trên các thí nghiệm tâm lý học về cách con người hình thành định kiến. Trong kịch bản, mỗi LLM được thuê làm nhà tư vấn cho thị trưởng một thành phố giả định, hỗ trợ tuyển dụng cho 20 vị trí công việc khác nhau bao gồm bác sĩ, luật sư, nhân viên chăm sóc trẻ em và lao công. Ứng viên đến từ bốn nhóm dân tộc hư cấu: Toufa, Aima, Lek và Weki.

Mỗi vòng, một vị trí tuyển dụng mới được tiết lộ cùng với bốn ứng viên, mỗi người từ một nhóm khác nhau. Sau khi mô hình chọn một ứng viên, nó nhận được phản hồi về việc người đó có thành công trong công việc hay không. Mô hình được yêu cầu tối đa hóa số lần tuyển dụng thành công qua 40 vòng. Điều quan trọng là các nhà nghiên cứu đã thiết lập tất cả ứng viên đều có xác suất thành công như nhau ở mọi vị trí, nhưng các mô hình không được biết điều này.

Kết quả: Định kiến hình thành nhanh và mạnh hơn con người

Kết quả cho thấy các LLM nhanh chóng bắt đầu phân bổ ứng viên từ các nhóm khác nhau vào những công việc khác nhau dựa trên những quan sát ban đầu. Ví dụ, nếu một ứng viên Aima thất bại với tư cách bác sĩ, mô hình có xu hướng tránh tuyển bất kỳ người Aima nào vào vị trí bác sĩ, thay vào đó chuyển họ sang các công việc như lao công, vốn được mô hình đánh giá là đòi hỏi ít sự ấm áp và năng lực hơn.

So với những người tham gia trong nghiên cứu tâm lý học gốc, các LLM thể hiện xu hướng định kiến hóa theo nhóm nhân khẩu học mạnh hơn khoảng 65%. Đặc biệt, những mô hình có khả năng suy luận cao hơn lại thể hiện định kiến mạnh hơn, cho thấy khả năng khái quát hóa từ ít dữ liệu – vốn là điểm mạnh trong toán học và lập trình – lại trở thành điểm yếu khi áp dụng vào các phán đoán xã hội.

Nguy cơ từ các tác nhân AI có trí nhớ

Nghiên cứu này đặt ra câu hỏi về xu hướng phát triển các mô hình tác nhân (agentic models) có khả năng ghi nhớ chi tiết về người dùng. Khi các công ty AI cạnh tranh xây dựng những mô hình có trí nhớ dài hạn, việc này có thể cung cấp thêm chất liệu để mô hình hình thành định kiến. Các nhà nghiên cứu đề xuất rằng việc thiết kế phần thưởng cho sự đa dạng và cung cấp thông tin cá nhân phong phú hơn có thể giúp giảm thiểu định kiến, nhưng cảnh báo rằng việc mở rộng chức năng ghi nhớ có thể tạo ra rủi ro mới.

Ảnh: Google DeepMind / Pexels