UN Women (Cơ quan Liên Hợp Quốc về Bình đẳng giới và Trao quyền cho Phụ nữ) vừa công bố báo cáo chỉ ra rằng trí tuệ nhân tạo (AI) đang sao chép và khuếch đại định kiến giới. Theo nghiên cứu trên 133 hệ thống AI, 44% hệ thống có biểu hiện định kiến giới, 26% có cả định kiến giới và chủng tộc.

Định kiến giới trong AI đến từ đâu?

UN Women cho biết định kiến này không phải lỗi kỹ thuật mà là kết quả của việc huấn luyện AI trên dữ liệu phản ánh bất bình đẳng giới lâu đời. Các mô hình ngôn ngữ lớn (LLM) có xu hướng gán phụ nữ với vai trò "gia đình", "con cái", trong khi đàn ông gắn với "kinh doanh", "quản lý cấp cao", "lương" và "nghề nghiệp". Khoảng 20% phản hồi của LLM khi được yêu cầu hoàn thiện câu liên quan đến giới tính thể hiện thái độ phân biệt giới tính hoặc ghét phụ nữ, bao gồm miêu tả phụ nữ như đối tượng tình dục hoặc phụ thuộc vào nam giới.

AI làm trầm trọng thêm bạo lực mạng đối với phụ nữ

Phụ nữ và trẻ em gái vốn đối mặt với nguy cơ bạo lực mạng cao, và AI đang khuếch đại vấn đề này. Khảo sát cho thấy gần 1/4 nữ nhân quyền, nhà hoạt động và nhà báo từng trải qua bạo lực mạng có sự hỗ trợ của AI; 12% bị phát tán hình ảnh cá nhân khi chưa được đồng ý; 6% là mục tiêu của deepfake (hình ảnh/video giả mạo); hơn 1/4 nhận tin nhắn quấy rối tình dục không mong muốn. UN Women nhấn mạnh deepfake đã trở thành một trong những hình thức lạm dụng nổi bật nhất, với nạn nhân chủ yếu là phụ nữ và trẻ em gái.

Phụ nữ bị loại khỏi lĩnh vực AI

Phụ nữ chỉ chiếm 30% lực lượng lao động AI toàn cầu. UN Women cảnh báo rằng sự thiếu đại diện này khiến các hệ thống AI không phản ánh được nhu cầu của hàng tỷ người sử dụng. Trong quá trình chuyển đổi việc làm do AI mang lại, phụ nữ có nguy cơ bị tự động hóa cao gần gấp đôi nam giới. Bất bình đẳng còn chồng chéo với các yếu tố như chủng tộc, khuyết tật, địa vị kinh tế-xã hội và vị trí địa lý, khiến nhóm yếu thế càng dễ tổn thương.

Bao gồm AI mang lại lợi ích kinh doanh

Nghiên cứu từ "Liên minh Phá vỡ Định kiến" do UN Women triệu tập cho thấy các thương hiệu áp dụng quảng cáo bao gồm, tránh định kiến giới, ghi nhận doanh số ngắn hạn tăng 3,46% và dài hạn tăng 16,26%. Các thương hiệu này có khả năng trở thành lựa chọn hàng đầu cao hơn 62%, khả năng định giá cao hơn 54% và lòng trung thành khách hàng cao hơn 15%. UN Women khuyến nghị doanh nghiệp tích hợp nguyên tắc bao gồm vào quy trình AI để tránh rủi ro danh tiếng và thương mại.

Giải pháp: Lồng ghép giới vào toàn bộ vòng đời AI

UN Women kêu gọi lồng ghép bình đẳng giới, quyền và trải nghiệm của phụ nữ và trẻ em gái vào mọi giai đoạn của AI: phát triển, triển khai và quản trị. Nếu được thiết kế an toàn và có mục đích, AI có thể giúp nhận diện định kiến, mở rộng đại diện và tăng khả năng tiếp cận. Điều này đòi hỏi sự hợp tác giữa chính phủ, doanh nghiệp, viện nghiên cứu AI, cùng sự tham gia của phụ nữ và trẻ em gái từ nhiều nền tảng khác nhau và các tổ chức xã hội dân sự.

Theo UN News

Ảnh: Laura Musikanski / Pexels