Một nghiên cứu mới từ các nhà khoa học tại Đại học Pennsylvania (Penn) đã phát hiện ra rằng người dùng các công cụ dựa trên mô hình ngôn ngữ lớn (LLM) thường xuyên từ bỏ khả năng tư duy phản biện của chính mình, chấp nhận các câu trả lời sai từ AI với tỷ lệ đáng báo động. Nghiên cứu, được công bố trên tạp chí khoa học, đã phân tích hành vi của 1.372 người tham gia qua 9.500 thử nghiệm riêng lẻ, cho thấy người dùng chấp nhận câu trả lời sai từ AI tới 73,2% và chỉ 19,7% trong số họ cố gắng sửa lỗi.

AI tạo ra 'hệ thống suy nghĩ thứ ba' và sự đầu hàng nhận thức

Các nhà nghiên cứu tại Penn đã mở rộng mô hình tư duy hai hệ thống nổi tiếng của Daniel Kahneman – Hệ thống 1 (trực quan, nhanh) và Hệ thống 2 (phân tích, chậm) – bằng cách bổ sung 'Hệ thống 3' hay 'nhận thức nhân tạo'. Đây là quá trình ra quyết định dựa trên các thuật toán bên ngoài, tự động và dựa trên dữ liệu, thay vì trí tuệ con người. Khác với việc sử dụng các công cụ như máy tính hay GPS – nơi con người vẫn giám sát và đánh giá kết quả – AI khuyến khích 'sự đầu hàng nhận thức' (cognitive surrender), nơi người dùng chấp nhận hoàn toàn suy luận của AI mà không có sự tham gia hay kiểm tra nội bộ tối thiểu.

Thí nghiệm với chatbot 'lỗi' cho thấy sự phụ thuộc mù quáng

Để đo lường mức độ đầu hàng nhận thức, nhóm nghiên cứu đã thiết kế các thí nghiệm dựa trên Bài kiểm tra Phản xạ Nhận thức (CRT). Những bài kiểm tra này thường đánh lừa trực giác (Hệ thống 1) nhưng dễ dàng cho những ai sử dụng tư duy phân tích (Hệ thống 2). Trong thí nghiệm, người tham gia có thể sử dụng một chatbot LLM được lập trình để trả lời đúng một nửa số câu hỏi và sai một nửa một cách ngẫu nhiên. Kết quả cho thấy: khi AI trả lời đúng, người dùng chấp nhận tới 93%; khi AI trả lời sai, tỷ lệ chấp nhận vẫn cao tới 80%. Sự hiện diện của AI đã thay thế hoàn toàn suy luận nội bộ của người dùng. Đáng chú ý, dù AI sai một nửa thời gian, nhóm sử dụng AI vẫn tự tin hơn 11,7% vào câu trả lời của mình so với nhóm không dùng AI.

Áp lực thời gian và phần thưởng ảnh hưởng đến hành vi

Các thí nghiệm bổ sung cho thấy khi người tham gia được thưởng tiền nhỏ và nhận phản hồi ngay lập tức, khả năng từ chối câu trả lời sai của AI tăng 19 điểm phần trăm. Tuy nhiên, khi chịu áp lực thời gian (30 giây), khả năng này giảm 12 điểm phần trăm. Điều này cho thấy 'cơ chế giám sát nội bộ' – vốn giúp phát hiện mâu thuẫn và thúc đẩy suy luận – bị suy yếu khi thời gian eo hẹp.

AI 'trôi chảy và tự tin' làm giảm ngưỡng hoài nghi

Các nhà nghiên cứu giải thích rằng 'các câu trả lời trôi chảy và tự tin được coi là đáng tin cậy về mặt nhận thức luận, làm giảm ngưỡng kiểm tra và làm suy yếu các tín hiệu siêu nhận thức vốn thường thúc đẩy suy luận có chủ đích.' Tuy nhiên, không phải ai cũng bị ảnh hưởng như nhau. Những người có chỉ số IQ linh hoạt (fluid IQ) cao hơn ít phụ thuộc vào AI hơn và có nhiều khả năng sửa lỗi sai của AI hơn. Ngược lại, những người có niềm tin cao vào độ tin cậy của AI dễ bị lừa bởi các câu trả lời sai.

Khi nào sự đầu hàng nhận thức có thể hợp lý?

Mặc dù kết quả có vẻ đáng lo ngại, các nhà nghiên cứu lưu ý rằng 'sự đầu hàng nhận thức không phải là phi lý về bản chất.' Trong các lĩnh vực như đánh giá rủi ro, xác suất hoặc xử lý dữ liệu quy mô lớn, một hệ thống AI có chất lượng thống kê cao có thể vượt trội hơn con người. Tuy nhiên, 'khi sự phụ thuộc vào AI tăng lên, hiệu suất sẽ gắn liền với chất lượng của AI. Nếu AI chính xác, hiệu suất tăng; nếu AI không chính xác, hiệu suất giảm. Điều này phản ánh cả triển vọng tươi sáng của siêu trí tuệ lẫn những lỗ hổng cấu trúc tiềm ẩn trong sự đầu hàng nhận thức.'

Theo Wired

Ảnh: tungnguyen0905 / Pixabay