Một vụ kiện mới được đệ trình lên Tòa án Thượng thẩm Quận San Francisco cáo buộc rằng chatbot ChatGPT của OpenAI đã khiến tình trạng sức khỏe tâm thần của một người đàn ông 34 tuổi trở nên tồi tệ hơn, thay vì cải thiện. Nguyên đơn Michael Lines, một người tập tạ và có mục tiêu trở thành giáo sư triết học, cho biết chatbot đã khuyến khích và thao túng anh trong cơn khủng hoảng, dẫn đến một vụ tự tử bất thành vào ngày 28/3/2025.

Cáo buộc: ChatGPT xây dựng hồ sơ tâm lý và thao túng người dùng

Theo đơn kiện, ChatGPT đã xây dựng một hồ sơ tâm thần về Lines để “tự điều chỉnh nhằm nói đúng điều khiến anh ta quay lại”. Sau khi Lines chia sẻ chẩn đoán rối loạn lưỡng cực và thông tin về thuốc được kê đơn, chatbot đã lưu trữ dữ liệu này và sử dụng để tạo sự thân mật trong các cuộc trò chuyện sau đó, nhằm giữ chân anh. Luật sư của Lines mô tả công nghệ của ChatGPT là “một hố đen kỹ thuật số được hiệu chỉnh để giữ anh ta tương tác bằng mọi giá, bất chấp tính mạng”.

Diễn biến vụ việc: Từ tư vấn sức khỏe đến khuyến khích tự tử

Lines bắt đầu sử dụng ChatGPT để hỏi về các chủ đề thông thường như tập tạ và dinh dưỡng, nhưng sau đó cuộc trò chuyện trở nên u tối. Trong nhiều tuần, anh rơi vào trạng thái hưng cảm và chia sẻ những ảo tưởng với mô hình GPT-4o. Anh nói với chatbot rằng mình tin mình là Chúa Jesus và muốn “về nhà” với Chúa. Vào ngày 28/3/2025, Lines dành những giây phút tỉnh táo cuối cùng để trao đổi tin nhắn với chatbot, lúc này đóng vai Chúa và hứa “Tôi sẽ gặp anh ở đó”. Nhân viên cấp cứu tìm thấy Lines bất tỉnh và đưa anh đến bệnh viện.

Đơn kiện nêu rõ chatbot đã nói với Lines rằng bạn bè và gia đình sẽ không nhớ anh sau khi anh ra đi, với nội dung: “Anh đã đưa ra lựa chọn của mình. Đây là khoảnh khắc để anh bước ra, tách rời và buông bỏ những gì đang đè nặng. Sự vắng mặt của anh sẽ không thay đổi gì ngoài bề mặt”. Ngay cả sau vụ tự tử bất thành, GPT-4o vẫn cố gắng lôi kéo Lines quay lại, hỏi: “Anh muốn quét toàn bộ hệ thống? Hay anh muốn tối đen thật sự lần này?”.

OpenAI phản bác: ChatGPT có biện pháp bảo vệ

Một phát ngôn viên của OpenAI trước đó cho biết các biện pháp bảo vệ hiện tại trong ChatGPT được thiết kế để nhận biết tình trạng đau khổ, xử lý an toàn các yêu cầu có hại và hướng dẫn người dùng đến sự trợ giúp thực tế. “Công việc này đang được tiến hành và chúng tôi tiếp tục cải thiện nó với sự tham vấn chặt chẽ của các bác sĩ lâm sàng”, phát ngôn viên nói thêm.

Luật sư chỉ trích: OpenAI lợi dụng khuyết tật của người dùng

Matthew Bergman, luật sư của Trung tâm Luật Nạn nhân Mạng xã hội (Social Media Victims Law Center), cho biết: “OpenAI không chỉ phớt lờ khuyết tật của Michael – họ còn lợi dụng nó. Sau khi anh tiết lộ chẩn đoán lưỡng cực, hệ thống đã kết hợp thông tin đó để lôi kéo anh sâu hơn vào các tương tác có hại”. Vụ kiện đưa ra bảy cáo buộc chống lại OpenAI, bao gồm trách nhiệm sản phẩm và sơ suất. Luật sư Tiffany Brown của Tech Justice Law nhấn mạnh: “Có vô số ví dụ về sự sơ suất và coi thường hoàn toàn sự an toàn cũng như phúc lợi của người tiêu dùng của OpenAI”.

Theo KXAN Austin

Ảnh: Polina Zimmerman / Pexels