AI có thể biến đổi doanh nghiệp, nhưng những thất bại tại Air Canada, Zillow, Samsung, CNET và IBM cho thấy mọi thứ có thể xấu đi nhanh chóng nếu thiếu chiến lược, quản trị và giám sát con người. Dưới đây là 5 vụ việc thực tế và bài học cho lãnh đạo.

1. Air Canada: Chatbot 'ảo giác' gây thiệt hại pháp lý

Năm 2024, một cơ quan trọng tài Canada yêu cầu Air Canada bồi thường cho hành khách vì chatbot tích hợp trong hệ thống đặt vé trực tuyến đã tạo ra thông tin sai lệch (hiện tượng 'ảo giác' – AI tạo ra thông tin không có thật một cách thuyết phục). Cụ thể, chatbot đã hướng dẫn một hành khách đi dự tang lễ bà ngoại rằng họ có thể nộp đơn xin giảm giá sau khi thanh toán vé đầy đủ, trái với quy định của hãng. Air Canada từ chối áp dụng giảm giá, nhưng cơ quan trọng tài phán quyết hãng phải trả 812,02 USD (khoảng 130.800 yên) cho hành khách. Chủ tịch tổ chức bảo vệ quyền hành khách Air Passenger Rights, Gábor Lukács, nhận xét: 'Nếu bạn giao phó một phần công việc cho AI, bạn phải chịu trách nhiệm về những gì AI làm'.

2. Zillow: Thuật toán định giá sai gây lỗ 500 triệu USD

Công ty bất động sản Zillow xây dựng công cụ machine learning để tự động mua nhà rồi bán lại kiếm lời. Thuật toán được thiết kế để tối ưu giá mua và bán nhằm tối đa hóa lợi nhuận, nhưng đã không dự đoán được thị trường bất động sản biến động bất thường. Kết quả là Zillow mua nhà với giá quá cao, dẫn đến khoản lỗ 500 triệu USD (khoảng 80,5 tỷ yên). Cuối cùng, công ty phải đóng cửa toàn bộ mảng kinh doanh này và coi dự án như một bài học đắt giá. Sai sót nhỏ trong tính toán, nếu không được kiểm soát, có thể nhanh chóng leo thang thành thảm họa.

3. Samsung: Rò rỉ dữ liệu nhạy cảm qua ChatGPT

Năm 2023, Samsung phát hiện nhân viên đã tải lên mã nguồn và dữ liệu nội bộ lên ChatGPT để hỗ trợ công việc, vô tình làm lộ thông tin bí mật. Sự cố này buộc Samsung phải cấm sử dụng ChatGPT và các chatbot AI tương tự trong công ty. Bài học: doanh nghiệp cần thiết lập chính sách rõ ràng về việc sử dụng AI, đặc biệt là các công cụ bên ngoài, để tránh rò rỉ dữ liệu.

4. CNET: Nội dung AI sai lệch gây mất uy tín

Năm 2023, trang công nghệ CNET sử dụng AI để tự động sản xuất hàng loạt bài viết tài chính cá nhân nhằm tăng lưu lượng truy cập. Tuy nhiên, nhiều bài viết chứa lỗi thực tế nghiêm trọng, buộc CNET phải đính chính và tạm dừng sử dụng AI. Sự việc làm xói mòn lòng tin của độc giả và đặt ra câu hỏi về chất lượng nội dung do AI tạo ra.

5. IBM Watson: Dự đoán ung thư sai lầm

IBM Watson for Oncology, hệ thống AI hỗ trợ chẩn đoán ung thư, từng được kỳ vọng cách mạng hóa y học. Tuy nhiên, các báo cáo nội bộ cho thấy Watson đưa ra nhiều khuyến nghị điều trị không an toàn hoặc sai lệch, do được huấn luyện trên dữ liệu hạn chế và không cập nhật. Dự án cuối cùng bị thu hẹp, gây thiệt hại hàng trăm triệu USD. Bài học: AI trong lĩnh vực nhạy cảm như y tế cần được kiểm chứng kỹ lưỡng và có sự giám sát của chuyên gia.

Bài học cho lãnh đạo: 5 nguyên tắc tránh thất bại AI

Từ 5 vụ việc trên, các nhà lãnh đạo doanh nghiệp cần ghi nhớ: (1) AI không thể thay thế hoàn toàn con người, cần có cơ chế giám sát và kiểm tra; (2) Dữ liệu huấn luyện phải chính xác và đại diện; (3) Cần xây dựng chính sách sử dụng AI rõ ràng; (4) Luôn có kế hoạch dự phòng khi AI thất bại; (5) Đầu tư vào quản trị AI và đào tạo nhân viên.

Ảnh: Beyzanur K. / Pexels