Discord đã thừa nhận rằng một lỗi trong hệ thống kiểm duyệt AI đã vô tình cấm hơn 8.000 người dùng trong hai tháng qua, sau khi những hình ảnh vô hại—bao gồm bảng tính, bàn cờ, kết cấu game, cũng như nền trắng và xám trong suốt—bị gắn cờ sai là nội dung độc hại.

Lỗi ảnh hưởng từ tháng 5, thêm 200 người dùng bị cấm cuối tuần

Công ty xác nhận rằng sự cố đã ảnh hưởng đến các tài khoản từ tháng 5, với thêm 200 người dùng bị cấm vào cuối tuần trước khi nhóm kỹ thuật xác định và sửa lỗi. Tất cả tài khoản bị ảnh hưởng hiện đang trong quá trình được khôi phục.

Nguyên nhân: hệ thống AI ghép ảnh với cơ sở dữ liệu nội dung độc hại

Trong một chuỗi bài đăng chi tiết trên X, Discord giải thích rằng hệ thống an toàn tự động của họ hoạt động bằng cách so khớp nội dung tải lên với cơ sở dữ liệu về các tài liệu có hại đã biết. Mặc dù công nghệ này được thiết kế để phát hiện nội dung bất hợp pháp, công ty thừa nhận rằng nó đôi khi có thể tạo ra kết quả dương tính giả. Một người kiểm duyệt con người sẽ xem xét nội dung bị gắn cờ, nhưng một lỗi đã khiến hệ thống lập tức cấm các tài khoản bị ảnh hưởng.

Người dùng bức xúc: mất tài khoản vĩnh viễn vì ảnh lưới ô vuông

Trên X và Reddit, người dùng cho biết họ đã bị cấm vĩnh viễn chỉ vì tải lên những hình ảnh có chứa họa tiết lưới ô vuông. Một số người dùng suy đoán rằng các công cụ kiểm duyệt AI của Discord ngày càng nhạy cảm với các mẫu lưới vì chúng từng được sử dụng để che giấu nội dung NSFW và nội dung xâm hại trẻ em khỏi các hệ thống phát hiện tự động. Những người bị ảnh hưởng bày tỏ sự thất vọng trên mạng xã hội, cho rằng việc cấm tài khoản vĩnh viễn chỉ dựa trên phát hiện tự động có thể gây hậu quả nghiêm trọng, đặc biệt với những người dùng phụ thuộc vào Discord cho công việc, cộng đồng game hoặc kết nối xã hội đường dài.

Discord không đơn độc: Meta và Tumblr cũng gặp vấn đề tương tự

Discord không phải là nền tảng duy nhất gặp rắc rối kiểm duyệt do hệ thống tự động. Năm ngoái, người dùng Instagram và Facebook Groups báo cáo các vụ đình chỉ tài khoản lan rộng không rõ nguyên nhân, nhiều người cho rằng do lỗi AI. Dù người dùng chỉ ra tự động hóa là thủ phạm, Meta chưa bao giờ xác nhận công khai liệu lỗi AI có chịu trách nhiệm hay không. Hiện tại, Hội đồng Giám sát của Meta đang thúc đẩy tăng cường minh bạch. Tumblr năm ngoái cũng hứng chịu khiếu nại từ người dùng khi tài khoản bị đình chỉ hàng loạt mà không có giải thích rõ ràng.

Theo TechCrunch

Ảnh: MR-PANDA / Pixabay