Meta vừa công bố tính năng mới: từ ngày 16/07/2026, phụ huynh sẽ nhận được thông báo nếu con em họ (thanh thiếu niên) trò chuyện với chatbot Meta AI về chủ đề tự tử hoặc tự hại. Công ty cũng đang phát triển khả năng liên hệ dịch vụ khẩn cấp nếu nội dung hội thoại cho thấy người dùng có nguy cơ tự hại.

Hệ thống AI chuyên biệt phát hiện nội dung nhạy cảm

Meta cho biết đã xây dựng một hệ thống AI riêng để xác định các cuộc trò chuyện trong đó thanh thiếu niên đề cập rõ ràng đến việc làm hại bản thân. Trong bài đăng trên blog, Meta viết: “Chúng tôi hiểu những cảnh báo này có thể gây đau buồn cho phụ huynh khi nhận được. Đó là lý do, khi chúng tôi tiếp tục cải thiện khả năng phát hiện, tất cả các cuộc trò chuyện được AI đánh dấu sẽ được xem xét thủ công trước khi gửi cảnh báo. Nếu ý định của thanh thiếu niên không rõ ràng, chúng tôi sẽ thận trọng và cảnh báo phụ huynh. Điều này có nghĩa đôi khi chúng tôi có thể thông báo cho phụ huynh khi không có lý do thực sự đáng lo ngại, nhưng chúng tôi cho rằng đây là điểm khởi đầu đúng đắn và sẽ tiếp tục theo dõi để đảm bảo chúng tôi đi đúng hướng.”

Triển khai tại nhiều quốc gia, mở rộng toàn cầu

Cảnh báo này hiện đã có hiệu lực cho phụ huynh sử dụng tính năng Giám sát của phụ huynh (Parental Supervision) trên Instagram tại Mỹ, Anh, Australia và Canada. Meta cho biết sẽ triển khai toàn cầu vào cuối năm 2026. Tính năng mới này bổ sung cho các cảnh báo mà Meta đã gửi tới phụ huynh khi thanh thiếu niên liên tục tìm kiếm các thuật ngữ về tự tử hoặc tự hại trên Instagram, cũng như tính năng cho phép phụ huynh xem các chủ đề mà con họ đã thảo luận với Meta AI trong tuần qua.

Mở rộng chế độ hạn chế nội dung cho Meta AI

Meta cũng thông báo rằng cài đặt “Nội dung hạn chế” (Limited Content) – vốn cho phép phụ huynh đặt trải nghiệm hạn chế hơn cho thanh thiếu niên trên Instagram – nay được áp dụng cho cả Meta AI. Meta AI vốn đã được huấn luyện để tránh các cuộc trò chuyện tình dục, lãng mạn hoặc liên quan đến rượu với thanh thiếu niên. Cài đặt Nội dung hạn chế mở rộng các biện pháp bảo vệ này bằng cách yêu cầu chatbot từ chối một loạt các lời nhắc rộng hơn. Meta không nêu rõ những lời nhắc bổ sung đó là gì, nhưng TechCrunch đã yêu cầu công ty cung cấp thêm thông tin.

Liên hệ dịch vụ khẩn cấp khi phát hiện nguy cơ tự tử

Ngoài ra, Meta cho biết sẽ liên hệ với dịch vụ khẩn cấp nếu cuộc trò chuyện của bất kỳ ai (dù là người lớn hay thanh thiếu niên) với Meta AI cho thấy người đó có nguy cơ tự tử. Đáng chú ý, Meta đã thực hiện bước này khi ai đó đăng nội dung trên Facebook hoặc Instagram cho thấy họ có nguy cơ, do đó động thái mới mở rộng thực hành tương tự sang các cuộc trò chuyện với chatbot.

Những thay đổi này diễn ra trong bối cảnh Meta và các công ty công nghệ khác đang phải đối mặt với sự giám sát từ các cơ quan quản lý và phụ huynh về cách chatbot AI phản hồi người dùng trong tình huống khủng hoảng, đặc biệt là thanh thiếu niên – một vấn đề trách nhiệm pháp lý ngày càng định hình cách các công ty AI thiết kế và tiếp thị sản phẩm của họ.

Theo TechCrunch

Ảnh: Alexandra_Koch / Pixabay