Quy định mới với chatbot và mạng xã hội
Chatbot đồng hành là ứng dụng AI trò chuyện đóng vai bạn bè hay người thân với người dùng. Theo Văn phòng Thống đốc, luật mới buộc sản phẩm này có quy trình xử lý khủng hoảng khi trẻ có ý nghĩ tự tử, có công cụ kiểm soát cho cha mẹ và báo cho cha mẹ nếu trẻ tắt cài đặt an toàn. Doanh nghiệp còn phải thực hiện kiểm toán an toàn trẻ em độc lập và đánh giá rủi ro hằng năm.
Với mạng xã hội, luật cấm cung cấp tính năng gây nghiện như tự phát video tiếp theo và bảng tin đề xuất theo lịch sử, hồ sơ người dùng cho trẻ dưới 16 tuổi. Luật SB 867 cũng đặt quy định riêng cho đồ chơi tích hợp chatbot đồng hành.
Bảo vệ dữ liệu và nội dung liên quan trẻ em
Gói luật bảo vệ trẻ khỏi quảng cáo nhắm mục tiêu và quản lý việc dùng dữ liệu học sinh phổ thông trong hệ thống AI. Phạm vi tội bóc lột tình dục trẻ em được mở rộng sang nội dung chỉnh sửa số hoặc do AI tạo ra. Các nền tảng có người dùng nhỏ tuổi tại California sẽ phải điều chỉnh sản phẩm theo các quy định này.