Theo chuyên gia Kobayashi Yasunori, Giám đốc tại Shōri Strategy & Consulting, việc chỉ xây dựng quy tắc sử dụng generative AI là không đủ để ngăn chặn rủi ro. Doanh nghiệp cần tập trung vào quy trình ứng phó sự cố và vòng cải tiến liên tục, thay vì cố gắng loại bỏ hoàn toàn sự cố. Bất kỳ phương pháp đánh giá và kiểm soát nào cũng không thể lường trước mọi tình huống bất ngờ, do đó việc phát hiện và cải thiện sau sự cố mới là yếu tố then chốt trong quản lý rủi ro AI.

Quy trình ứng phó sự cố generative AI gồm những bước nào?

Quy trình ứng phó sự cố generative AI bao gồm: phát hiện bất thường hoặc vấn đề; tạm dừng sử dụng và khoanh vùng ảnh hưởng; xác nhận dữ liệu tham chiếu, nội dung đầu ra và lịch sử sử dụng; phân tích nguyên nhân; xây dựng biện pháp ngăn ngừa tái diễn; và phản ánh vào quy tắc, đào tạo, thiết kế kiểm soát. Điểm đặc thù của generative AI là không chỉ xử lý các sự cố rõ ràng như rò rỉ thông tin, mà còn phải đối phó với các tình huống mờ như 'sử dụng câu trả lời sai làm kết quả' hoặc 'đầu ra thiếu căn cứ trở thành cơ sở đánh giá'. Nếu bỏ qua những sự cố này, dù không gây ra tai nạn lớn, chúng có thể dẫn đến suy giảm chất lượng công việc và tổn hại uy tín bên ngoài.

Tại sao ứng phó sự cố AI cần sự phối hợp đa phòng ban?

Ứng phó sự cố generative AI không thể chỉ do bộ phận hệ thống thông tin đảm nhiệm. Nó đòi hỏi sự phối hợp giữa các phòng ban nghiệp vụ, pháp lý, bảo mật, tuân thủ, và trong một số trường hợp, cả ban lãnh đạo. Điều quan trọng là phải xác định rõ ai ra quyết định, ai nhận báo cáo, và ai chịu trách nhiệm sửa đổi quy tắc. Mục tiêu cuối cùng là biến sự cố không chỉ là thất bại đơn thuần, mà còn phản ánh vào các tiêu chí đánh giá, biện pháp kiểm soát, đào tạo và hướng dẫn. Quản lý rủi ro AI không phải là một hệ thống tĩnh, mà cần được vận hành để nâng cao độ chính xác và coi như một 'cơ chế quản trị'.

Làm thế nào để thiết kế kiểm soát rủi ro generative AI hiệu quả?

Việc triển khai quản lý rủi ro AI không kết thúc khi xây dựng hướng dẫn. Doanh nghiệp cần đánh giá rủi ro theo từng trường hợp sử dụng (use case), dựa trên các yếu tố: tác động đến nghiệp vụ, tính bảo mật của dữ liệu, phạm vi sử dụng kết quả đầu ra, mức độ dễ dàng xác nhận căn cứ, và khả năng bổ sung bằng con người. Từ kết quả đánh giá, cần thiết kế các biện pháp kiểm soát truy cập, kiểm soát đầu vào, kiểm soát đầu ra, phân chia nhiệm vụ, và kiểm soát môi trường sử dụng. Ngoài ra, phải thiết lập cơ chế human-in-the-loop (con người trong vòng lặp), ghi log, giám sát và ứng phó sự cố để quản lý rủi ro AI vận hành hiệu quả. Yếu tố hỗ trợ việc sử dụng generative AI không phải là sự khắt khe của quy tắc, mà là khả năng thiết kế kiểm soát phù hợp với nghiệp vụ và cải tiến liên tục ở dạng có thể kiểm toán được. Đây chính là năng lực triển khai quản trị dữ liệu trong kỷ nguyên generative AI.

Theo EnterpriseZine

Ảnh: Tara Winstead / Pexels