Một tương lai nơi các tác nhân trí tuệ nhân tạo (AI agent) giao tiếp với nhau đang đến gần. Theo Anshuman Chhabra, trợ lý giáo sư tại Bellini College of Artificial Intelligence, Cybersecurity and Computing thuộc Đại học South Florida (USF), agentic AI là ranh giới tiếp theo của các mô hình học máy. Các tác nhân này sẽ có khả năng tự động hành động thay cho người dùng, từ viết email, đặt bàn ăn tối đến viết mã cùng lập trình viên. Khi các tác nhân tương tác với nhau, nhu cầu về một khuôn khổ tương tác tốt hơn và mạnh mẽ hơn trở nên cấp thiết.

Phân loại mối đe dọa và cơ hội từ agentic AI

Bài báo gần đây của Chhabra, “Agentic AI Security: Threats, Defenses, Evaluation, and Open Challenges,” đăng trên IEEE Access, đã phác thảo một hệ thống phân loại các mối đe dọa từ agentic AI cũng như các cơ hội để cải thiện lòng tin và an toàn. Chhabra muốn tìm cách điều phối sự hợp tác tốt hơn giữa các mô hình trong khi vẫn đảm bảo dữ liệu bí mật được riêng tư và an toàn. Với tư cách là người đứng đầu Phòng thí nghiệm PALM (Pioneering Advancements in Learning Methods) tại Bellini College, ông tập trung vào việc tăng cường lòng tin và an toàn của các mô hình học máy, đồng thời ứng dụng các mô hình này trong các lĩnh vực liên ngành.

Lòng tin và an toàn AI liên quan đến mục tiêu về khả năng giải thích (interpretability), nghĩa là con người có thể hiểu được cách thức và lý do mô hình đưa ra một quyết định hoặc đầu ra cụ thể. “Công việc của tôi tìm cách mô tả luồng thông tin trong các mô hình AI này để hiểu điều gì thúc đẩy chúng bên trong,” Chhabra nói. “Chúng tôi muốn thấy các hành vi có vấn đề là gì và làm thế nào để cải thiện chúng bằng cách thực hiện 'phẫu thuật' trên các mô hình.”

Rủi ro cao hơn trong y tế và an ninh mạng

Rủi ro của agentic AI cao hơn so với các chatbot truyền thống không có tính tự chủ, đặc biệt trong các lĩnh vực như y tế hay an ninh mạng. Các tác nhân thực hiện nhiệm vụ thay mặt người dùng có thể mắc lỗi, chẳng hạn như vô tình gây hiểu lầm cho bác sĩ về chẩn đoán hoặc xóa tệp trong các kho mã hạn chế, dẫn đến sự cố hệ thống. “Tại thời điểm này, người dùng nên cho rằng các tác nhân dễ thất bại hơn theo những cách mà con người có thể không mắc phải, do nhu cầu về trách nhiệm giải trình trong xã hội loài người,” Chhabra nhận định.

Khi các tác nhân ngày càng hội nhập vào xã hội, lý tưởng nhất là chúng sẽ đi theo xu hướng trong lịch sử công nghệ và trở nên an toàn hơn khi các rào cản hiệu quả hơn được phát triển. Chhabra chỉ ra dây an toàn, vốn được giới thiệu nhiều thập kỷ sau khi ô tô được phát minh. Tương tự, ông ủng hộ một khung quản trị nhiều tầng cho các tác nhân AI, xem xét các rủi ro như ảo giác (hallucinations) và lỗi suy luận. Theo cách tiếp cận đó, các hệ thống tự động nhất sẽ phải chịu sự giám sát lớn nhất, vì AI hoàn toàn tự động chưa sẵn sàng cho việc sử dụng rộng rãi.

“Chúng ta đang thiếu các hệ thống có thể kiểm toán một cách hoàn hảo đối với các tác nhân này, hiểu tại sao chúng đưa ra quyết định,” ông nói. “Các tác nhân nên hỏi liệu có nên tiếp tục trong các quyết định rủi ro cao hay không. Đây cũng là lý do tại sao việc có các mô hình AI mã nguồn mở là quan trọng, vì chúng có thể thúc đẩy tiến độ nghiên cứu trên các mặt trận này.”

Ứng dụng AI vượt ra ngoài an ninh

Nghiên cứu của Chhabra có các ứng dụng liên ngành. Phần lớn học máy có thể được sử dụng để cải thiện mô hình hóa trong các lĩnh vực khác. Ông tin rằng trách nhiệm thuộc về các nhà khoa học máy tính để đưa công nghệ đến các ngành khác. Là một phần của điều đó, ông hợp tác với các nhà nghiên cứu trên khắp nước Mỹ.

Các ví dụ bao gồm mô hình dự đoán độ sâu lũ lụt, được thúc đẩy bởi việc ông đến USF trong mùa bão và chứng kiến cảnh tượng thiệt hại cho cộng đồng. Sử dụng dữ liệu mạng xã hội, các phép đo thủy văn và thống kê, Chhabra và nhóm của ông đang xây dựng AI có thể hoạt động trong các miền không gian và thời gian để hiển thị dự đoán độ sâu lũ lụt theo thời gian thực.

Một dự án khác đã nén các mô hình AI xuống còn một nửa kích thước mà không giảm hiệu suất đáng kể, với các ứng dụng tiềm năng trong các thiết bị nhỏ như máy trợ thính hỗ trợ AI. “Chúng tôi làm việc với giảng viên USF trong lĩnh vực khoa học và rối loạn giao tiếp,” Chhabra nói. “Tại một buổi hòa nhạc, máy trợ thính nên hoạt động khác với ở nhà, hoặc tại một bữa tiệc trong khi trò chuyện. Thiết bị trợ thính cần thích ứng với ý định giao tiếp của người nghe. Máy trợ thính hiện tại không tính đến sự biến đổi này.”

Với giảng viên từ Đại học California, Davis, Chhabra và sinh viên của ông làm việc về kiểm duyệt nội dung trên mạng xã hội có thể bảo vệ người dùng trên YouTube hoặc TikTok khỏi nội dung có hại. Để làm điều đó, họ sử dụng các mô hình có thể hoạt động trên video ở quy mô lớn và cung cấp lý do chi tiết cho quyết định về an toàn, đồng thời phân bổ sức mạnh tính toán một cách thích ứng và hiệu quả tùy thuộc vào độ phức tạp của video.

“An toàn và đổi mới là bổ sung cho nhau,” ông nói. “Cách các mô hình được thiết kế với quy mô ngày càng tăng, việc hiểu điều gì đang xảy ra khi mô hình đưa ra quyết định trở nên khó khăn hơn. Chúng tôi đã có một số thành công, nhưng nó vẫn là một vấn đề nghiên cứu khó khăn, và đó là điều khiến tôi hào hứng nhất.”

Theo University of South Florida

Ảnh: Pavel Danilyuk / Pexels