Chuyên gia mới của OpenAI cảnh báo chính phủ độc quyền AI có thể dẫn đến 'kết cục rất đáng sợ'

Cảnh báo về độc quyền chính phủ trong lĩnh vực AI

Dean Ball, cựu Cố vấn Chính sách cấp cao tại Nhà Trắng và hiện là chuyên gia chính sách AI tiên tiến tại OpenAI, đã đưa ra cảnh báo sắc bén về hướng đi của việc giám sát AI tại Mỹ. Trong podcast The Cognitive Revolution của Nathan Labenz, Ball lập luận rằng động thái của chính quyền Trump nhằm phân loại các quy trình kiểm thử AI và tập trung hóa giám sát trong cộng đồng tình báo đang tạo ra 'một tương lai tiềm ẩn rất tồi tệ, nơi quyền truy cập vào các mô hình tiên tiến bị kiểm soát chặt chẽ'.

Ball không mang tính chính trị. Thay vào đó, ông cảnh báo rằng việc chính phủ độc quyền các mô hình AI tiên tiến có thể dẫn đến 'những kết cục rất đáng sợ từ góc độ quyền tự do dân sự'.

Lập trường phi đảng phái

Ball cẩn thận tách biệt chỉ trích của mình khỏi bất kỳ nhãn đảng phái nào. 'Nếu tôi không biết tổng thống là ai, nếu bạn không biết đảng phái, không biết tên... và bạn nói với tôi về điều này, tôi sẽ nói rằng tôi lo ngại về điều đó', ông nói với Labenz. Ông cũng mở rộng lập trường đó với các chính quyền trước đây, lưu ý rằng ông đã chỉ trích Sắc lệnh An ninh mạng khi nó được ký vì chương trình kiểm thử trước khi triển khai tự nguyện sẽ 'chủ yếu được phân loại' và do cộng đồng tình báo điều hành.

'Tăng tốc' cơn hoảng loạn kiểu 2023

Theo Ball, những gì đang diễn ra ở Washington có vẻ quen thuộc. Ông nói rằng chính quyền đang 'tăng tốc' tư duy hoảng loạn về quy định từ mùa xuân năm 2023, được thúc đẩy bởi khoảng 15 người ứng biến chính sách AI mà không có bối cảnh AI sâu sắc. Con số '15 người' là mô tả của ông, không phải số liệu chính thức, và ông dùng nó để nhấn mạnh mức độ tập trung của việc ra quyết định.

Cơ chế khiến ông lo ngại nhất là sự dịch chuyển việc đánh giá mô hình tiên tiến khỏi các cơ quan tiêu chuẩn dân sự và sang bộ máy an ninh quốc gia. Việc xây dựng AI liên bang rất lớn: yêu cầu ngân sách năm tài khóa 2027 của Bộ Chiến tranh bao gồm 58,5 tỷ USD cho Trí tuệ nhân tạo và Chỉ huy và Kiểm soát Liên hợp Toàn miền, với 46,0 tỷ USD dành cho khoản đầu tư bắt buộc nhiều năm vào một Kho vũ khí AI có chủ quyền và triển khai các mô hình AI tiên tiến thông qua nền tảng GenAI.mil của Bộ. Lập luận của Ball là khi một chế độ giám sát nằm trong các cơ quan có quy mô và tính bảo mật như vậy, ranh giới giữa người quản lý và khách hàng có thể mờ nhạt.

Hợp đồng với Anthropic

Ball báo cáo rằng Bộ Chiến tranh dường như đang cắt giảm các hợp đồng với Anthropic, có thể về 0 vào cuối năm, trong khi các cơ quan liên bang khác vẫn tiếp tục sử dụng Anthropic mà không gặp vấn đề gì. Ông coi đây là một điểm dữ liệu đáng theo dõi.

Ông cũng lưu ý rằng NSA, về mặt kỹ thuật là một phần của Bộ Chiến tranh, được cho là đã tôn trọng các ranh giới đỏ của Anthropic về 'giám sát hàng loạt trong nước và vũ khí sát thương tự động', điều mà ông coi là dấu hiệu cho thấy 'một chút mơ hồ là... một phần cố hữu của toàn bộ quá trình này'.

Tác động đến ngành công nghiệp AI rộng lớn hơn

Mối quan tâm của Ball là việc kiểm thử và truy cập vào các mô hình AI tiên tiến nhất có thể dần dần tập trung trong các kênh chính phủ được phân loại. Theo quan điểm của ông, điều đó đặt ra các câu hỏi về quyền tự do dân sự và làm tăng nguy cơ quyền truy cập vào AI tiên tiến bị kiểm soát bởi một số ít tổ chức chính phủ.

Vấn đề này cũng có tác động đến ngành công nghiệp AI rộng lớn hơn. Các công ty đang chi hàng trăm tỷ đô la với giả định rằng các công cụ AI tiên tiến sẽ được triển khai rộng rãi trong nền kinh tế. Nếu quyền truy cập trở nên hạn chế hơn, con đường áp dụng và kiếm tiền có thể trông rất khác.

Ball lập luận rằng các nhà đầu tư và nhà hoạch định chính sách nên chú ý đến ai kiểm soát quy trình kiểm thử và cuối cùng ai có quyền truy cập vào các mô hình tiên tiến.

Theo 24/7 Wall St.

Ảnh: Pavel Danilyuk / Pexels