Trong bối cảnh chiến tranh hiện đại, trí tuệ nhân tạo (AI) đang thay đổi cách các cuộc xung đột được tiến hành, từ máy bay không người lái tự động đến hệ thống chỉ huy và kiểm soát dựa trên AI. Tuy nhiên, câu hỏi cốt lõi không chỉ là độ tin cậy của các hệ thống này mà còn là liệu chúng có thể xử lý các hậu quả đạo đức từ quyết định của mình hay không. Vào ngày 28/2, ngày đầu tiên của cuộc chiến Mỹ-Israel chống Iran, hệ thống Maven Smart System (MSS) của Palantir đã giúp tấn công hơn 1.000 mục tiêu, trong đó có một trường tiểu học Iran ở Minab khiến hơn 150 người thiệt mạng, phần lớn là trẻ em. Bốn tháng sau, cuộc điều tra của Lầu Năm Góc vẫn bị đình trệ, với các thượng nghị sĩ yêu cầu câu trả lời và Bloomberg đưa tin rằng lỗi bắt nguồn từ thông tin tình báo vệ tinh lỗi thời.
Sự trỗi dậy của AI trên chiến trường
Chi tiêu quân sự toàn cầu tăng 2,9% trong năm ngoái lên 2,87 nghìn tỷ USD. Trong đó, chi tiêu cho AI trong quân sự được dự báo tăng từ 11,7 tỷ USD lên gần 19,3 tỷ USD vào năm 2030. Vào tháng 4, chính quyền Tổng thống Mỹ Donald Trump đề xuất 1,5 nghìn tỷ USD chi tiêu quốc phòng cho năm tài chính bắt đầu từ tháng 10 để xây dựng một “quân đội trong mơ” và đẩy nhanh quá trình chuyển đổi từ tổ hợp công nghiệp-quân sự truyền thống sang tổ hợp công nghệ-quân sự. Lầu Năm Góc đặt mục tiêu trở thành “lực lượng chiến đấu ưu tiên AI”, nén vòng lặp OODA (quan sát, định hướng, quyết định, hành động) – mô hình ra quyết định do Đại tá Không quân Mỹ John Boyd phát triển, dựa trên tiền đề rằng ai di chuyển nhanh hơn qua các quyết định sẽ chiến thắng. Động lực thúc đẩy tốc độ là Project Maven, nền tảng AI tình báo hàng đầu của Palantir, kết hợp với Claude của Anthropic, được xây dựng để cung cấp bức tranh chiến trường theo thời gian thực.
Cách Maven Smart System hoạt động
Trong các cuộc xung đột trước đây như chiến tranh Iraq và Afghanistan những năm 2000, các nhà phân tích theo dõi mạng lưới đối phương bằng bảng tính Excel và slide PowerPoint, trong khi chuỗi tiêu diệt dựa vào hồ sơ in ấn do các quan chức cấp cao phân tích. Các quy trình này mất nhiều thời gian. Trong Chiến dịch Epic Fury (cuộc chiến hiện tại của Mỹ chống Iran), Maven được sử dụng để xử lý hàng nghìn cuộc tấn công trong vài phút. Theo Đô đốc Brad Cooper, người đứng đầu Bộ Tư lệnh Trung tâm Mỹ, các mốc thời gian từng mất hàng giờ hoặc nhiều ngày đã được nén xuống chỉ còn vài giây. Project Maven ra mắt năm 2017 với tên gọi Nhóm Chức năng Chéo Chiến tranh Thuật toán (AWCFT), sử dụng AI và học máy để tự động phân loại khối lượng lớn cảnh quay từ máy bay không người lái và giám sát mà quân đội thu thập nhưng không thể phân tích đầy đủ – từ xác định và ưu tiên mục tiêu đến chọn vũ khí phù hợp và cuối cùng đánh giá thiệt hại. Google đã xây dựng các mô hình thị giác máy tính để phân tích cảnh quay, nhưng rút lui vào năm 2018 sau khi hơn 4.000 nhân viên ký đơn phản đối. Hiện nay, hơn 20.000 nhân viên quân sự Mỹ sử dụng Maven trên 35 công cụ phần mềm quân sự và ba lĩnh vực bảo mật, theo Phó Đô đốc Frank Whitworth, giám đốc Cơ quan Tình báo Địa không gian Quốc gia. Hệ thống thu thập dữ liệu từ hơn 150 nguồn như vệ tinh, chòm radar thương mại, video drone, tình báo tín hiệu (SIGINT), phát xạ vô tuyến, định vị địa lý mạng xã hội và báo cáo hiện trường. Khi được xác định, mục tiêu di chuyển qua một quy trình kỹ thuật số mô phỏng chuỗi tiêu diệt quân sự: tìm, cố định, theo dõi, nhắm mục tiêu, tấn công, đánh giá (F2T2EA), mang theo tọa độ, nguồn tình báo, đánh giá rủi ro và phê duyệt pháp lý ở mọi giai đoạn. Một hệ thống AI đề xuất vũ khí và đạn dược dựa trên khoảng cách và sự phù hợp. Claude của Anthropic, tích hợp qua nền tảng Palantir, cho phép người vận hành truy vấn hệ thống bằng ngôn ngữ tự nhiên. Anthropic là công ty AI “tiên phong” đầu tiên triển khai mô hình của mình trên các mạng bảo mật mà Maven chạy. Tuy nhiên, căng thẳng bùng phát vào tháng 3 khi Lầu Năm Góc đưa Anthropic vào danh sách đen và coi là “rủi ro chuỗi cung ứng” sau khi họ từ chối nới lỏng các hạn chế của Claude đối với vũ khí tự động và giám sát, khiến Anthropic kiện chính phủ.
Loại bỏ người ra quyết định
Theo Bộ Quốc phòng Mỹ, không có vũ khí AI nào hoàn toàn tự động và luôn yêu cầu sự cho phép của con người. Đô đốc Cooper cho biết vào tháng 3: “Con người sẽ luôn đưa ra quyết định cuối cùng về việc bắn gì, không bắn gì và khi nào bắn, nhưng các công cụ AI tiên tiến có thể biến các quy trình từng mất hàng giờ, thậm chí nhiều ngày thành vài giây.” Tuy nhiên, một số học giả không yên tâm vì chính lý do này. Elke Schwarz, giáo sư lý thuyết chính trị tại Đại học Queen Mary London và tác giả cuốn sách Death Machines: The Ethics of Violent Technologies, nói với Al Jazeera: “Có một sự căng thẳng tiềm ẩn trong nhiệm vụ cân nhắc đạo đức – cân nhắc đạo đức, pháp lý – vốn cần thời gian và đòi hỏi một cách suy nghĩ khác về hành động. Bạn đang nói: chúng ta sẽ hy sinh một quy trình cân nhắc chặt chẽ hơn để đổi lấy tốc độ và quy mô.”
Liệu AI quân sự có thể đưa ra quyết định đạo đức?
Câu hỏi sâu xa hơn là liệu AI, về nguyên tắc, có thể tái tạo lý luận đạo đức hay không. Schwarz khẳng định điều đó là không thể, không phải vì thiếu các mô hình ngôn ngữ lớn (LLM) tinh vi. Lý thuyết chiến tranh chính nghĩa được phát triển vì những gì đang bị đe dọa trong các quyết định sử dụng vũ lực gây chết người. Schwarz nói: “Đạo đức là một thực hành xã hội. Nó dựa trên thực tế rằng chúng ta coi trọng sự tổn thương của nhau và tin tưởng nhau không vi phạm điều đó trừ khi hoàn cảnh bắt buộc. Một hệ thống là một hệ thống tính toán. Nó không có khái niệm về ý nghĩa của cuộc sống con người. Nó không có khái niệm về tang tóc, đau khổ.” Schwarz bác bỏ việc nói về AI tác nhân – hệ thống có khả năng thực hiện nhiệm vụ bán tự động với sự giám sát hạn chế – “thể hiện” sự sợ hãi hay cảm xúc như một chiêu trò tiếp thị, thay vào đó khẳng định rằng “vật lộn với các nguyên tắc” và nghi ngờ, và “cân nhắc bao nhiêu mạng sống đang bị đe dọa” không thể đơn giản được lập trình vào một hệ thống.
Sự cần thiết của kiềm chế
Các nhà phân tích cho rằng có rủi ro thực sự trong AI quân sự, khi các đầu ra nghe có vẻ hợp lý nhưng lại sai, dựa trên dữ liệu không đầy đủ, lỗi thời hoặc bị hỏng – loại thất bại được cho là đã dẫn đến cuộc tấn công sai lầm của Maven vào trường tiểu học Minab ở Iran. Tỷ lệ lỗi thực tế của Maven chưa được tiết lộ, nhưng các ước tính cho thấy hệ thống kém tin cậy hơn nhiều so với Lầu Năm Góc tuyên bố. Schwarz nói rằng các mô hình ngôn ngữ lớn đơn giản không nên được sử dụng để nhắm mục tiêu, vì chúng chắc chắn sẽ ảo giác và góp phần gây thương vong dân sự. The Intercept đưa tin vào thứ Hai rằng Lầu Năm Góc đã cắt giảm Trung tâm Xuất sắc Bảo vệ Dân sự từ 40 nhân viên xuống còn 9, đồng thời dựa vào các công cụ AI, bao gồm một công cụ xây dựng trên Maven Smart System, để tăng tốc đánh giá thiệt hại dân sự. Nghiên cứu từ Viện Phát triển Con người Max Planck lưu ý rằng việc ủy thác nhiệm vụ cho AI tạo ra khoảng cách đạo đức khiến mọi người sẵn sàng tham gia vào hành vi mà họ sẽ không tự làm, vì AI có thể tạo ra vẻ hợp pháp, với các biện pháp bảo vệ hiện có không ngăn chặn được nhiều. Schwarz nói: “Giả vờ rằng một hệ thống AI có thể là người ra quyết định đạo đức, đối với tôi, cấu thành sự thoái thác nhiệm vụ độc nhất vô nhị của con người – cân nhắc, hiểu trọng lượng, cảm nhận trọng lượng của một quyết định khó khăn về mặt đạo đức mà một người có thể phải chịu trách nhiệm.”
Liệu AI có thể khiến quân đội phi đạo đức hành động có đạo đức?
Ngược lại, câu hỏi đặt ra là liệu AI có thể thực tế kiềm chế các quân đội kém đạo đức hơn bằng cách áp đặt sự kiềm chế từ trên xuống. Năm 2024, tạp chí +972 Magazine và tờ Local Call đưa tin rằng quân đội Israel đã xác định và cô lập hàng nghìn người Palestine làm mục tiêu ném bom tiềm năng bằng hệ thống nhắm mục tiêu hỗ trợ AI có tên Lavender. Tỷ lệ lỗi ước tính khoảng 10%. Các chuyên gia nhân quyền và học giả pháp lý cảnh báo thực hành này có nguy cơ vi phạm luật nhân đạo quốc tế, với sự giám sát của con người trong một số trường hợp chỉ còn vài giây trước khi cuộc tấn công được phê duyệt. Schwarz cũng hoài nghi về khả năng AI kiềm chế quân đội: “Nếu một quân đội có hệ thống mở rộng quy mô và tăng tốc bạo lực mà họ muốn thực hiện, họ sẽ không từ bỏ quyền lực cho một hệ thống nói 'không, bạn không nên làm điều đó'. Đã có một vấn đề đang diễn ra cần được giải quyết trước. Một hệ thống AI sẽ không hoạt động như một người ra quyết định đạo đức đối với một con người phi đạo đức.”
Theo Al Jazeera
Ảnh: 12019 / Pixabay
