科技日報記者?劉霞

《自然》網站在近日的報道中指出，由人工智能（AI）加持的致命自主武器已經到來，AI可能會幫助它們攻擊特定目標。研究人員、法律專家和倫理學家正努力解決如何在戰場上使用這些武器的問題。

美國空軍的X-62A VISTA飛機已測試通過AI進行先進空中機動的能力。
圖片來源：《自然》網站

AI增強武器性能

自主武器至少已經存在了幾十年，如熱追蹤導彈，但AI算法的開發和使用正在擴展其能力。

研究人員指出，AI擁有卓越的處理和決策技能，理論上具有顯著優勢。在快速圖像識別的年度測試中，近十年來算法的表現一直優于人類專家。例如，去年一項研究表明，AI能比人類專家更快發現論文中重復出現的圖像。此外，在2020年，一個AI模型在一系列模擬混戰中擊敗了一名經驗豐富的F-16戰斗機飛行員，這要歸功于“該AI模型具有人類飛行員無法匹敵的精確操作”。

這預示著，包括AI無人機在內的致命自主武器正進入研發快車道。

2023年3月，一名士兵準備用無人機攜帶手榴彈作戰。
圖片來源：《自然》網站

美國國防部已為“復制者”計劃撥款10億美元。2023年8月28日，美國國防部副部長凱瑟琳·希克斯宣布了“復制者”計劃，其目標是在未來18—24個月內生產、交付和部署數千個無人作戰系統。使用AI實現自動駕駛和射擊的實驗性潛艇、坦克和艦艇已經問世，商用無人機也可以使用AI圖像識別功能瞄準目標并將其炸毀。

美國戰略與國際研究中心安全分析師扎克·卡倫伯恩指出，AI武器很容易鎖定紅外或強大的雷達信號，并將其與數據庫進行比較以輔助決策。這意味著，當AI武器在戰場上檢測到來襲雷達信號的來源時，可在幾乎不傷害平民的情況下進行射擊。AI無人機也可就飛離對手的距離和攻擊角度作出非常復雜的決定。

用于戰場引爭議

AI增加了致命自主武器的速度和規避防御的能力。一些觀察人士擔心，未來任何集團都可派遣大批廉價的AI無人機前往戰場，使用面部識別技術消滅目標對象。

理論上，AI還能用于戰爭的其他方面，如編制潛在目標清單。有媒體報道稱，以色列使用AI創建了一個包含數萬名疑似武裝分子姓名的數據庫。不過，以色列軍方對此進行了否認。

2017年，美國加州大學伯克利分校計算機科學家、著名反AI武器活動家斯圖爾特·拉塞爾幫助制作了名為“殺戮機器人”的視頻，突出了將AI用于戰爭可能帶來的風險。視頻展示了在不久的將來，配備面部識別系統的微型無人機裝配炸藥，成為恐怖的“AI殺手”。它們能鎖定并殺死目標或攻擊特定人群，如穿著制服的人。

AI在戰場上出現，引發了研究人員、法律專家和倫理學家的爭論。

一些人認為，AI輔助武器可能比人類引導的武器更精確，能減少死亡和致殘士兵人數，減輕附帶傷害，如平民傷亡和對居民區的破壞，同時幫助弱勢國家和群體自衛。另一些人則強調，這些AI加持的自主武器可能會犯下災難性錯誤。

而卡倫伯恩認為，主要問題不在于技術本身，而在于人類如何使用這項技術。

亟待制訂相關規則

多年來，研究人員一直在努力控制這種AI增強武器可能帶來的威脅，聯合國已經邁出了至關重要的一步。

2023年7月，聯合國安理會討論了AI增強武器的問題。
圖片來源：《自然》網站

去年12月，聯合國一項決議將致命自主武器列入今年9月聯合國大會議程。聯合國秘書長安東尼奧·古特雷斯去年7月表示，他希望2026年前禁止可在沒有人類監督情況下使用的武器。

專家認為，此舉為各國對AI武器采取行動提供了一條現實途徑。但說起來容易做起來難，部分原因在于各國對法律的實際內容缺乏共識。2022年的一項分析發現，“自主武器”至少有十幾個定義。

拉塞爾說，這些定義范圍很廣，并沒有達成共識。例如英國認為，致命自主武器“能夠理解更高層次的意圖和方向”；德國則將“自我意識”視為自主武器的必要屬性，而大多數研究人員認為現在的AI遠未獲得這種能力。

卡倫伯恩表示，任何關于致命自主武器的禁令都很難通過檢查和觀察來執行，因為AI很容易隱藏或更改系統狀態。

所有這些問題都將在今年9月的聯合國大會上進行討論。