四川
7月7日，聯合國秘書長安東尼奧·古特雷斯在日內瓦首屆人工智能治理全球對話上說出了那句話："有些決定必須永遠保持人性，沒有比奪走人的生命更甚的了。"
他呼吁聯合國193個成員國單方面禁止在戰場上使用人工智能武器，并將這類技術的研發定性為"在道德上令人反感"。
這不是古特雷斯第一次發出這樣的警告。早在2023年，他就已經敦促各國政府在2026年前談判達成一項具有法律約束力的條約，限制乃至禁止完全自主的致命武器系統。兩年過去，不僅條約沒有著落，各主要軍事大國的自主武器項目反而在加速推進。
在AI武器問題上，世界正處于一個奇特的分裂狀態。
一邊是越來越密集的道德警告。古特雷斯的立場得到了教宗良十四世的明確呼應，后者在近期發表的通諭中寫道，人工智能在戰爭中的開發和使用"必須受到最嚴格的倫理約束"，以避免各國陷入競相開發此類武器的軍備競賽。聯合國大會此前也已有152個國家投票支持一項關于規范致命自主武器的決議，這一數字本身展示了國際社會的廣泛共識。
另一邊是無法被道德聲明阻止的現實邏輯。支持者認為，自主武器可以在高強度戰斗中輔助人類決策，并降低平民被誤傷的概率，因為AI系統在理論上可以比人類更快、更準確地區分戰斗人員與非戰斗人員。更有力的一個論點是"道德義務論"：如果中國、俄羅斯和伊朗都在開發自主武器且不受任何約束，美國選擇單方面克制，在道義上反而是對盟友和本國公民的不負責任。
這個邏輯在華盛頓擁有相當大的市場。特朗普政府上個月發布的一份國家安全備忘錄，明確指責此前幾屆政府在AI武器研發上設置了"不必要的官僚主義"障礙，同時強調美國的競爭對手"繼續開發和部署他們自己的人工智能和復雜的自主技術，在使用這些技術時幾乎不顧及適當的人工監督"。
這場爭論在科技行業內部同樣制造了深刻的裂痕。
Anthropic是目前這場拉鋸戰中最引人注目的案例。今年早些時候，該公司與美國戰爭部就其AI系統能否用于國內監控和自主武器展開爭論，Anthropic堅決拒絕了這兩種用途，結果被戰爭部長皮特·赫格塞斯列為"供應鏈風險"，即正式認定其技術對國家安全構成威脅。這是美國科技公司被貼上這一標簽的首例，Anthropic目前正通過法律途徑爭取撤銷這一認定。
這不是硅谷第一次在軍事合作問題上內部分裂。2018年，數千名谷歌員工聯名抗議公司參與五角大樓的Maven項目，最終迫使谷歌退出了相關合同。微軟因向美國陸軍提供用于作戰訓練的HoloLens頭顯而遭遇類似的內部抵制。但那時討論的還是相對邊緣的軍事輔助工具，而現在擺在桌面上的，是能夠自主選擇并攻擊目標、無需任何人類干預的武器系統。
問題的本質已經不同了。
安全倡導者最擔憂的并不是一個運行良好的自主武器系統，而是一個運行失控的系統。當前推動美中AI軍備競賽的動態邏輯，可能在不遠的將來催生出決策過程對制造者完全不透明的武器，一旦部署，將難以被人類有效介入和制止。
古特雷斯把這個風險描述得很直接：這種情況可能比最黑暗的反烏托邦小說所能想象的還要糟糕得多。這不是在制造恐慌，而是在提醒我們，科幻電影里的噩夢之所以令人不安，恰恰是因為它們描述的邏輯終點，與我們現在正在走的路，在方向上并無本質區別。
禁令能否落地，目前仍是未知數。但這場對話本身，或許已經是阻止某種更糟糕結果的最后窗口之一。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
