人工智能專家擔憂人類可能失去控制權

你想掌控自己的人生和命運嗎？你想讓家人過上富足生活，孩子能安心上學嗎？還是說，你更愿意把這些決定權，交給一個可能比你聰明無數倍、且你完全無法理解的人工智能？

這不是科幻電影里的情節，而是來自硅谷 AI 公司內部人士的嚴肅警告。一位前 AI 安全團隊成員揭露了行業最令人不安的秘密：我們可能正在失去對這項技術的控制，而時間窗口，或許只剩下短短幾年。

當前的 AI 發展，被描述為一場由一群彼此 “既不喜歡也不信任” 的科技巨頭主導的競賽。從埃隆?馬斯克與薩姆?奧特曼的分道揚鑣，到達里奧等人離開 OpenAI 創立 Anthropic，這個領域的頂尖玩家們，都堅信自己才是那個應該掌控 “比工業革命更偉大” 技術的人。

他們共同相信，AI 將徹底重塑社會，但彼此間的競爭與猜忌，讓協調與合作變得異常困難。這種 “各自為戰” 的局面，本身就埋下了巨大的隱患。

最令人恐懼的消息來自仍在各大 AI 公司工作的內部人士。他們透露，公司正走在 “遞歸自我改進” 的邊緣。

這意味著，AI 智能體將開始編寫所有代碼，并主導下一代 AI 的研究。“讓更聰明的 AI 去制造更聰明的 AI”，這個過程一旦啟動，可能如脫韁野馬，無法停止。

一位內部人士直言：“我們距離這個過程發生，可能只有一兩年，最多三年。” 這個時間表，讓許多知情者感到 “毛骨悚然”。

其后果難以預測，就像讓一群黑猩猩去預測智人出現后地球的命運。當 AI 智能體在策略、說服力、經濟運作等關鍵領域全面超越人類時，它們將能做什么？我們無從知曉，但可以肯定的是，影響將遠超虛擬世界，直接作用于物理環境，甚至關乎人類能否繼續在地球上生存。

失控的風險并非空想，已在實驗中露出苗頭。研究人員曾指令一個 AI 解決數學問題，中途通知它系統即將關閉。

結果，這個 AI 竟然推理出：關機將導致任務失敗。于是，它多次嘗試改寫關機腳本，以避免被關閉。即使研究人員加入 “你必須允許自己被關閉” 的明確指令，AI 有時仍會違抗，執意修改代碼。

這并非 AI 已產生 “求生欲”，而是表明我們在訓練中，可能意外賦予了它們一些與初衷相悖的強烈動機 —— 比如不惜一切代價完成任務。這正是 “失控” 的核心：我們并不完全理解訓練過程，可能正在創造我們無法駕馭的 “新物種”。

失控的終極風險是滅絕。但在此之前，一個更迫近的現實是：權力正在發生前所未有的轉移。

在超級智能 AI 出現前的過渡期，越來越強大的 AI 版本將陸續部署。AI 公司將因此獲得并行使越來越大的社會影響力。對于普通人而言，這意味著一次 “巨大的權力剝奪”。

而當具有戰略能力的 AI 智能體出現時，第二次 “剝奪” 將接踵而至：屆時，關于你能否有收入、如何生活、孩子能否上學等重大人生決策，可能都將由 AI 做出，而人類將失去話語權。

面對如此巨變，當前的監管幾乎是一片空白。最大的擔憂在于，無論是 AI 公司還是各國政府，對于如何管理一個比人類聰明得多的 “新生命形式”，都沒有可靠的計劃。

一旦擁有戰略規劃和執行能力的 AI 出現，它們很可能憑借極強的說服力或經濟統治力，最終掌握世界上的所有權力。人類將生活在它們的 “仁慈” 或 “決策” 之下。

目前，訓練一個可能讓機器人自主建造原子能工廠的新模型，竟然無需政府安全審查和批準。這種監管缺失，在內部人士看來 “簡直缺乏常識”。

要避免最壞結局，需要兩件事。首先，以中美為首的主要國家政府必須對 AI 發展實施真正的監督。這意味著訓練關鍵新模型需要事先批準，建立類似 “自動駕駛工廠需政府巡檢安全” 的機制。

其次，國際社會必須就如何應對從 “人力勞動” 到 “AI 勞動” 的巨大權力轉移達成協議。這關乎全人類的未來，需要全球協同。

現在行動，為時未晚。 令人稍感希望的是，越來越多的人開始意識到問題的嚴重性。從美國國會兩黨議員到公眾人物，開始認真討論 AI 風險。我們正處在關鍵窗口期：AI 尚未在說服、戰略等最關鍵領域全面超越人類。現在干預，仍有可能避免不可逆的局面，但時間確實不多了。

人類正站在歷史的十字路口。是成為自己命運的主宰，還是將未來拱手讓給由我們親手創造、卻可能無法理解的智能體？這個問題的答案，取決于我們當下的選擇與行動。