北京
你有沒有發(fā)現(xiàn)，關(guān)于人工智能的討論變了。過去我們整天關(guān)心它的準(zhǔn)確率有多高、模型有多大、推理能力強(qiáng)不強(qiáng)。現(xiàn)在不一樣了，越來越多的系統(tǒng)開始能自主做推薦、自動(dòng)發(fā)起任務(wù)、協(xié)調(diào)工作流，甚至參與影響決策，人幾乎不需要插手。當(dāng)智能體帶著這樣程度的自主性運(yùn)行時(shí)，一個(gè)更根本的問題浮出水面：什么樣的自主智能，才真正值得信任？
很多討論還停留在“AI有多聰明”。但我看到的情況是，比聰明更重要的，是這套聰明勁兒能不能被妥善地管住。自主智能的未來，不會(huì)僅僅由技術(shù)能力寫就，而要看我們用什么治理框架去塑造它、約束它、監(jiān)督它。我比較認(rèn)同一個(gè)觀點(diǎn)：值得信任的自主智能，得立在三根支柱上——運(yùn)行安全、人工干預(yù)機(jī)制、問責(zé)框架。它們不是各管各的，而是合在一起，才給自主運(yùn)行創(chuàng)造了負(fù)責(zé)任的條件。
先看第一根支柱：運(yùn)行安全。別以為這只是個(gè)工程上的達(dá)標(biāo)項(xiàng)。隨著系統(tǒng)越來越能自己理解語境、自己拿主意，安全早就不再是“部署前一次性驗(yàn)證通過”就萬事大吉了。它變成了一種持續(xù)運(yùn)行的紀(jì)律。真正可信的系統(tǒng)，應(yīng)該能守得住清晰劃定的邊界；能嗅出異常的苗頭和自身的不確定性；當(dāng)遇到它把握不了或權(quán)限不夠的事，會(huì)主動(dòng)上報(bào)而不是硬撐；就算出問題，也能體面地降級，而不是突然崩掉；還得一直默默監(jiān)控自己的運(yùn)行狀態(tài)。缺了這些，增強(qiáng)的自主性不過是放大了的風(fēng)險(xiǎn)。所以運(yùn)行安全不是為了杜絕故障，而是為了保證無論條件怎么變，這份自主始終是靠譜的。
第二根支柱常常被誤解：人工干預(yù)機(jī)制。有人覺得需要留個(gè)人工干預(yù)的按鈕，說明AI還不完善、不可靠。我倒是覺得，這不是技術(shù)的軟肋，而是一種治理設(shè)計(jì)。AI能處理海量信息、發(fā)現(xiàn)規(guī)律、執(zhí)行預(yù)設(shè)職責(zé)，這沒問題。但世界上總會(huì)出現(xiàn)模糊地帶、倫理權(quán)衡、優(yōu)先級沖突或者完全沒見過的突發(fā)狀況，這時(shí)候人的介入就不是可選，而是必須。一個(gè)好的干預(yù)機(jī)制要做到這幾條：人能在任何時(shí)候介入；關(guān)鍵動(dòng)作可以被暫停或重新定向；升級路徑清清楚楚；干預(yù)決策有據(jù)可查。這等于是在機(jī)器智能和人類判斷之間，留下了一條始終暢通的通道。
至于第三根支柱問責(zé)框架，作者把它和前兩點(diǎn)放在一起，分量不言自明。不過原文里還沒來得及展開詳述。可以想見，當(dāng)自主系統(tǒng)真的開始做事，誰來為結(jié)果負(fù)責(zé)、追溯鏈條怎么建、責(zé)任歸屬怎么認(rèn)定，都會(huì)變成繞不開的硬仗。如果沒有這個(gè)兜底，前面的一切安全設(shè)計(jì)和人工保護(hù)都可能懸在半空。
說到底，技術(shù)越強(qiáng)，越需要匹配得上它的治理方式。未來我們能放心交給AI的，不是它們“有多能干”，而是它們做得“有多讓人放心”。這大概才是自主智能能夠走遠(yuǎn)的真正底氣。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號”用戶上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
