看清AI不能解決的問題

AI解決復(fù)雜問題的能力取決于若干因素，這些因素可能提高（也可能降低）AI的有效性。其中，最關(guān)鍵的因素包括：是否有可用的高質(zhì)量數(shù)據(jù)、潛在解決方案的數(shù)量、目標(biāo)是否清晰，以及需要適應(yīng)不斷變化的評(píng)判系統(tǒng)。當(dāng)這些要素缺失或定義不清時(shí)，就會(huì)帶來挑戰(zhàn)。

AI的發(fā)展突飛猛進(jìn)，它的潛力能帶來變革，讓研究人員、產(chǎn)品團(tuán)隊(duì)和終端用戶都為之著迷。不過，盡管AI大受歡迎，但它只能解決非常具體的問題。在這篇文章中，我們將提供指導(dǎo)，幫助企業(yè)了解什么問題適合利用AI解決，什么不適合。這樣，當(dāng)企業(yè)面臨的問題與AI所擅長(zhǎng)的能力不一致時(shí)，企業(yè)仍然能找到解決方案，并在克服這些障礙后，找到更多能為企業(yè)和社會(huì)帶來更大利益的AI項(xiàng)目。

我們以谷歌DeepMind為例，DeepMind是Alphabet的AI實(shí)驗(yàn)室，致力于解決現(xiàn)實(shí)世界中極具挑戰(zhàn)性的問題。筆者中的三人（保羅·切爾維尼、基婭拉·法羅納托和馬歇爾·范阿爾斯泰因）從事針對(duì)科技平臺(tái)發(fā)展的學(xué)術(shù)研究，也在多個(gè)領(lǐng)域中對(duì)AI進(jìn)行了創(chuàng)新實(shí)踐，并從中汲取了專業(yè)知識(shí)。除此之外，作者之一的普什米特·科利在谷歌DeepMind工作，擁有第一手經(jīng)驗(yàn)。

以下內(nèi)容可以判斷AI是否適合解決某個(gè)問題，但我們并沒有提供一個(gè)包含所有判斷標(biāo)準(zhǔn)的清單。尤其考慮到，這些判斷標(biāo)準(zhǔn)可能因不同的AI應(yīng)用領(lǐng)域而有所不同。我們最主要的目的是找到最為關(guān)鍵的判斷標(biāo)準(zhǔn)。

AI能解決這個(gè)問題嗎？

AI解決復(fù)雜問題的能力取決于若干因素，這些因素可能提高（也可能降低）AI的有效性。其中，最關(guān)鍵的因素包括：是否有可用的高質(zhì)量數(shù)據(jù)、潛在解決方案的數(shù)量、目標(biāo)是否清晰，以及需要適應(yīng)不斷變化的評(píng)判系統(tǒng)。當(dāng)這些要素缺失或定義不清時(shí)，就會(huì)帶來挑戰(zhàn)。我們需要用創(chuàng)新的方法來克服這些挑戰(zhàn)。以下是出現(xiàn)這四種要素和挑戰(zhàn)時(shí)應(yīng)采取的措施：

1、缺乏高質(zhì)量數(shù)據(jù)

數(shù)據(jù)是任何AI模型最關(guān)鍵的輸入，但數(shù)據(jù)規(guī)模往往比數(shù)據(jù)質(zhì)量更受關(guān)注。雖然，大語(yǔ)言模型（LLM）的發(fā)展趨勢(shì)表明，不斷增加的數(shù)據(jù)量可以幫助獲得高質(zhì)量模型和輸出結(jié)果，但這種趨勢(shì)是否會(huì)繼續(xù)保持下去仍有待探討。

事實(shí)證明，數(shù)據(jù)質(zhì)量與數(shù)據(jù)規(guī)模同樣重要，甚至比后者更重要。某些情況下，如果你有一個(gè)相對(duì)較小但質(zhì)量很高的數(shù)據(jù)庫(kù)作為起點(diǎn)，你甚至可以通過生成虛擬數(shù)據(jù)來增加數(shù)據(jù)的規(guī)模。

這就是研究AlphaFold的團(tuán)隊(duì)最初面臨的情況。AlphaFold是谷歌DeepMind的突破性技術(shù)，可以準(zhǔn)確預(yù)測(cè)蛋白質(zhì)結(jié)構(gòu)的三維形狀。這項(xiàng)技術(shù)正在加速幾乎所有生物學(xué)領(lǐng)域的研究。

2017年，AlphaFold處于初始開發(fā)階段，開發(fā)團(tuán)隊(duì)僅掌握了約15萬(wàn)個(gè)3D蛋白質(zhì)結(jié)構(gòu)數(shù)據(jù)點(diǎn)。這些結(jié)構(gòu)是幾十年來通過昂貴且耗時(shí)的技術(shù)手段（如X射線晶體學(xué)或冷凍電鏡），運(yùn)用實(shí)驗(yàn)確定的。（單一蛋白質(zhì)結(jié)構(gòu)需要至少一位博士生來研究）對(duì)于機(jī)器學(xué)習(xí)系統(tǒng)來說，這只是一個(gè)很小的數(shù)據(jù)集。

不過，研究團(tuán)隊(duì)通過預(yù)測(cè)未知的蛋白質(zhì)序列的結(jié)構(gòu)，成功地?cái)U(kuò)充了這些數(shù)據(jù)。他們構(gòu)建了一個(gè)AlphaFold的原型版本來實(shí)現(xiàn)這一點(diǎn)。這個(gè)版本足夠強(qiáng)大，能夠生成一百萬(wàn)個(gè)新折疊蛋白質(zhì)的預(yù)測(cè)結(jié)果。

接著，團(tuán)隊(duì)使用這個(gè)版本的AlphaFold來評(píng)估自身的預(yù)測(cè)結(jié)果有多準(zhǔn)確。通過這個(gè)自我提煉過程，團(tuán)隊(duì)將得分前30%的預(yù)測(cè)結(jié)果重新加入訓(xùn)練模型的數(shù)據(jù)集中，與真實(shí)數(shù)據(jù)一起使用。這樣，數(shù)據(jù)集的規(guī)模就擴(kuò)展到了約50萬(wàn)個(gè)折疊蛋白質(zhì)，足以訓(xùn)練出一個(gè)最終版本的AlphaFold。

需要注意的是，盡管在當(dāng)時(shí)的情況下，這種訓(xùn)練方法的效果顯著，但必須非常謹(jǐn)慎地用生成的虛擬數(shù)據(jù)來訓(xùn)練模型，因?yàn)榭赡軙?huì)造成遞歸學(xué)習(xí)的風(fēng)險(xiǎn)：即用過去模型迭代的預(yù)測(cè)結(jié)果作為輸入來影響后續(xù)迭代，會(huì)放大前一輪模型迭代中傳遞下來的錯(cuò)誤和不準(zhǔn)確性，導(dǎo)致模型的性能下降。

但是，如果一開始使用的數(shù)據(jù)集非常大但質(zhì)量很低，那么想要通過合成數(shù)據(jù)來提高數(shù)據(jù)質(zhì)量就會(huì)非常困難。從互聯(lián)網(wǎng)上抓取的數(shù)據(jù)——可能包含各種信息、格式、語(yǔ)言、主題和方式，就屬于規(guī)模大但質(zhì)量低的數(shù)據(jù)集。多數(shù)情況下，嘗試提升其質(zhì)量并不值得，因?yàn)樾枰ㄙM(fèi)大量的努力和時(shí)間。且在這種數(shù)據(jù)集中，模型也找不到合成數(shù)據(jù)的“正確答案”——比如，當(dāng)詢問哪個(gè)食譜能做出完美的比薩時(shí)，答案最可能是“這取決于情況”。這種細(xì)微差別和對(duì)上下文的需求，使得模型無法結(jié)構(gòu)化語(yǔ)言和常識(shí)，從而難以創(chuàng)造出高質(zhì)量的數(shù)據(jù)集。

2、潛在的解決方案太多

當(dāng)一個(gè)問題有太多解決方案時(shí)，想要通過“蠻力”的方法——窮舉測(cè)試所有的答案組合來解決問題，就變得不切實(shí)際了。從歷史上看，這種問題一直是通過啟發(fā)式的方法來解決的：用一些簡(jiǎn)單的規(guī)則，找到能滿足大多數(shù)情況的“足夠好”的解決方案，而不是最優(yōu)解。

針對(duì)有無數(shù)解決方案的復(fù)雜問題，運(yùn)用AI是一種前景廣闊的選擇。然而，隨著潛在解決方案越來越多，如何驗(yàn)證每個(gè)方案的質(zhì)量也變得更加困難。例如，LLM擅長(zhǎng)生成有創(chuàng)意和多樣的答案，但也面臨著“幻覺”現(xiàn)象的問題，即生成與事實(shí)不符的信息。這削弱了人們對(duì)其的信任。因此，找到方法，確保LLM生成的解決方法是正確的、可驗(yàn)證的，已成為推動(dòng)LLM能力發(fā)展的關(guān)鍵。

3、缺乏明確的、可衡量的目標(biāo)

目標(biāo)函數(shù)（也稱為獎(jiǎng)勵(lì)函數(shù)）是AI模型試圖實(shí)現(xiàn)的目標(biāo)或輸出。換句話說就是，我們要向模型提出正確的問題。確定“你希望模型做什么？”是任何機(jī)器學(xué)習(xí)系統(tǒng)中最困難的部分之一。以象棋或圍棋等游戲?yàn)槔＿@些游戲有清晰且可衡量的目標(biāo)，比如分?jǐn)?shù)或一套決定勝者的規(guī)則，而且迭代成本低，讓AI能快速學(xué)習(xí)。

但在現(xiàn)實(shí)世界中，目標(biāo)通常是復(fù)雜且無序的，我們沒有一個(gè)簡(jiǎn)單的度量標(biāo)準(zhǔn)來衡量進(jìn)展。如果沒有明確且可衡量的目標(biāo)，定義“好”的標(biāo)準(zhǔn)就會(huì)變得困難。目標(biāo)越模糊，模型的表現(xiàn)就越差。

回到AlphaFold的例子。生物學(xué)中，蛋白質(zhì)折疊有明確且可衡量的目標(biāo)，而AlphaFold的目標(biāo)是將實(shí)驗(yàn)檢測(cè)出的3D折疊蛋白質(zhì)結(jié)構(gòu)與計(jì)算預(yù)測(cè)出的結(jié)構(gòu)之間的差異最小化。衡量成功的一個(gè)好方法是，每?jī)赡昱e行一次的結(jié)構(gòu)預(yù)測(cè)關(guān)鍵評(píng)估（Critical Assessment of Structure Prediction，CASP）競(jìng)賽。這項(xiàng)賽事類似于蛋白質(zhì)折疊的“奧運(yùn)會(huì)”，它匯集了來自世界各地的最優(yōu)秀的團(tuán)隊(duì)，互相比較預(yù)測(cè)蛋白質(zhì)結(jié)構(gòu)的計(jì)算方法。參與這一競(jìng)賽，讓AlphaFold的研究團(tuán)隊(duì)能夠獲得對(duì)模型表現(xiàn)的客觀“評(píng)分”，并與其他團(tuán)隊(duì)進(jìn)行比較。

向AI給出清晰的目標(biāo)和衡量標(biāo)準(zhǔn)是一個(gè)挑戰(zhàn)。尤其是在社交媒體等環(huán)境中，“參與度”常常被看作是衡量項(xiàng)目成功與否的指標(biāo)，通過點(diǎn)贊、分享、評(píng)論或在平臺(tái)上花費(fèi)的時(shí)間來衡量。優(yōu)化參與度可以推動(dòng)用戶活動(dòng)和收入，但也可能帶來意想不到的后果。比如，它可能會(huì)放大極端思想，或傳播聳人聽聞的內(nèi)容、虛假信息等，抑或是鼓勵(lì)成癮行為，傷害用戶的長(zhǎng)期福祉。

這些陷阱突顯了設(shè)計(jì)多目標(biāo)優(yōu)化框架的重要性，該框架可在參與度和其他關(guān)鍵指標(biāo)之間取得平衡，例如內(nèi)容的準(zhǔn)確性、觀點(diǎn)的多樣性和用戶滿意度等。在簡(jiǎn)單的評(píng)判指標(biāo)外，納入人類反饋、道德準(zhǔn)則和更廣泛評(píng)估標(biāo)準(zhǔn)，有助于讓AI生成有意義且可持續(xù)的結(jié)果，同時(shí)避免造成傷害。

4、當(dāng)“好”無法被寫進(jìn)代碼里

組織面臨的問題通常是動(dòng)態(tài)變化的。加上前述的無法簡(jiǎn)單識(shí)別某個(gè)解決方案是否有效，AI可能會(huì)有逐漸偏離最佳答案的風(fēng)險(xiǎn)。為了克服這一挑戰(zhàn)，越來越多的技術(shù)開始采用帶有人類反饋的強(qiáng)化學(xué)習(xí)（RLHF）。

這種“人類參與”的技術(shù)使得模型能夠從數(shù)據(jù)之外的人類洞察中學(xué)習(xí)。RLHF特別適用于那些AI難以基于清晰算法編寫解決方案，但人類能夠直觀地判斷模型輸出質(zhì)量的情況。

DeepMind最近與YouTube Shorts團(tuán)隊(duì)的合作就是一個(gè)很好的例子。由于短視頻的制作通常較為迅速，創(chuàng)作者在視頻標(biāo)題或描述中往往只添加少量信息，使得觀眾很難找到他們想看的短視頻。

生成準(zhǔn)確的視頻描述是AI要解決的問題：每個(gè)視頻都是獨(dú)特的，通過啟發(fā)式方法生成的通用描述只能用來大致地分類視頻（例如，它是一個(gè)體育視頻或園藝視頻），但不足以在個(gè)別層面上提高視頻的獨(dú)特性。然而，詳細(xì)且個(gè)性化的視頻描述才是觀眾找到他們喜愛的內(nèi)容的前提。

人類擅長(zhǎng)憑直覺判斷什么是一個(gè)“好”的視頻描述。而計(jì)算機(jī)歷來很難做到這一點(diǎn)，所以也很難為每個(gè)視頻都編寫出“好”的描述。通過直接將人類反饋輸入到模型的下一輪迭代中，模型能夠通過試錯(cuò)學(xué)習(xí)，直觀地掌握什么樣的描述是“好”的，并不斷地優(yōu)化它。模型通過不斷學(xué)習(xí)和適應(yīng)新信息，使得它能夠隨著社會(huì)審美和規(guī)范的變化而不斷進(jìn)化。

谷歌DeepMind與YouTube產(chǎn)品團(tuán)隊(duì)合作，部署了一個(gè)生成式AI模型，能夠?yàn)槊總€(gè)視頻生成文本描述，這些描述被存儲(chǔ)在YouTube的系統(tǒng)中，來為用戶提供更好的搜索結(jié)果。這個(gè)解決方案現(xiàn)在已經(jīng)應(yīng)用到所有新上傳的YouTube短視頻中。

我們應(yīng)該抓住哪些機(jī)遇？

企業(yè)可以利用上述標(biāo)準(zhǔn)來確定，什么問題適合用AI解決。接下來要做的就是，從符合標(biāo)準(zhǔn)的大量AI應(yīng)用機(jī)會(huì)中做出選擇。根據(jù)解決方案的影響力和范圍來確定部署AI的優(yōu)先級(jí)，不僅對(duì)谷歌有用，對(duì)整個(gè)社會(huì)也很有幫助。

DeepMind團(tuán)隊(duì)將這種方法稱為“根節(jié)點(diǎn)問題”（root node problem）。可以把世界上的所有知識(shí)想象成一棵巨大的樹，樹枝代表不同的領(lǐng)域。在這棵樹中，每個(gè)“節(jié)點(diǎn)”是一個(gè)連接點(diǎn)，像一塊墊腳石，引導(dǎo)到其他分支。根節(jié)點(diǎn)是這棵樹的起點(diǎn)——一切其他事物生長(zhǎng)的原始位置。如果解決了一個(gè)根節(jié)點(diǎn)問題，就會(huì)衍生出全新的研究領(lǐng)域和理解，這些新的領(lǐng)域又為探索和創(chuàng)新應(yīng)用開辟了全新的道路。

AlphaFold項(xiàng)目很好地契合了這一標(biāo)準(zhǔn)，因?yàn)榻鉀Q蛋白質(zhì)折疊這一重大挑戰(zhàn)不僅能推動(dòng)更好的藥物發(fā)現(xiàn)進(jìn)展，如瘧疾疫苗和癌癥治療藥物，還能促進(jìn)其他領(lǐng)域的發(fā)展，如開發(fā)能降解塑料的酶來應(yīng)對(duì)污染問題。

在AlphaFold發(fā)布之后，馬克斯·普朗克發(fā)展生物學(xué)研究所（the Max Planck Institute for Developmental Biology）的進(jìn)化生物學(xué)家安德烈·盧帕斯（Andrei Lupas）在《自然》雜志中寫道：“這將改變醫(yī)學(xué)，改變研究，改變生物工程，改變一切。” 2024年，諾貝爾獎(jiǎng)委員會(huì)授予德米斯·哈薩比斯（Demis Hassabis）和約翰·朱珀（John Jumper）諾貝爾化學(xué)獎(jiǎng)，表彰他們?cè)陂_發(fā)AlphaFold中作出的巨大貢獻(xiàn)。

為了找出根節(jié)點(diǎn)問題，公司應(yīng)當(dāng)安排AI專家與其他領(lǐng)域?qū)＜抑g進(jìn)行討論。早期的DeepMind團(tuán)隊(duì)就已經(jīng)運(yùn)用了這種方法。除了機(jī)器學(xué)習(xí)之外，團(tuán)隊(duì)特意聘請(qǐng)了大量來自不同學(xué)科的人才，涵蓋了生物化學(xué)、物理學(xué)、哲學(xué)和倫理學(xué)等。這種多元化的專業(yè)背景可以激發(fā)不同學(xué)科之間的思想碰撞，找到解決問題的新方式。

迭代創(chuàng)新

一旦組織確定了根節(jié)點(diǎn)問題，產(chǎn)品團(tuán)隊(duì)就會(huì)戰(zhàn)略性地選擇要部署哪些AI，并開始產(chǎn)品化過程。

產(chǎn)品化時(shí)，應(yīng)避免兩大風(fēng)險(xiǎn)。第一，僅關(guān)注公司已確定能著手解決的根節(jié)點(diǎn)問題和其涉及的領(lǐng)域。這種做法可能會(huì)錯(cuò)失重大機(jī)會(huì)。2020年AlphaFold發(fā)布時(shí)，谷歌內(nèi)并沒有適合的產(chǎn)品團(tuán)隊(duì)來有效利用其研究成果（例如新的藥物化合物）。對(duì)此，Alphabet創(chuàng)建了Isomorphic Labs，專注用AI發(fā)現(xiàn)新藥物。這個(gè)項(xiàng)目可以完全由公司建立，也可以通過戰(zhàn)略合作伙伴關(guān)系實(shí)現(xiàn)。關(guān)鍵在于，創(chuàng)立Isomorphic Labs使研究和產(chǎn)品部門整合為了一個(gè)新公司，能夠促進(jìn)兩者之間的快速發(fā)展。

第二個(gè)風(fēng)險(xiǎn)是，以為自己可以預(yù)測(cè)技術(shù)的演進(jìn)，預(yù)見新的應(yīng)用場(chǎng)景。與其遵循一個(gè)確定的路徑，組織應(yīng)保留自己的選擇權(quán)，擁抱不確定性，允許AI解決方案的不斷演變，響應(yīng)技術(shù)進(jìn)步和用戶需求，并確保在整個(gè)過程中持續(xù)收集反饋。

前進(jìn)之路

隨著AI的不斷發(fā)展，組織在部署AI時(shí)必須深思熟慮。本文提供了一個(gè)戰(zhàn)略框架，以找到適合用AI解決的問題——這些問題與AI的優(yōu)勢(shì)相吻合，解決它們將為創(chuàng)新和影響開辟出令人驚喜的新路徑。通過關(guān)注根節(jié)點(diǎn)問題并促進(jìn)跨學(xué)科的合作，組織不僅能有效地利用AI推動(dòng)商業(yè)增長(zhǎng)，還能推動(dòng)社會(huì)進(jìn)步。

關(guān)鍵詞：AI

保羅·切爾維尼（Paolo Cervini）基婭拉·法羅納托（Chiara Farronato）普什米特·科利（Pushmeet Kohli）馬歇爾·范阿爾斯泰因（Marshall W. Van Alstyne）| 文

保羅·切爾維尼是AI、可持續(xù)發(fā)展和企業(yè)創(chuàng)新領(lǐng)域的戰(zhàn)略顧問。此前，他是《哈佛商業(yè)評(píng)論》意大利版的內(nèi)容協(xié)調(diào)員。基婭拉·法羅納托是哈佛商學(xué)院格倫和瑪麗·簡(jiǎn)·克雷默工商管理副教授，也是哈佛大學(xué)數(shù)字設(shè)計(jì)研究所 (D^3) 平臺(tái)實(shí)驗(yàn)室的聯(lián)合首席研究員。她還是美國(guó)國(guó)家經(jīng)濟(jì)研究局和經(jīng)濟(jì)政策研究中心的研究員。普什米特·科利是谷歌DeepMind的科學(xué)和戰(zhàn)略副總裁，領(lǐng)導(dǎo)AI科學(xué)研究項(xiàng)目，包括AlphaFold、SynthID等。馬歇爾·范阿爾斯泰因是波士頓大學(xué)奎斯特羅姆商學(xué)院教授、麻省理工學(xué)院數(shù)字經(jīng)濟(jì)計(jì)劃的數(shù)字研究員，以及哈佛大學(xué)伯克曼·克萊因中心的訪問學(xué)者。

張雨簫 | 編校

聯(lián)系方式

投稿、廣告、內(nèi)容和商務(wù)合作

newmedia@hbrchina.org