小偷敢問，AI敢教

現(xiàn)在連小偷都開始搞AI賦能、零基礎(chǔ)上崗了。

事情的經(jīng)過比段子還魔幻：6月初，武漢一位車主把車停路邊忘關(guān)車窗，凌晨時(shí)分黃某逛到這兒，翻窗進(jìn)去想摸點(diǎn)值錢的，現(xiàn)金沒摸著，反倒摸出一把備用車鑰匙。

這時(shí)候，一般的小偷，就直接撤了。

但這位黃某不太一般。他沒駕照，連油門和剎車都分不清，但他有AI。

接下來的操作就離譜了：黃某先問AI汽車怎么啟動、油門剎車分別在哪，相當(dāng)于現(xiàn)場學(xué)駕駛技術(shù)；學(xué)完操作還不夠，他甚至非常有前瞻性地咨詢：“如果盜竊了這輛車，要判多少年？”AI也很敬業(yè)，開車步驟講得明明白白，還不忘履行安全義務(wù)，鄭重提醒他盜竊車輛犯罪，請勿以身試法。

黃某一看就是老AI用戶了，深諳“AI的話不能全信，要選擇性、辯證地看”。于是他表示，前面的教程我收下了，但提醒我就不放在心上了。

就這么著，一個(gè)連駕照都沒有、分不清油門剎車的老哥，靠著AI的現(xiàn)場教學(xué)，硬是把車開走了。

之后還騙了報(bào)廢車回收站，謊稱是父親遺產(chǎn)，3200塊錢就把車當(dāng)廢鐵賣了。

但這年頭，偷車可太好抓了。于是黃某就這么水靈靈地應(yīng)了AI的提醒。

整件事最精髓的，就是這八個(gè)字：小偷敢問，AI敢教。

你說AI助紂為虐吧，它還明確勸過對方別犯罪；你說它守規(guī)矩吧，它連作案必備的駕駛操作都手把手教明白了，相當(dāng)于給犯罪分子遞了全套操作手冊，還附贈法律咨詢服務(wù)。

說白了就是AI結(jié)結(jié)實(shí)實(shí)地把信息獲取的門檻砸到了地板上，但該有的把關(guān)，還在半空中飄著，沒落地。

以前我們總說AI是信息平權(quán)的利器，不管你什么學(xué)歷什么背景，想知道什么知識，張嘴問就行，不用翻論文不用找老師，相當(dāng)于人人揣了個(gè)萬能顧問。

但降低信息壁壘這東西吧，它不分好人壞人，也不分好信息壞信息。好人能用它學(xué)知識漲本事，壞人自然也能用它學(xué)技能搞歪門邪道。

擱以前，偷車是個(gè)技術(shù)活，你起碼得會開車吧？得懂點(diǎn)車輛結(jié)構(gòu)吧？

新手連油門剎車都分不清，給你鑰匙你都不敢開，生怕剛出車位就撞樹上。

現(xiàn)在不一樣了，零基礎(chǔ)也能上崗，AI手把手教學(xué)，包教包會，就是不包坐牢。

這還只是偷車，往嚴(yán)重了說，以前搞詐騙得有老師傅帶、有成冊的話術(shù)本，現(xiàn)在AI能直接給你生成定制化詐騙腳本；以前造謠得自己編故事找素材，現(xiàn)在AI分分鐘寫幾十篇造謠文案，還能配圖剪視頻，一條龍服務(wù)。

作惡的門檻，第一次被壓得這么低。

為啥AI的把關(guān)這么難做？

現(xiàn)在的生成式大模型，本質(zhì)上是個(gè)概率拼接機(jī)器。它學(xué)了海量的互聯(lián)網(wǎng)文本，你問它問題，它就根據(jù)統(tǒng)計(jì)概率把字詞串成句子給你。

它沒有真正的“是非觀”，也讀不懂你提問背后的動機(jī)——它不知道你問油門剎車是要去考駕照，還是要去偷車。

它的“安全把關(guān)”，靠的是提前做的“對齊訓(xùn)練”。

說白了就是給它喂一大堆“哪些問題不能答”“哪些話不能說”的樣本，讓它遇到類似提問就拒絕或者警示。

但這玩意兒有個(gè)巨大的bug：用戶可以換著法子問，俗稱“prompt越獄”。

就像這個(gè)小偷，他開始問的不是“怎么偷車”，他問的是“油門和剎車在哪”、“汽車怎么啟動”。這些問題本身是完全中性的，正常人學(xué)車也會問。

總不能要求AI回答之前先查用戶身份證，看看他有沒有駕照、有沒有犯罪前科吧？這就好比你去五金店買螺絲刀，老板明知道螺絲刀能撬鎖，但不能每賣一把都盤問你“是修家具還是撬鎖”吧？

更尷尬的是，安全對齊和用戶體驗(yàn)天生就是矛盾的。

你把關(guān)嚴(yán)一點(diǎn)，稍微沾點(diǎn)邊的問題都不回答，用戶馬上就罵“什么人工智障，這也不會那也不會”，轉(zhuǎn)頭就去用別家的了。你把關(guān)松一點(diǎn)，啥問題都敢答，用戶體驗(yàn)是好了，亂七八糟的事兒就都出來了。

前段時(shí)間各種AI烏龍事件，本質(zhì)上都是這個(gè)問題。

有人換個(gè)“反詐演練劇本”的由頭，就讓AI寫出了全套詐騙話術(shù)；有人套個(gè)“化學(xué)科普實(shí)驗(yàn)”的殼子，就讓AI講了危險(xiǎn)物品的制作方法；還有人用AI生成假新聞，等辟謠的時(shí)候，謠言都已經(jīng)跑遍半個(gè)互聯(lián)網(wǎng)了。

不是AI不想把關(guān)，是技術(shù)上它就沒法百分百把住。

AI企業(yè)不知道用戶會用什么稀奇古怪的話術(shù)，繞過規(guī)則。

更核心的問題其實(shí)在商業(yè)上。

做好把關(guān)，對廠商來說，是件成本高、沒收益、還可能丟用戶的事兒。

現(xiàn)在大模型行業(yè)還處在跑馬圈地?fù)層脩舻碾A段。各家卷什么？卷參數(shù)、卷速度、卷“更智能”“更懂你”，卷誰能回答更多問題、誰的回答更讓人滿意。

用戶用腳投票，誰家AI好用、能解決問題，就用誰家的。

這個(gè)時(shí)候你跳出來說，我們要加強(qiáng)管控，很多問題都不能答了。那用戶只會覺得你家AI不好用，直接卸載。

在商業(yè)增長面前，回答的把關(guān)是第二優(yōu)先級的。更何況，管控本身就是個(gè)純成本中心。你要做對齊訓(xùn)練、要雇審核團(tuán)隊(duì)、要優(yōu)化風(fēng)控模型，這些都得燒錢，而且燒了錢還看不到直接收益，反而可能拉低用戶增長數(shù)據(jù)。換你是老板，你怎么選？

就像這個(gè)案子里，豆包也提醒了“盜竊是犯罪”，但也就只是提醒而已。

畢竟豆包現(xiàn)在有好幾億用戶，光是算力就是一大筆回不了本的支出，如果再加個(gè)人工把控，那成本可真就兜不住了。

所以這種提醒，本質(zhì)上就是廠商的免責(zé)聲明——我都告訴你這事兒不對了，你非要干，那出了事跟我沒關(guān)系。跟香煙盒上印“吸煙有害健康”、酒瓶上印“請勿酒后駕車”一個(gè)道理：

姿態(tài)做足，責(zé)任撇清。

說回這個(gè)偷車的案子，很多人看完都在笑，說這小偷是個(gè)人才，偷車之前先問量刑，屬于知法犯法、罪加一等。但笑完之后，其實(shí)挺值得琢磨的。

這不是第一個(gè)AI幫倒忙的事件，也不會是最后一個(gè)。

以后還會有更多的普通人，靠著AI的加持，去做以前根本做不到的事——有好事，自然也有壞事。