算法如何操控你？你以為的選擇，可能早已被設(shè)計(jì)

你是否有過(guò)這樣的體驗(yàn)：剛剛在微信里和朋友聊起某樣商品，不久后，購(gòu)物軟件、短視頻平臺(tái)甚至瀏覽器廣告里，就開(kāi)始反復(fù)出現(xiàn)它。平臺(tái)還會(huì)推送“限時(shí)優(yōu)惠”“猜你喜歡”，不斷提醒你下單。

最后你真的買(mǎi)了，卻發(fā)現(xiàn)自己其實(shí)并不需要。

這種被窺視、被預(yù)測(cè)，甚至被悄悄引導(dǎo)的感覺(jué)，正在成為我們?nèi)粘Ｉ畹囊徊糠帧?/p>

我們以為自己在自由選擇，但在點(diǎn)擊按鈕之前，算法或許早已替我們篩選。

當(dāng)平臺(tái)越來(lái)越了解我們的興趣、情緒、習(xí)慣和弱點(diǎn)，我們每天作出的決定，究竟還有多少真正屬于自己？

算法不只是“猜你喜歡”

很多人認(rèn)為，推薦算法只是提高了信息獲取效率。

喜歡籃球，它就推薦籃球；經(jīng)常購(gòu)買(mǎi)某類(lèi)商品，它就把類(lèi)似商品擺在首頁(yè)；關(guān)注科技，它就推薦人工智能。

但問(wèn)題在于，算法不僅根據(jù)過(guò)去預(yù)測(cè)你，還可能通過(guò)持續(xù)推薦，逐漸塑造未來(lái)的你。

你點(diǎn)擊了什么、停留了多久、在哪條視頻上反復(fù)觀看，甚至在哪個(gè)頁(yè)面猶豫了幾秒，都會(huì)成為平臺(tái)分析你的依據(jù)。

隨后，系統(tǒng)會(huì)不斷推送更容易引起你注意、刺激你情緒、延長(zhǎng)你停留時(shí)間的內(nèi)容。

久而久之，我們看到的世界，會(huì)越來(lái)越像算法為每個(gè)人量身打造的房間。這個(gè)房間很舒適，因?yàn)槔锩娲蠖嗍俏覀兿矚g、熟悉和認(rèn)同的東西，但它也可能越來(lái)越狹窄。不同意見(jiàn)逐漸消失，復(fù)雜問(wèn)題被壓縮成簡(jiǎn)單口號(hào)，情緒強(qiáng)烈的內(nèi)容比理性討論更容易獲得傳播。

最后，我們甚至?xí)`以為，屏幕中反復(fù)出現(xiàn)的聲音，就是整個(gè)世界的聲音。

數(shù)據(jù)一旦交出去，就很難再屬于我們

當(dāng)前人工智能與互聯(lián)網(wǎng)生態(tài)中，一個(gè)長(zhǎng)期被忽視的問(wèn)題是：用戶(hù)把數(shù)據(jù)交給第三方平臺(tái)后，往往很快就失去了真正的控制權(quán)。

我們的搜索記錄、消費(fèi)習(xí)慣、位置軌跡、社交關(guān)系、照片、聲音，甚至個(gè)人表達(dá)過(guò)的觀點(diǎn)，都可能被平臺(tái)保存、分析、組合，并用于訓(xùn)練更強(qiáng)大的推薦系統(tǒng)和人工智能模型。

用戶(hù)是數(shù)據(jù)的創(chuàng)造者，卻很難知道這些數(shù)據(jù)最終流向了哪里，也很難真正決定它能否被出售、轉(zhuǎn)讓或者再次利用。

點(diǎn)擊“同意隱私政策”，并不意味著普通人真正理解了那份動(dòng)輒數(shù)萬(wàn)字的協(xié)議。

很多時(shí)候，我們面對(duì)的并不是平等協(xié)商，而是一個(gè)無(wú)法拒絕的選擇：不同意，就不能使用服務(wù)。

這也是數(shù)字時(shí)代最值得討論的權(quán)利問(wèn)題之一。

我們的想法、回憶、關(guān)系和生活軌跡，不應(yīng)該只是平臺(tái)資產(chǎn)負(fù)債表上的一種“數(shù)據(jù)資源”。

它們本就是人格和生活的一部分，理應(yīng)像個(gè)人財(cái)產(chǎn)一樣受到嚴(yán)格保護(hù)。

真正的數(shù)據(jù)權(quán)利，不應(yīng)該只有一句模糊的“用戶(hù)已經(jīng)同意”，還應(yīng)包括知情權(quán)、拒絕權(quán)、刪除權(quán)、轉(zhuǎn)移權(quán)，以及對(duì)算法使用方式的追問(wèn)權(quán)。

“便利”的成本，最后由誰(shuí)承擔(dān)？

科技公司最擅長(zhǎng)推銷(xiāo)的概念之一，就是便利。

一鍵登錄、自動(dòng)推薦、無(wú)感支付、智能客服、自助結(jié)賬……這些技術(shù)讓流程看上去越來(lái)越順滑，也讓企業(yè)能夠減少人工、降低運(yùn)營(yíng)成本。

但這種便利真的是雙贏嗎？

當(dāng)消費(fèi)者遇到問(wèn)題時(shí)，撥打客服電話(huà)，面對(duì)的往往是層層自動(dòng)語(yǔ)音；在線(xiàn)咨詢(xún)時(shí)，機(jī)器人不斷重復(fù)無(wú)法解決問(wèn)題的標(biāo)準(zhǔn)答案；去超市購(gòu)物，顧客自己掃碼、稱(chēng)重、付款，還要處理機(jī)器識(shí)別失敗帶來(lái)的麻煩。

企業(yè)節(jié)約了人力成本，卻把原本由工作人員承擔(dān)的勞動(dòng)，轉(zhuǎn)移給了消費(fèi)者。

技術(shù)提高了平臺(tái)的效率，卻未必改善了普通人的體驗(yàn)。很多時(shí)候，它只是讓企業(yè)更方便，讓消費(fèi)者承擔(dān)更多繁瑣步驟。

這是一種容易被忽略的“系統(tǒng)化推諉”：只要流程是系統(tǒng)規(guī)定的，就沒(méi)有具體的人需要負(fù)責(zé)；只要機(jī)器給出了答案，工作人員就可以說(shuō)自己無(wú)權(quán)更改。

當(dāng)一切都被自動(dòng)化，世界或許更加高效，卻也可能變得越來(lái)越缺少溫度、解釋和責(zé)任。

少一點(diǎn)便利，可能意味著多一點(diǎn)安全

保護(hù)隱私通常并不輕松！！！

當(dāng)你拒絕Cookie、關(guān)閉個(gè)性化廣告、限制應(yīng)用權(quán)限或者安裝追蹤攔截器時(shí)，可能會(huì)發(fā)現(xiàn)一些網(wǎng)站無(wú)法正常打開(kāi)，某些功能變得麻煩，甚至連叫外賣(mài)、登錄賬戶(hù)都要多操作幾步。

但這種“不方便”，恰恰可能是奪回控制權(quán)的開(kāi)始。

因?yàn)樗^的極致便利，往往建立在用戶(hù)持續(xù)交出數(shù)據(jù)、接受追蹤和放棄選擇權(quán)的基礎(chǔ)上。

關(guān)閉不必要的權(quán)限，不隨手點(diǎn)擊“全部同意”，定期清理搜索記錄，減少跨平臺(tái)賬號(hào)綁定，主動(dòng)選擇不同的信息來(lái)源——這些行為看上去很小，卻是在為自己的生活劃定邊界。

算法希望我們快速點(diǎn)擊、立即消費(fèi)、迅速表達(dá)情緒。而人的判斷需要停頓，需要比較，也需要偶爾離開(kāi)屏幕。

少一點(diǎn)便利，不等于拒絕技術(shù)。

它意味著我們?cè)敢庥靡稽c(diǎn)時(shí)間和操作成本，換取更多安全、隱私和自主權(quán)。

科技不能成為命運(yùn)的“一票否決者”

算法可以幫助銀行分析貸款材料，可以協(xié)助企業(yè)篩選簡(jiǎn)歷，也可以輔助醫(yī)院發(fā)現(xiàn)風(fēng)險(xiǎn)。

這些應(yīng)用確實(shí)提高了效率。

但當(dāng)人工智能的判斷可能導(dǎo)致一個(gè)人失去工作、貸款、住房、保險(xiǎn)或者教育機(jī)會(huì)時(shí)，系統(tǒng)就不能繼續(xù)躲在“技術(shù)中立”的說(shuō)法背后。

AI可以快速批準(zhǔn)一筆貸款，但如果它決定拒絕，至少應(yīng)該由人工再次審核。

因?yàn)榫芙^意味著機(jī)會(huì)被剝奪，而任何可能對(duì)個(gè)人產(chǎn)生重大負(fù)面影響的決定，都不應(yīng)完全交給一個(gè)無(wú)法解釋、無(wú)法質(zhì)疑的黑箱。

一個(gè)人不應(yīng)該因?yàn)檫^(guò)去某些相似群體的數(shù)據(jù)，而被提前判定為“不可靠”；也不應(yīng)該因?yàn)樗惴ㄊ褂昧隋e(cuò)誤信息，就在毫不知情的情況下失去機(jī)會(huì)。

科技可以成為效率的助推器，卻不能成為人生命運(yùn)的絕對(duì)裁判。

當(dāng)算法作出重大決定時(shí)，人們至少應(yīng)該知道：系統(tǒng)使用了哪些信息，為什么得到這個(gè)結(jié)論，數(shù)據(jù)錯(cuò)誤后如何修改，判斷不公時(shí)向誰(shuí)申訴。

所謂人工審核，也不能只是形式上的按鈕。它必須意味著真的有人愿意理解具體處境，并有權(quán)推翻機(jī)器的判斷。

我們把最強(qiáng)的誘導(dǎo)機(jī)器，交給了孩子

成年人尚且很難抵抗推薦算法，兒童和青少年面對(duì)它時(shí)更加脆弱。

我們正在把人類(lèi)歷史上最強(qiáng)大、最具有預(yù)測(cè)能力和說(shuō)服能力的算法，幾乎沒(méi)有保留地釋放在大腦尚未完全發(fā)育（尤其是前額葉）的年輕人身上。

這些系統(tǒng)知道什么樣的畫(huà)面能讓人停留，什么樣的話(huà)題能制造焦慮，什么樣的反饋可以讓用戶(hù)不斷刷新頁(yè)面。

點(diǎn)贊、評(píng)論、連續(xù)播放、消息提醒等等，并不是彼此孤立的產(chǎn)品功能，而是經(jīng)過(guò)精心設(shè)計(jì)的注意力機(jī)制。

近年來(lái)，年輕群體的焦慮、抑郁、身體形象困擾和社交壓力問(wèn)題受到越來(lái)越多關(guān)注。

社交媒體并不是所有心理問(wèn)題的唯一原因，但越來(lái)越多研究、訴訟材料和企業(yè)內(nèi)部文件，讓公眾開(kāi)始追問(wèn)：平臺(tái)是否早已知道某些產(chǎn)品機(jī)制可能傷害青少年，卻仍然為了用戶(hù)黏性和商業(yè)收益選擇繼續(xù)使用？

這不僅是家庭教育問(wèn)題，也不能簡(jiǎn)單歸咎于孩子“缺乏自制力”。

當(dāng)平臺(tái)擁有龐大的心理學(xué)研究、行為數(shù)據(jù)和算法工程團(tuán)隊(duì)，而用戶(hù)只是一個(gè)十幾歲的孩子時(shí)，雙方根本不處于對(duì)等的位置。

要求孩子獨(dú)自抵抗一套以延長(zhǎng)使用時(shí)間為目標(biāo)的系統(tǒng)，本身就是不公平的。

這不僅是技術(shù)問(wèn)題，更是權(quán)力問(wèn)題

歸根結(jié)底，算法治理并不只是工程師如何修改代碼的問(wèn)題。

這是一個(gè)民主與權(quán)力博弈的問(wèn)題。

今天的科技巨頭擁有龐大的數(shù)據(jù)、資本、技術(shù)和傳播渠道。它們能夠決定哪些信息被看見(jiàn)，哪些聲音被壓低，哪些商品獲得流量，甚至影響人們?nèi)绾握J(rèn)識(shí)社會(huì)和彼此。

這種影響力已經(jīng)遠(yuǎn)遠(yuǎn)超出普通企業(yè)的范圍。

當(dāng)少數(shù)公司掌握了數(shù)十億人的數(shù)據(jù)和注意力，它們事實(shí)上擁有了接近公共基礎(chǔ)設(shè)施的社會(huì)支配力，卻未必承擔(dān)與這種權(quán)力相匹配的責(zé)任。

如果算法正在對(duì)普通人的消費(fèi)、情緒、認(rèn)知和現(xiàn)實(shí)機(jī)會(huì)進(jìn)行無(wú)形管理，那么一個(gè)健康的社會(huì)就不能繼續(xù)把它當(dāng)作企業(yè)內(nèi)部的商業(yè)秘密。

我們需要拆除黑箱！！！

這并不意味著所有代碼都必須公開(kāi)，而是影響公共利益和個(gè)人權(quán)利的算法，應(yīng)當(dāng)接受獨(dú)立審計(jì)、風(fēng)險(xiǎn)評(píng)估和社會(huì)監(jiān)督。

平臺(tái)需要解釋推薦系統(tǒng)追求的目標(biāo)，公開(kāi)重大風(fēng)險(xiǎn)，并允許用戶(hù)退出個(gè)性化推薦。

涉及貸款、就業(yè)、醫(yī)療、教育和公共服務(wù)的自動(dòng)化決策，更應(yīng)該設(shè)置嚴(yán)格邊界。

透明不是阻礙創(chuàng)新，而是要求創(chuàng)新承擔(dān)責(zé)任。

最需要保護(hù)的，是人的選擇權(quán)

我們很難徹底離開(kāi)算法！！！

導(dǎo)航需要算法，搜索需要算法，醫(yī)學(xué)診斷和科研也需要算法。問(wèn)題從來(lái)不是要不要使用技術(shù)，而是技術(shù)應(yīng)該被允許走多遠(yuǎn)。

未來(lái)真正稀缺的能力，或許不再是獲得更多信息，而是在無(wú)數(shù)精準(zhǔn)推送中，依然知道自己為什么相信、為什么購(gòu)買(mǎi)，以及為什么作出這個(gè)選擇。

算法可以了解我們的過(guò)去，可以預(yù)測(cè)我們的下一次點(diǎn)擊，甚至可以影響我們的情緒。

但它不應(yīng)該擁有定義我們的最終權(quán)力。

技術(shù)應(yīng)該幫助人做出更好的決定，而不是在不知不覺(jué)中替人決定一切。

算法或許比我們更了解過(guò)去的行為。

但我們?nèi)匀粦?yīng)該擁有決定未來(lái)的權(quán)利。