我本來對生成式AI還挺抗拒的,畢竟訓練數(shù)據(jù)集那攤子事和替代人類創(chuàng)意的說法總讓人不太舒服。但說實話,看到它被用在網(wǎng)絡(luò)安全這個領(lǐng)域,多少還是有點好奇。微軟最近就分享了一波他們在Windows安全上的新玩法——用AI來“更快識別問題、劃分風險優(yōu)先級,以及在全代碼庫規(guī)模上擴展漏洞發(fā)現(xiàn)”,目標也很直白:縮短從發(fā)現(xiàn)漏洞到給用戶提供保護的時間。
更具體點說,微軟安全團隊搞了一個叫MDASH的東西,全稱是多模型代理掃描框架。MDASH并不是只靠一個AI模型干活,而是同時調(diào)用好幾種不同的AI模型,其中還包括來自第三方的頂尖漏洞發(fā)現(xiàn)模型。這些模型都跑在專用的云基礎(chǔ)設(shè)施上,專門盯著Windows的代碼和二進制文件掃漏洞。
![]()
Windows + 設(shè)備部門的執(zhí)行副總裁Pavan Davuluri進一步解釋了這個流程:一套掃描管道會先把系統(tǒng)中的關(guān)鍵二進制文件過一遍,然后利用多模型辯論的方式對候選漏洞進行交叉驗證。所謂多模型辯論,就是不同模型之間會互相“抬杠”——一個模型說“這像是個漏洞”,另一個可能會提出反對,經(jīng)過幾輪推敲,確認下來的候選對象才會被送到下一步,一個專門為Windows定制的證明管道。這個證明管道的作用是再篩一遍,把殘留的誤報盡可能剔除,最終只有那些置信度最高的發(fā)現(xiàn)才會到達工程團隊的案頭。換句話說,這套流程設(shè)計得相當謹慎,并非AI說什么就是什么,而是經(jīng)過層層質(zhì)疑、多方對質(zhì)才出結(jié)論。
很有意思的一個細節(jié)是,微軟反復(fù)強調(diào)他們用AI是“為了縮短從發(fā)現(xiàn)到保護的時間”,而真正拍板修不修、怎么修,以及關(guān)鍵的安全決策,依然掌握在人類專家手里。所以暫時不用擔心AI會替你決定要不要打個安全補丁,它更像一個不知疲倦的掃雷兵,把雷區(qū)標記好,拆彈的事還是工程師上。
但這樣一來就引出了一個反直覺的結(jié)果。Davuluri接著補充說,隨著AI幫著防御者揪出更多以前可能被忽略的問題,用戶在每次安全發(fā)布中將會看到更多的安全更新。他說,這恰恰表明防御者越來越擅長識別和處理問題了。他們的重心是利用這些AI工具來實現(xiàn)更快的保護、更健壯的工程系統(tǒng),以及給用戶更可操作的指導(dǎo)。
這等于官方提前打了預(yù)防針:以后Windows的補丁包可能會塞得更滿,更新頻率和每次的條目數(shù)都有望往上走。作為用戶,第一反應(yīng)難免是“又來?我這剛關(guān)機的功夫又被安排了重啟”,但如果換個角度想,這也不是因為Windows突然變得更漏洞百出,而是過去那些藏在暗處的坑終于被挖出來了。
把這個邏輯掰開揉碎,差不多就是一場辯論的正反方。正方觀點很清晰:越多的安全更新意味著系統(tǒng)越安全。以前有些漏洞可能在野外被悄悄利用了好幾個月還沒被發(fā)現(xiàn),現(xiàn)在AI用更快的速度、更廣的掃描面把這些問題曝出來,補丁上線后,那些利用同樣漏洞的攻擊手法就會失效。對于普通用戶來說,哪怕每次重啟確實煩人,但比起被勒索軟件鎖了文件,這代價就顯得微不足道了。
而且從工程角度看,縮短發(fā)現(xiàn)到保護的時間窗口這件事本身就有安全價值。過去一個嚴重漏洞從內(nèi)部發(fā)現(xiàn)到出補丁可能要經(jīng)歷漫長的人工審查和排期,現(xiàn)在AI能在早期就大喊“這里有情況”,配合人類專家的決策,整個鏈條就提速了。MDASH架構(gòu)里的多模型辯論和誤報消除機制,正是為了讓這個過程既快又穩(wěn),不至于演變成“狼來了”式的誤報警,把人搞到麻木。
但反方也不是沒有話可說。微軟這邊在用AI抓漏洞,網(wǎng)絡(luò)攻擊的對手同樣也在用AI武裝自己。原文就提到,就在我們討論AI防御的同時,已經(jīng)有AI輔助的黑客組織搞出了一套堪稱“社工天花板”的詐騙方案:他們用深度偽造技術(shù)模擬CEO形象和聲音,偽造Zoom會議,再配合一個嵌入惡意功能的“故障排查程序”,一步步把受害者引入圈套。這種攻擊鏈條幾乎把AI生成能力發(fā)揮到了極致,連視頻會議里看起來活生生的人都可能是假的。
所以,反方的擔憂就順理成章了——AI技術(shù)本身是一把誰都能拿起來揮舞的刀。微軟等大廠手握充足的計算資源和頂尖團隊,用AI找漏洞當然得心應(yīng)手,但那些靠AI發(fā)動攻擊的人同樣可以快速掃描目標系統(tǒng)、生成欺騙性內(nèi)容、甚至模擬正常用戶行為來繞過傳統(tǒng)檢測。在這種攻防兩端螺旋升級的態(tài)勢下,安全更新越來越多,可能不只是好消息,也意味著雙方都在加碼,而我們就像是坐在看臺上的觀眾,看著兩邊越打越厲害,自己還得時不時上場給系統(tǒng)打個補丁。
微軟并不是唯一一個在這條路上摸索的公司。Firefox的CTO今年就好一陣猛夸Claude Mythos這個AI模型的挖漏洞能力,說它幫著在瀏覽器里
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.