北京
周三早上，你剛坐下就收到一封“HR部門”的郵件——主題是“緊急薪酬調整確認”，發件人簽名和公司模板一模一樣。你差點點開那個鏈接，直到發現發件域名字母拼錯了一個。這種場景每天都在無數企業上演，而生成式AI正讓釣魚郵件難辨真假。
肖曼·戈斯馬瓊德曾是谷歌的“點擊欺詐沙皇”，主導建設了保護廣告系統免受欺詐的防線。后來他創辦Shape Security，2020年以10億美元賣給F5。如今他帶著新公司Reken殺回來了，目標直指他所說的AI時代最大安全威脅——在線通信的信任崩塌。經過兩年隱身研發，Reken今天推出了一款設備端AI安全平臺，以及該平臺的首個產品：防釣魚欺詐工具Northstar。
Reken的核心平臺名為Private Core，是一套直接在用戶設備上運行的小型專有AI模型，通信數據無需傳到云端分析。相比之下，不少競品如Abnormal和Doppel雖然也用AI分析通信內容，卻大多依賴云服務傳輸數據。戈斯馬瓊德指出，數據上云不僅帶來額外泄露風險，還可能因延遲讓用戶抓狂。一些公司還在使用OpenAI、Anthropic、谷歌DeepMind提供的模型，進一步推高了成本。另據報道，谷歌和蘋果都在研發設備端AI釣魚檢測功能，不過至今誰都沒推出實際產品。
研發上最主要的骨頭是：如何讓AI模型在普通企業筆記本（沒有GPU）上實時攔截威脅，同時又保持分析質量。“你可以拿一個大語言模型，想辦法量化壓縮，讓它在沒有GPU的機器上運行，”戈斯馬瓊德對《財富》表示，“可如果運行速度還是和完整大模型一樣慢，就沒法在有效時間內給出結果。”他聲稱Reken同時解決了性能和速度兩個問題。
Northstar這個首款產品被設計成企業安全意識培訓的替代方案。戈斯馬瓊德認為，隨著網絡釣魚和授權推送支付欺詐日益復雜，那些培訓基本白費力氣。“我們不應該強迫員工變成數字取證調查員，”他吐槽道，“我們需要的是能在威脅發生瞬間出手的AI，能揪出人眼根本看不到的陷阱。”
市面上還有一類思路，是用AI模型去識別郵件或消息是否由AI生成。但這條路正在被現實扇耳光：公司大規模用AI起草郵件、寫文案，絕大多數AI生成文本壓根無害。死板地標記所有AI內容，只會淹死在誤報的汪洋里——你難道要把老板用ChatGPT寫的會議邀約也關進垃圾箱？
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
