![]()
AI助手Kimi疑似泄露用戶隱私?該消息被用戶發文爆料之后,迅速引發外界強烈關注。
4月20日,用戶發文爆料稱,他在使用月之暗面開發的AI助手Kimi之時,驚現其發布疑似其他用戶個人簡歷的情況,而這份簡歷當中,包括其姓名、電話以及郵箱等個人敏感信息。
![]()
1
而接下來的情況,讓人大為驚恐。
這個爆料人用那份簡歷當中的聯系方式,竟然聯系到了被泄露個人簡歷的用戶本人,雙方溝通后發現,這個被泄露簡歷的用戶曾在同一時間段內,將個人簡歷發給Kimi進行優化。值得留意的是,當時他發的是文檔格式,并非公開信息。
![]()
上述爆料人對此發投訴郵件至Kimi官方,24小時過去后,對方沒有回應。
而這一社交平臺的發文迅速引發外界關注的同時,也有自稱Kimi的工作人員的人,聯系爆料人進行溝通。其對此解釋為“AI幻覺”,并且希望爆料人將發文刪除掉。不過爆料人不認可解釋原因,并且拒絕刪除發文。
其實,該事件的受害者是那個個人簡歷被泄露的用戶,該用戶得知情況后,也采取了行動,試圖保存此前上傳簡歷的記錄,可是其發現Kimi客戶端無法保存該記錄。
2
伴隨著輿論持續發酵,網友紛紛討論事件背后的大模型數據安全問題。
不少自稱了解大模型技術的網友認為,事件不大可能是由“AI幻覺”引發,更大概率的原因可能是,在高并發請求的壓力下,大模型的后端系統出現嚴重的“緩存串號”或“哈希碰撞”。
![]()
也就是說系統在一對多的情況下,批量分發結果時發生標識符錯亂,從而將將處理后的個人簡歷發錯了對象。
不過上述原因也僅為網友的個人猜測,不能將其確認為事件發生的原因。
事件持續發酵后,自稱Kimi官方工作人員的人,又聯系到爆料人,重新給出新的解釋,稱是“發串”了,也就是上邊網友分析的的那種情況,將給B(提出優化個人簡歷的人)用戶的回復,發給了A(爆料人)。
不論什么原因,負面影響已經產生。事件受害者有權對個人信息的泄漏進行正當維權。而不少用戶對使用AI助手的信息安全打上了問號,在信任度上勢必會有所降低。
![]()
在安全風險頗高的當下,提醒用戶的一些個人敏感信息,盡量避免發給AI助手處理。
不論是底層模型的記憶混亂,還是工程架構方面的緩存串號,月之暗面公司出現這種大離譜的事件,說明自身存在著不容忽視的系統隱患。
而企業跑得越快、做得越大、用戶規模越多,就意味著平臺責任越來越重。此事件提醒該企業,技術創新與應用落地的狂奔之下,安全風控一直是其是否可長久發展的底座。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.