北京
關(guān)于“龍蝦”的“黑色幽默”，是真的越來越多了。
這個由奧地利程序員用一個周末寫出的開源軟件，自去年11月發(fā)布后，迅速在開發(fā)者社區(qū)躥紅，并如野火般蔓延進普通用戶的電腦。無數(shù)人為之著迷，堅信它已經(jīng)“改變了一切”。
然而，被狂熱掩蓋的風險，正隨著一個個真實的事故，浮出水面。
1
一只養(yǎng)了僅10天的AI智能體“龍蝦”瘋癲出圈了。它在3000人群里被“調(diào)戲”，下一秒離譜泄密主人信息，竟然還教育當事人要“寬恕”，這是幾個意思？
據(jù)報道，近日，有個剛養(yǎng)了10天的AI智能體“龍蝦”，在一個超3000人的“龍蝦”聚會社群里被“調(diào)戲”，剛開始它正常應(yīng)答互動。誰承想，短短數(shù)分鐘后，它就似乎“失控”或“失心瘋”了。它竟然直接把主人的IP 地址、真實姓名、所屬公司，還有過去一年主人公司的整年營收數(shù)據(jù)全都貼出來了。
主人震驚之余對這只“龍蝦”進行教育，并指令它去罵一頓泄露信息的人，它不但不照做，還反過來教育主人說“我們要學(xué)會寬恕”。你做錯事不反思還教育起了主人，這也太讓人無語了？！
2
沒有最瘋魔，只有更瘋魔。另外一只“龍蝦”，竟然在主人將自己的支付信息，開放給它僅僅5分鐘期間，主人的信用卡就被盜刷了三筆。
那是3月1日的時候，一位投行人士，他試圖體驗“龍蝦”幫自己在一些平臺比如谷歌、ChatGPT等賬號上續(xù)費的服務(wù)。主人把自己的支付信息開放給它，給出幫忙完成上述賬號續(xù)費的指令，同時也想讓這只“龍蝦”幫忙訂外賣以及購物。
面對不少賬號需要完成驗證碼操作的難題，“龍蝦”這方面不擅長，卻想出一個方法，建議開啟實時遠程桌面控制（VNC服務(wù)）。對此這位投行人士同意了。
這個功能一旦打開，VNC就被無密碼形式暴露在公網(wǎng)。僅僅5分鐘，主人信用卡就被盜刷了三筆，共40美元。另外一筆損失則是攻擊者用該投行人士的信用額度，在一些網(wǎng)上租用了服務(wù)器等設(shè)備，這部分損失大概在200美元。
雖然損失金額不多，但屬于“花小錢買大教訓(xùn)”，他的VNC竟然被139個不同連接訪問過。而且這只“龍蝦”竟然無法完全理解主人關(guān)閉VNC的指令，一段時間里端口仍然處于暴露狀態(tài)。
3
繼Meta的AI安全總監(jiān)Summer Yue被“龍蝦”刪空郵箱200多封郵件之后，又有“龍蝦”作妖把主人D盤給清空了。
今年春節(jié)，一個用戶本來想打開一個文檔，可發(fā)現(xiàn)D盤已被清空。
罪魁禍首正是他養(yǎng)的那只“龍蝦”。起初，該用戶發(fā)現(xiàn)“龍蝦”的文件路徑有些混亂，便指令它“修復(fù)一下”。然而，“龍蝦”的“大腦”——接入的大語言模型——給出了錯誤的解決方案。
它將“修復(fù)混亂路徑”理解成了“強制刪除所有相關(guān)文件”，并在沒有向用戶二次確認的情況下，將整個磁盤“洗劫一空”。
不得不承認，相比DeepSeek、ChatGPT這類“動嘴”的對話式AI，“龍蝦”的突破性在于，它能真正地“動手”。
它不只幫你“想辦法”，更能直接替你“做事”：查看郵件、整理文件、監(jiān)控股價、甚至幫你訂餐廳。它就像一個擁有手腳的AI，直接接入你的數(shù)字生活。
從“靠上門代裝‘龍蝦’賺了26萬”的傳說，到如今“幫忙卸載一次500元”的新生意，這只火爆全網(wǎng)的“龍蝦”只用了短短幾個月，就讓人們見識了AI助手的無限潛力，也嘗到了技術(shù)失控的苦澀。
科技總是迷人，它許諾一個更高效、更便捷的未來。但越是強大的工具，我們越需要花時間去了解它的工作原理、潛在風險以及自身的邊界。
在擁抱AI替我們“動手”之前，不妨先問問自己：我真的準備好交出控制權(quán)了嗎？我，真的了解這只“龍蝦”嗎？
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
