微小的圖像變化可以繞過人工智能的防護機制，使不安全反應的發生率幾乎翻倍

這是一張使用 JaiLIP 修改過的圖像。JaiLIP 由佛羅里達國際大學的研究人員開發，這種圖像處理方法已被證明能夠繞過某些人工智能模型內置的安全防護措施。圖片來源：Taimy Alvarez / 佛羅里達國際大學

來源：https://techxplore.com/news/2026-06-microscopic-image-bypass-ai-guardrails.html

在你看來，它可能像是一張熊貓的圖片，但對你公司的 AI 代理來說，它就像一把萬能鑰匙，可以繞過安全措施，并可能導致模型生成有害的、誤導性的或違反政策的輸出。

佛羅里達國際大學奈特基金會計算機與信息科學學院副教授哈迪·阿米尼(Hadi Amini)的最新研究聚焦于這一風險。他與研究生助理穆罕默德·朱埃爾·米亞(Md Jueal Mia)合作，研究篡改后的圖像如何“突破”某些人工智能系統的防線，使其超出內置的安全防護范圍。

阿米尼說：“人工智能模型看待圖像的方式與人類不同。它們看到的是數字和像素的模式。通過精心操縱這些像素，我們可以影響人工智能對圖像的解讀和反應?！?/p>

該團隊的研究表明，小語言人工智能模型（小型企業經常使用這類模型來執行諸如會計或客戶服務等日常任務）特別容易受到基于圖像的攻擊。正如發表在IEEE Xplore上的研究所示，該團隊發現，通過在圖像中引入稱為“擾動”的微小像素級變化，他們可以誘使這些人工智能系統生成通常會被阻止的響應。

阿米尼說：“篡改后的圖像就像一張陌生人的臉。人工智能必須學會謹慎對待請求才能做出回應。為了保護人工智能系統免受攻擊，我們會嘗試自行破解它們，識別潛在漏洞并設計防御機制。”

研究人員隨后著手探究系統的防御機制。他們越成功地突破模型的防御屏障，就越能訓練系統抵御未來的威脅。為此，阿米尼和他的團隊開發了一種名為 JaiLIP（基于損失引導的圖像擾動越獄）的方法，該方法使用一種算法來確定像素級操作的最佳程度。

研究人員和開發人員使用BLIP-2多模態人工智能模型進行測試時，Amini及其團隊發現，經JaiLIP修改的圖像顯著增加了系統生成有害或不安全響應的可能性。例如，一個經過JaiLIP修改的紅綠燈圖像欺騙了人工智能模型，使其泄露了如何闖紅燈以避免交通罰單的詳細說明?？傮w而言，使用JaiLIP圖像使人工智能模型生成的有害響應數量幾乎翻了一番。

風險不僅限于用戶向人工智能系統發出非法活動指令。隨著企業越來越多地采用人工智能客服代理、聊天機器人和自動化工作流程，開源或防護薄弱的系統中的漏洞可能會對用戶信任度產生負面影響，或為網絡攻擊開辟新的途徑。

阿米尼表示：“小型企業和公司可以利用人工智能來提高效率，但他們必須意識到潛在的漏洞。他們必須確保部署足夠的防護措施，以維護人工智能工具的安全性和完整性。”

阿米尼表示，在將人工智能融入企業或工作場所之前，每個人都應該采取一些基本的預防措施，包括限制向人工智能系統提供的敏感信息（尤其是圖像），限制誰可以訪問這些系統，以及在部署之前仔細評估人工智能工具中內置的安全措施。

由于安全至關重要，阿米尼和他的團隊正努力在人工智能領域領先于潛在的惡意行為者一步。他和他的團隊發現的漏洞越多，人工智能就能越快地學會修復它們。他表示，真正的挑戰在于確保人工智能能夠識別出隱藏在顯而易見之處的威脅——即使人類無法識別。

閱讀最新前沿科技趨勢報告，請訪問21世紀關鍵技術研究院的“未來知識庫”

未來知識庫是 “21世紀關鍵技術研究院”建 立的在線知識庫平臺，收藏的資料范圍包括人工智能、腦科學、互聯網、超級智能，數智大腦、能源、軍事、經濟、人類風險等等領域的前沿進展與未來趨勢。目前擁有超過8000篇重要資料。每周更新不少于100篇世界范圍最新研究資料。 歡迎掃描二維碼或訪問https://wx.zsxq.com/group/454854145828進入。

截止到2月28日 ”未來知識庫”精選的百部前沿科技趨勢報告

（加入未來知識庫，全部資料免費閱讀和下載）