廣東
來源：整理自外媒
英國《金融時報》5月16日信息，安永加拿大已撤回一項關于忠誠度獎勵計劃的研究報告，該報告中包含明顯的AI“幻覺”內容和虛假引用腳注。這是專業服務公司在使用新技術過程中出現問題的最新案例。
該研究曾被EY加拿大的咨詢團隊用于宣傳其網絡安全業務。然而，在線研究人員發現，報告中使用了虛構數據、錯誤歸屬的引用，并提及一份并不存在的麥肯錫報告。
報告標題為《攻擊點：揭露忠誠度系統中的網絡威脅和欺詐》（《Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems》）。
在研究小組GPTZero于周四晚間發現問題后，EY加拿大已將該報告從官方網站移除。并“正在審查導致該文章發布的情況”，并補充稱該研究與任何客戶工作無關。安永還強調，其“加拿大分部高度重視發布內容的準確性，并在組織范圍內承諾負責任使用AI”。
調查發現，27個引用中有16個是虛假的。我們收到的郵件中寫道：“雖然這份報告署名為三名員工，其中包括兩名合伙人和一名高級經理，但它實際上是由錯誤歸因、不準確的統計數據和人工智能生成的文本拼湊而成。例如，報告中引用的福布斯、麥肯錫、Gartner、TechCrunch和WIRED等研究機構的鏈接要么是失效的，要么根本就不存在。”
GPTZero研究人員在博客中寫道：“在線發布報告本質上是向互聯網知識庫注入數據。當報告包含虛假信息時，可能誤導未來的研究者，尤其是當報告由知名咨詢公司發布并托管在高流量網站上。”
AI生成的“幻覺”內容已成為專業服務行業的持續問題。
去年十月，德勤（Deloitte）澳大利亞分公司受澳大利亞聯邦政府委托，制作一份價值44萬澳元的福利審查報告，但報告中被發現存在多個錯誤，包括虛構的引用和不準確的信息，這些問題被歸因于AI生成的幻覺。
去年11月，，加拿大政府委托德勤撰寫的一份醫療保健報告耗資近 160 萬加元（113 萬美元），其中可能包含人工智能生成的錯誤。
盡管都已解決，但是這些令人尷尬的事件凸顯了使用人工智能技術給咨詢公司帶來的危險，尤其是“幻覺”的危險。
在一文中，曾表示咨詢公司未來的一個重點就在于品牌宣傳"AI可信化"：
案例包裝：強調“AI+老師傅”組合，例如：“某項目用智能工具7天完成傳統團隊1個月的工作量，但最終建議由20年經驗的合伙人親自把關”。
行業標簽：主打“垂直領域專家”，例如“專注快消行業AI轉型，模型庫含100+區域經銷商實戰案例”。
風險對沖：對外承諾“所有AI結論均經過人工復核”，規避客戶對數據可靠性的質疑。
盡管AI存在幻覺風險，但是咨詢大廠，卻仍然加大在這方面的投入，并向客戶推廣AI實施服務。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
