7月15日,據 CNBC 報道,蘋果公司正在與 PrismML 進行早期洽談,PrismML 是一家硅谷初創(chuàng)公司,由加州理工學院孵化,并由 Khosla Ventures 支持。
雙方討論的技術可以大幅縮小強大的 AI 模型的大小,使其可以直接在 iPhone 上運行。
PrismML 近日宣布,已將阿里巴巴開源的擁有 270 億參數的 Qwen 模型從約 54 GB 壓縮至不足 4 GB,使得所有 270 億參數都能在 iPhone 15 或更新機型上運行。
據該公司稱,其壓縮方法可將內存占用降低 10 到 15 倍,處理速度提高 6 到 8 倍,能耗降低 3 到 6 倍,而整體性能僅損失幾個百分點,其中事實記憶能力的下降幅度大于推理、數學和編程能力。
據報道,蘋果公司正在評估這項技術的速度、能效和設備端性能,這是其改進 Siri 和擴展設備端 AI 功能的整體計劃的一部分。在本地運行更多 AI 程序可以加快響應速度,通過將更多敏感數據存儲在設備上來加強用戶隱私,減少對云計算的依賴,并使某些 AI 功能能夠在沒有互聯(lián)網連接的情況下運行。
分析人士表示,這種方法可以支持更高級的應用,包括計算攝影、視頻生成以及處理個人信息的健康和健身工具。然而,他們也提醒說,PrismML 的說法仍需通過大規(guī)模的實際測試來驗證,尤其是在電池續(xù)航時間、可靠性和數百萬臺設備上的性能方面。
如果這項技術真如宣傳的那樣有效,它將有助于蘋果推進其人工智能戰(zhàn)略,同時強化其對隱私和軟硬件一體化的重視。這項突破可能會將更多人工智能處理工作從數據中心轉移到個人設備,但專家指出,它不太可能降低對處理器和內存芯片的整體需求。(鞭牛士、AI普瑞斯編譯)
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.