浙江
初創(chuàng)公司PrismML近日正式確認(rèn)，該公司正在與蘋(píng)果公司就其人工智能模型壓縮技術(shù)進(jìn)行溝通。此前關(guān)于該技術(shù)適用于iPhone的報(bào)道在五天前首次浮出水面，如今這一合作傳聞得到了來(lái)自官方層面的證實(shí)。
人工智能處理領(lǐng)域目前面臨的主要挑戰(zhàn)之一，是管理絕大多數(shù)普通電腦和智能手機(jī)難以獨(dú)立承載的龐大模型。PrismML于7月9日正式公開(kāi)了一種能夠?qū)⑦@些大模型壓縮至更易于管理尺寸的解決方案。7月14日，PrismML首席執(zhí)行官巴巴克·哈西比（Babak Hassibi）在接受CNBC采訪時(shí)明確表示，蘋(píng)果及其他公司目前正在評(píng)估其模型。雖然哈西比并未透露具體的談判細(xì)節(jié)，但他表示雙方的交流尚處于非常早期的階段，且“進(jìn)展順利”。外界推測(cè)，此次洽談的范圍可能涵蓋從技術(shù)授權(quán)到蘋(píng)果直接收購(gòu)該初創(chuàng)公司等多種可能性。
對(duì)于蘋(píng)果而言，PrismML所研發(fā)的技術(shù)極具吸引力。蘋(píng)果一直致力于將盡可能多的AI處理工作留在設(shè)備端完成，但受限于目前的硬件內(nèi)存大小，其功能拓展受到了一定約束。PrismML的技術(shù)能夠大幅度縮減模型體積，使其理論上可以運(yùn)行在iPhone的內(nèi)存中，從而擺脫對(duì)云端處理的依賴。
以PrismML周二發(fā)布的Qwen模型為例，該模型原本是一個(gè)擁有270億參數(shù)、體積達(dá)54GB的龐大系統(tǒng)，通常僅適用于擁有64GB或更多內(nèi)存的Mac設(shè)備。然而，在應(yīng)用PrismML的壓縮技術(shù)后，該模型體積被縮減至4GB以下，這使得其能夠被iPhone 15 Pro及其Pro Max版本中配備的8GB內(nèi)存輕松處理。
在設(shè)備端完成模型處理符合蘋(píng)果對(duì)隱私和安全性的考量，同時(shí)也消除了設(shè)備對(duì)互聯(lián)網(wǎng)連接的持續(xù)依賴。不過(guò)，這種模型壓縮并非沒(méi)有代價(jià)。哈西比確認(rèn)，與完整版模型相比，壓縮后的模型在性能上會(huì)損失幾個(gè)百分點(diǎn)，且在處理邏輯推理、數(shù)學(xué)運(yùn)算及代碼編寫(xiě)任務(wù)時(shí)表現(xiàn)稍弱。
這項(xiàng)技術(shù)的發(fā)展及其帶來(lái)的設(shè)備端處理潛力，將對(duì)持續(xù)進(jìn)行的AI基礎(chǔ)設(shè)施建設(shè)產(chǎn)生深遠(yuǎn)影響。當(dāng)前，由于AI公司大規(guī)模建設(shè)數(shù)據(jù)中心，導(dǎo)致全球內(nèi)存和芯片供應(yīng)鏈面臨緊缺壓力。若能通過(guò)技術(shù)手段讓智能手機(jī)等內(nèi)存受限的設(shè)備承擔(dān)更多AI處理任務(wù)，將有效降低對(duì)云端服務(wù)器的依賴，從而在宏觀層面上緩解對(duì)龐大AI基礎(chǔ)設(shè)施的需求。這不僅意味著iPhone或Mac上能實(shí)現(xiàn)更強(qiáng)大的Siri功能，也為更多類(lèi)型的邊緣設(shè)備部署本地化人工智能應(yīng)用打開(kāi)了空間。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
