公眾號記得加星標??,第一時間看推送不會錯過。
Meta公司宣布,將從9月起開始生產一款新型定制AI芯片,這是其將整體計算能力提升至14GW計劃的一部分。這是該公司減少對外部芯片供應商依賴目標的一個重要里程碑。
這款代號為 Iris 的新芯片已順利完成測試階段,未出現任何重大問題,表明其已準備好投入生產。該芯片有望更高效地支持 Meta 的 AI 推理工作負載,同時幫助降低基礎設施成本。這將使 Meta 能夠更好地控制其快速擴展的 AI 基礎設施。
推出自主定制芯片的意義遠不止于芯片本身。在 BigDATAWire,我們一直關注著一個更廣泛的行業趨勢:超大規模數據中心運營商正試圖更多地掌控自身的人工智能基礎設施。許多人認為這是一個重要的戰略優勢,而 Meta 似乎也認同這一點。
擁有自主芯片的最大優勢或許在于降低運營成本。Meta 每天在 Facebook、Instagram、WhatsApp 和 Meta AI 等平臺上執行數十億次推理請求。即使每瓦性能或每次推理成本僅提升 10% 到 15%,每年也能節省數億美元。
另一個關鍵優勢在于對英偉達的依賴程度較低,這意味著Meta無需根據芯片制造商的產品路線圖、定價或供應鏈波動來調整其戰略。這些都是Meta無法控制的因素,而擁有內部研發能力則能帶來更大的靈活性。反過來,這也使得Meta在與英偉達等供應商談判時擁有更大的籌碼。
Meta 還能使用針對自身工作負載優化的芯片。與旨在支持各種 AI 應用的通用 GPU 不同,Iris 可以專門針對驅動 Meta 平臺的推薦系統、排名模型、廣告算法和 GenAI 服務進行定制。
Meta的另一優勢在于,它不僅可以優化芯片本身,還可以同時構建軟件、網絡和數據中心,從而使各個組件更高效地協同工作。在Meta的規模下,即使是整個系統中微小的改進也能產生顯著的影響。
打造定制人工智能芯片并非易事。設計一款新芯片需要數年時間,成本可能高達數十億美元。正因如此,只有少數公司擁有足夠的資金和工程技術人才來嘗試這項技術。
Meta還必須與英偉達競爭,這絕非易事。英偉達不僅制造了強大的GPU,還花費數年時間開發了使這些芯片發揮作用的軟件、網絡技術和開發者工具。構建這樣一個生態系統比制造芯片本身更具挑戰性。
值得注意的是,Meta 并非試圖為所有人打造芯片。Iris 是專為 Meta 自身的基礎設施和工作負載而設計的。Nvidia 的 GPU 仍然提供更大的靈活性,并且很可能繼續承擔 Meta 許多最大型的 AI 訓練任務。Meta 的理念很簡單,就是將更多的推理工作負載轉移到 Meta 自有且可控的硬件上。
這并非Meta首次涉足定制芯片領域。該公司此前已公布了其Meta訓練與推理加速器(MTIA)路線圖,其中包括為其自身基礎設施開發的數代AI芯片。Meta尚未確認Iris是否屬于該系列,但顯然遵循了相同的戰略。
Meta 在最近的一篇工程博客中強調了這一挑戰:“每天,Meta 平臺上的數十億用戶都能享受到各種各樣的 AI 驅動體驗,從個性化推薦到 AI 助手,應有盡有。”
“與此同時,定義下一代計算的人工智能模型的發展速度遠超任何單一硬件世代的預期。在全球范圍內服務于各種各樣的人工智能模型,同時保持盡可能低的成本,是業內最具挑戰性的基礎設施難題之一。”
Meta計劃在2027年之前大約每六個月推出一款新的AI芯片。這比傳統的每年或每兩年推出一款新芯片的速度要快得多。
為了支持這一擴張,該公司已與三星電子簽署了內存芯片長期供應協議,與閃迪簽署了閃存長期供應協議,并與住友電工簽署了光纖設備長期供應協議。預計僅在2026年,Meta就將在人工智能基礎設施方面投入高達1450億美元。這充分凸顯了其在人工智能領域的雄心壯志。
Meta并非唯一一家力推定制芯片的公司。谷歌有自己的TPU,亞馬遜有Trainium和Inferentia,微軟有Maia。它們都在為各自的AI工作負載打造芯片,而不是完全依賴英偉達的GPU。
但這并不意味著英偉達會退出市場。它的GPU幾乎肯定仍將是訓練大型AI模型的首選。然而,隨著AI對這些公司的重要性日益凸顯,擁有更多支撐AI的硬件可以幫助它們降低成本,并更好地掌控AI基礎設施的構建和擴展。
(來源:編譯自hpcwired )
*免責聲明:本文由作者原創。文章內容系作者個人觀點,半導體行業觀察轉載僅為了傳達一種不同的觀點,不代表半導體行業觀察對該觀點贊同或支持,如果有任何異議,歡迎聯系半導體行業觀察。
今天是《半導體行業觀察》為您分享的第4464內容,歡迎關注。
加星標??第一時間看推送
求推薦
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.