作者:李寧遠物聯網智庫 原創
目前AI技術正與終端產品快速融合,推動了以消費電子代表的諸多終端硬件產品的創新。2024年極具代表性的AI Phone、AI PC等創新端側AI產品也的確激發了新的市場,以更智能的功能刺激了消費需求,給我們日常生活帶來智能化改變的同時,也帶動了上下遊產業鏈加速創新。
蘋果在2024年將Apple Intelligence引入iPhone ,雖然近期交易平台SellCell的一份報告顯示絕大多數用戶認爲Apple Intelligence功能目前並未帶來明顯的價值提升,但這並不影響智能設備的未來方向——減少雲端依賴,重點發展端側AI。
爲了提升端側AI競爭力,強大的硬件性能支持是前提,對於芯片側的要求會聚焦在算力、內存、功耗、工藝、面積、散熱等方面,其中存儲芯片是極爲關鍵的一環。
爲了進一步提高iPhone的端側AI性能,根據韓媒報道,三星應蘋果公司的要求,开始研究新的低功耗雙倍數據速率LPDDR DRAM封裝方式。
此前蘋果的LPDDR DRAM堆疊在整個SoC上,體積緊湊,便於降低功耗與延遲,是板上空間受限的消費電子設備常用的封裝方式。蘋果希望通過分开封裝DRAM和SoC,增加I/O引腳數量提高數據傳輸速率和並行數據通道,提高內存帶寬以增強 iPhone的端側AI能力。
此前亦有報道稱三星還可能嘗試爲iPhone DRAM 應用專爲設備端AI設計的LPDDR6-PIM(內存內置處理器)技術。
AI技術應用場景從雲端擴展到端側設備,給存儲市場帶來了新市場需求,同時也推動了存儲芯片在端側的持續創新。
從雲到端,AI催生存儲“芯”需求
在雲端,AI依賴於大規模的數據中心和高效龐大的存儲系統來存儲、傳輸並處理數據。數據中心有着大規模集群式的存儲硬件來應對海量數據,而在端側,AI需要在計算資源、存儲資源受限的設備上實現實時、低功耗的數據處理,這對存儲芯片的容量、速度和能效提出了全新的要求,也推動了存儲技術革新。
根據國際知名調研機構TechInsights發布的《2025存儲器市場展望》,存儲器市場包括DRAM和NAND,預計在2025年將實現顯著增長,這主要得益於人工智能(AI)及相關技術的加速採用。報告中同樣表示隨着邊緣AI變得更加普及,將推動對適合這些新功能的內存解決方案的需求。
來源:TechInsights
從今年的幾個市場來看,CFM閃存市場數據,2024年手機存儲需求同比去年增長4%,PC市場存儲需求同比增長8%,而且端側AI已經开始推動這些領域的終端設備內存儲芯片的更新換代。
AI手機領域,16G的DRAM可以說已經是AI手機最低的基本配置,AI PC領域同樣,更快的數據傳輸速度、更大的存儲容量和帶寬需求也帶動了主流LPDDR5x和LPDDR5T產品的需求。如微軟發布的AI PC求內存容量最低爲16GB,搭載新處理器的AI PC已普遍將內存提升至了32GB,爲AI模型的部署升級留下充足空間。
AI智能眼鏡、AI TWS耳機今年也是紛紛上新,AI TWS耳機中功能更多,爲了存儲更多固件和代碼程序,就需要外擴串行NOR Flash。當前幾款已發布的AI耳機中NOR Flash容量較之普通TWS耳機也有了比較大的提升,基本上實現了翻倍來支持內置的AI新功能。
對端側AI設備來說,算力和數據的加持實現了各種智能功能,而這些數據存放在哪裏,如何高效讀寫這些數據,需要更強大的存儲芯片爲其提供助力。
科技產品的創新往往是牽一發而動全身,爲實現某一功能,需要整個終端配置協同更新。最終體現在消費者面前的可能僅僅是某一個具體的簡單好用的功能點,而在其背後是軟硬件先進技術數年不斷迭代。端側AI設備功能實現背後存儲器技術革新是貼切的寫照,存儲器更大容量更高讀寫速度更低功耗背後亦是整個半導體產業鏈制程技術迭代的體現。
存儲芯片與端側AI設備協同演變
存儲產品在我們日常生活中隨處可見,其主要功能包括數據的存儲、讀取、寫入和擦除,而其分類則根據存儲介質的不同,又有隨機存取存儲器(RAM)、只讀存儲器(ROM)、閃存(Flash Memory)等多種類型。目前各類智能終端中應用的存儲芯片主要有如下幾種。
DRAM
動態隨機存取存儲器,是最常見的系統內存類型,用於存儲臨時數據和正在處理的數據,是最大規模的單品市場。在AI智能手機、AI PC等智能終端中,DRAM用於提供快速的數據訪問和處理能力,前文已提到AI終端已經开始換上更大容量更高讀寫速度的DRAM,隨着AI應用的發展,對高性能DRAM的需求仍在不斷增長。
NAND Flash
NAND Flash閃存是一種非易失性存儲器,用於長期數據存儲。在智能終端如AI手機、AI PC、AI Pad中,NAND Flash用作內部存儲,存儲操作系統、應用程序和用戶數據。未來端側設備操作系統肯定會搭載大模型以及其他AI應用程序,端側設備會需要更高的NAND Flash容量用於長期存儲。
NOR Flash
NOR Flash也是一種非易失性存儲器,常用於存儲啓動代碼和固件。它在需要快速啓動和執行的設備中尤爲重要,上文提到的AI TWS耳機就是典型的應用。市場上各類AI硬件對NOR Flash容量需求增加已經是確定性的趨勢,尤其是中大容量NOR Flash。
UFS
高性能的通用閃存存儲方案,在高端移動設備中應用。UFS4.0版本,其最高讀取速度已經達到了4200MB/s,寫入速度也能達到2800MB/s。端側AI性能的發揮離不开高效的數據流轉,UFS 4.0存儲技術正好能夠爲之提供支持。隨着端側AI軟件層面的持續優化以及UFS 技術向更多端側設備普及,端側AI設備將擁有更強大的學習能力和更快的響應速度。引用鎧俠對UFS前景描述的原話,“現代手機正進入一個由端側AI(On-Device AI)與先進存儲技術協同發展的新時代”。
LPDDR
一種低功耗版本的DRAM,即低功耗雙倍數據速率,是爲移動設備設計以減少能耗的方案。LPDDR5和LPDDR5x提供了更高的數據傳輸速率和更低的功耗,LPDDR6也敲定在即,將全面適配AI計算需求,用更高頻率更高帶寬支持端側AI設備。
HBM
HBM的火熱程度想必都有所耳聞,它本質上是一種高性能的3D堆疊DRAM,擁有極高的帶寬和存儲密度,適用於需要處理大量數據的AI和高性能計算應用,主要用於服務器和數據中心等高性能計算領域。
爲什么在端側設備存儲中仍舊將其列了出來呢?因爲端側設備开始搭載HBM已經在內存大廠的推進日程中。此前就有報道SK海力士正在將HBM導入汽車領域,在移動端側設備領域,三星與海力士同樣在做端側HBM產品研發,初步估計2026年能實現商業化。
大大小小各類存儲芯片在端側AI設備紛紛落地的推動下,迎來了新的市場需求,同時也在不斷升級以適配端側AI設備對存儲的新要求。目前看來存儲產品在端側AI設備的協同演進上主要在這幾方面做了提升。
數據處理速度與內存帶寬
端側AI應用對即時數據處理和快速響應的需求是明確的,這依賴於存儲芯片有着極高的數據讀寫速度,這樣才能體驗端側AI實時的特點。同樣,隨着端側大模型引入,對內存帶寬的需求也隨之增長,要求存儲芯片能夠在短時間內完成大量數據的讀寫操作,並支持高並發的數據訪問請求,解決內存牆問題實現在受限的資源下釋放端側大模型性能。還需要通過優化存儲結構和算法,提高存儲空間的利用率和數據的讀寫效率。
能效管理與小型化
在端側AI與存儲芯片的協同優化中,能效管理與芯片小型化是匹配端側智能設備高效運行的關鍵。端側AI設備存儲目標是以最高效的方式將AI模型從存儲加載到內存中。爲此,需要在不增加功耗的前提下,獲得盡可能高的吞吐量。如何降低功耗、節省空間是每家原廠都在琢磨的。如美光科技針對AI PC开發的LPDDR5X與傳統SODIMM產品相比就將功耗降低了58%,空間節省了64%。
落地端側,存儲探索更多可能
端側AI設備的快速發展,倒逼了存儲芯片整體性能的革新,新型存儲技術也在新趨勢下加速發展。
如MRAM磁阻隨機存取存儲器,它是一種基於隧穿磁阻效應的存儲器,具有讀寫次數無限、寫入速度快、功耗低特點,兼具非易失性和高速讀寫的特性,非常契合需要快速響應和持久保存數據的端側本地存儲。
MRAM與邏輯芯片集成度高的特點也能在設備小型化上提供助力,在端側設備深入應用的未來,MRAM有望能匹配傳統存儲器的應用需求,與其他存儲器結合,爲端側AI設備存儲上性能、容量和成本的平衡。
另一個隨着AI應用普及开始被重視的方向,則是存算一體化,根據不同側重還能細分到近存計算、存內處理和存內計算。對數據處理速度和存儲效率的要求不斷提高,傳統與計算分離的存儲解決方案日後或許承載不了端側AI對實時性和能效的需求。
在內存內核中集成NPU等AI引擎來處理一些計算、處理功能,避免了傳統架構中數據在存儲器和處理器之間頻繁傳輸所產生的延遲,可以實現更快的數據訪問速度和更低的能耗,這對於需要本地實時響應的端側應用場景尤爲重要。對算力、功耗和實時性有較高要求的衆多移動端側AI設備,如AI手機、AI PC、AI可穿戴設備、AI智能家居日後都可能選擇該技術路线。
寫在最後
端側AI給存儲芯片市場帶來了新的發展機遇和挑战,端側AI功能不斷擴展和深化,對存儲的性能和功耗要求將越來越高,整個產業鏈上下遊全力推進技術革新保持競爭力;另一方面,隨着新型存儲技術的不斷湧現以及端側AI設備存儲芯片需求打开,市場競爭將更加激烈,這對於國內存儲芯片廠商也是一個崛起機會。
回到文章开頭的故事,雖然目前端側AI設備還並沒有做到真正的智能,但有一句話是這樣說的,“人們總是高估短期,而低估長期科技能力”,未來具有真正意義上設備端AI功能的產品功能會讓人意想不到。而隨着端側AI設備功能的不斷成熟和應用場景的拓展,存儲芯片將迎來新的前景和機遇。
原文標題 : 端側AI時代,存算一體化漸成"標配",倒逼存儲"芯"革命
標題:端側AI時代,存算一體化漸成"標配",倒逼存儲"芯"革命
地址:https://www.utechfun.com/post/464083.html