讓終端“擁抱”生成式AI,高通改革行業新標准

2023-11-10 18:23:00    編輯: robot
導讀 2023年10月,高通在夏威夷召开了2023驍龍峰會,發布第三代驍龍8移動平台、驍龍X Elite兩款終端產品,它們相比上代不僅性能獲得提升,還用目前大火的“生成式AI”賦能實際體驗,展現出引領行業...

2023年10月,高通在夏威夷召开了2023驍龍峰會,發布第三代驍龍8移動平台、驍龍X Elite兩款終端產品,它們相比上代不僅性能獲得提升,還用目前大火的“生成式AI”賦能實際體驗,展現出引領行業的硬實力。

高通公司CEO安蒙也在本次會議上表示,驍龍在助力塑造和把握終端側生成式AI機遇方面獨具優勢,未來驍龍賦能的生成式AI體驗將無處不在。


歷經十余年,高通在AI研發方面深耕已久,不斷突破可能性。落實到終端方面,AI能讓感知、推理和行爲等核心能力帶來更加高效、智能的交互體驗。如今,AI已經與CPU、GPU等能力同級,躍升爲評價終端的關鍵標准。

1  賦能移動終端平台 AI已能做得更多

作爲驍龍AI引擎的核心,Hexagon處理器最早在2007年就發布了其首個版本。最初,DSP僅僅是被用於語音和簡單的音頻視頻解碼播放,能在無延遲、無失真的情況下流式傳輸音頻,消除背景噪聲。

2015年,Hexagon 680賦能的驍龍820芯片逐漸被國內用戶所熟知,小米5、三星GALAXY S7 Edge等旗艦機都展現出其強勁實力。Hexagon 680具備高效多线程可編輯計算引擎,支持音頻和圖形任務的並行執行以及新架構擴展支持圖像功能,同時維持驍龍工具鏈,由此爲用戶在視覺、拍攝等方面帶來全新的用戶體驗,同時還能保證較低的功耗水平。


在弱光情況下,驍龍 820可通過ISP 和 DSP 自適應地增亮視頻和照片中較暗的區域

2018 年,驍龍 855 中搭載的 Hexagon 780處理器增加了張量加速器,能以更低的功耗提供高效的標量運算;2019 年,驍龍 865 上擴展了終端側 AI 用例,包含 AI 圖片、AI 視頻、AI 語音和始終在线的傳感器中樞。

到了第二代驍龍8移動平台,Hexagon處理器已經與KryoCPU、Adreno GPU高效協同工作,使得AI能力出現了翻天覆地的變化。比如這款平台搭載了全新升級的Hexagon處理器,並具備INT4精度AI計算能力,在持續AI推理方面能夠實現60%的能效提升、90%的性能提升,處理自然語言方面的任務時,能夠實現4.35倍的AI性能提升。

高通AI引擎不僅支持傳統數據處理AI用例,需要極高算力的生成式AI模型也已不再觸不可及。第二代驍龍8移動平台已經可以支持參數超過10億的AI模型運行,甚至能讓StableDiffusion在智能手機上高效運行,15秒內執行20步推理,生成一張生動的高清圖像。


全球首個運行在Android手機上的Stable Diffusion終端側演示

如今,AI能力已經貫徹到整個芯片的所有關鍵領域,拍照時可以自動識別場景並調整拍攝參數,亦或在自拍時優化人物面部,小白也能一鍵出片;音頻AI降噪能讓通話更加清晰;遊戲表現方面能帶來暢快穩定的網絡連接,到順滑流暢的觸控操作,再到極致的畫質體驗等等,貫穿了整個芯片的關鍵領域。

2  高通終端側AI具備技術優勢 引領行業發展

生成式AI發展之初,由於計算規模巨大,運算處理基本都匯集在雲端進行。但如今爲了提升用戶的體驗,AI能力需要落實到數十億終端設備,成本也會呈幾何式提升。因此,高通致力於推出“混合AI”架構,即雲端和邊緣終端之間分配並協調 AI 工作負載的處理方式,而普及端側AI就是其中的重要一步。

值得注意的是,高通在端側AI領域具有自己獨特的優勢,其業務遍布全球以及各個行業,採用高通解決方案的終端設備規模十分龐大,每年還有每年有數億台的新終端還在進入市場,完全滿足終端側AI大規模落地的需求。

如果你對終端產品有所了解,一定會感嘆於近幾年的SoC芯片迭代之迅速。現如今,旗艦SoC芯片中的CPU、GPU算力已經足以爲用戶帶來出衆的遊戲體驗,性能已經不再成爲用戶的優先關注點;而ISP、音頻、5G、Wi-Fi等能力也已滿足用戶需求,今時今日哪怕是最入門的驍龍移動平台產品也能擁有不錯的使用體驗,更遑論那些加持了更高級驍龍芯片的中高端產品和旗艦機型了。


在終端產品支柱能力基本滿足體驗之後,AI能力現在已經成爲評價終端的關鍵標准,於2023驍龍峰會上發布的第三代驍龍8就是高通技術公司首個專爲生成式AI打造的移動平台,讓生成式AI賦能用戶創作獨特內容,引領終端側智能新時代。

3  集終端側智能、頂級性能和能效於一體 第三代驍龍8移動平台賦能體驗

爲了滿足端側AI的運算需求,第三代驍龍8移動平台內置的AI引擎Hexagon全面升級,高通專門其爲其配備了獨立的供電電路,能效提升了40%,整體性能提升達到98%。另外,Hexagon NPU矢量單元與內存之間增加了直連通道,處理效率更高。


全新的第三代驍龍8移動平台支持包括Meta Llama 2在內的多模型生成式AI,其可處理的大模型參數超過100億,每秒可執行最多20個tokens。高通還爲其提供了全新的一體化AI Stack开發平台,首發支持20多個不同模型,支持Pytorch等各種AI框架。

在強大的AI算力支持下,驍龍手機能夠在端側實現很多新玩法。比如通過StableDiffusion在智能手機上快速生成圖像,只需要不到1秒的時間,即可在本地生成圖片,速度上甚至比雲端大模型更具優勢,而且在隱私方面的表現也更讓用戶放心。

與此同時,各大手機廠商也憑借驍龍移動平台的AI實力,定制推出了面向端側的大模型。11月初,vivo發布全新藍心大模型,能理解用戶給出的文字內容,並給出准確、貼切的回答,或者完成文字查找、要點總結便利功能。

可以預見,生成式AI將在人們的科技生活中起到舉足輕重的作用,利用大規模終端側 AI 處理也有着廣闊前景。或許在不久的將來,AI能力將成爲評估芯片的最關鍵標准之一。



標題:讓終端“擁抱”生成式AI,高通改革行業新標准

地址:https://www.utechfun.com/post/289236.html

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。

猜你喜歡