MediaTek運用MetaLlama 2大語言模型,賦能終端設備生成式AI應用

2023-08-24 18:20:57    編輯: robot
導讀 2023年8月24日– MediaTek今日宣布利用Meta新一代开源大語言模型(LLM)Llama2以及MediaTek先進的AI處理器(APU)和完整的AI开發平台(NeuroPilot),建立...

2023年8月24日– MediaTek今日宣布利用Meta新一代开源大語言模型(LLM)Llama2以及MediaTek先進的AI處理器(APU)和完整的AI开發平台(NeuroPilot),建立完整的終端側AI計算生態,加速智能手機、物聯網、汽車、智能家居和其他邊緣設備的AI應用开發,爲終端設備提供更安全、可靠和差異化的使用體驗。預計年末採用MediaTek新一代天璣旗艦移動芯片的智能手機支持由Llama2模型开發的AI應用,可爲用戶帶來振奮人心的生成式AI應用體驗。


MediaTek資深副總經理暨無线通信事業部總經理徐敬全博士表示:“生成式AI的日益普及是數字化轉型的重要趨勢之一,我們的愿景是爲Llama2的开發者和終端用戶提供工具,帶來更多令人興奮的AI創新機遇和產品體驗。通過與Meta的夥伴關系,MediaTek可提供更強大的硬件和軟件整體解決方案,爲終端設備帶來遠超以往的功能和體驗。”

目前,大多數生成式AI都依賴雲計算,MediaTek基於Llama2模型成功實現直接在終端設備上運行生成式AI應用。這將爲开發者和用戶提供獨特優勢,包括無縫的使用體驗,更強的用戶信息安全和可靠性,更低延遲,離线運算的能力以及更低的運營成本,讓每個人都能享受到生成式AI帶來的便捷與創新。

要在終端設備上充分釋放生成式AI的潛力,設備制造商需採用高算力、低功耗的AI處理器(APU),並通過更快、更可靠的網絡連接來增強設備的整體算力。如今,每一顆MediaTek5G智能手機SoC均搭載AI處理器,已廣泛執行生成式AI應用成功案例,例如AI降噪(AI-NR)、AI超級分辨率(AI-SR)以及AI運動補償(AI-MEMC)等。

MediaTek將於年末推出新一代旗艦移動芯片,將採用針對Llama2模型而優化的軟件棧(NeuroPilot),與搭配支持Transformer模型做骨幹網絡加速的升級版AI處理器(APU),可減少動態隨機存取內存(DRAM)的讀寫消耗和帶寬佔用,進一步強化大語言模型和生成式AI應用的性能,助力开發者打造令人驚豔的AI應用,加速終端設備AI應用落地發展。



標題:MediaTek運用MetaLlama 2大語言模型,賦能終端設備生成式AI應用

地址:https://www.utechfun.com/post/253051.html

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。

猜你喜歡