8月16日,MediaTek正式宣布與百度聯合發起飛槳和文心大模型硬件生態共創計劃,雙方將共同推進MediaTek硬件平台與飛槳和文心大模型的適配。目前雙方正在合作優化文心大模型在終端設備上的執行效果,將實現大模型在終端和雲端的協同工作,爲用戶帶來突破性的生成式AI應用體驗。
作爲推動AI進一步發展的先進技術,與單純在雲端部署生成式AI應用和服務相比,終端側部署生成式AI在節約服務器成本、保護用戶信息安全、提升實時性和實現個性化用戶體驗等方面具備明顯優勢。雙方的合作將支持基於MediaTek芯片的智能手機、汽車、智能家居、物聯網等終端設備上運行文心大模型,賦能終端設備提供更安全、可靠和差異化的使用體驗。
MediaTek與百度合作已久,雙方合作完成了PaddleLite 輕量化推理引擎基於MediaTek NeuroPilot 人工智能通用軟件平台的適配。
NeuroPilot是MediaTek爲开發者提供的基於本地端側的AI運算解決方案,它爲內建CPU、GPU和APU(獨立AI處理器)等異構運算單元的MediaTekSoC平台提供完整且強大的軟件解決方案。NeuroPilot支持开發者在現有和未來的MediaTek硬件平台以及包括智能手機、汽車、智能家居、物聯網等產品线實現“一次編寫,全場景通用”,幫助开發者在MediaTek平台上高效开發和部署基於神經網絡模型的AI應用程序。AI开發者可以使用主流的TensorFlow、Pytorch、TFLite、Caffe、Caffe2以及其他自定義的第三方通用AI框架來構建神經網絡模型,並接入到NeuroPilot系統,充分發揮MediaTekAI系統的強勁算力,顯著提高模型運行在設備上的效率,並降低功耗和內存消耗。
MediaTek無线通信事業部副總經理李彥輯博士表示:“百度飛槳深度學習平台和文心大模型在AI領域處於領先地位,我們雙方將聚焦AI大模型在終端側的部署,爲用戶提供更安全可靠,更個人化,更低成本的端側生成式AI解決方案,賦予終端設備更強大的AI能力。MediaTek攜手百度飛槳和文心大模型,通過AI端雲融合,將爲廣大开發者和終端用戶帶來更多令人興奮的AI創新機遇和產品體驗。”
生成式人工智能浪潮下,大模型正成爲新一輪科技革命和產業變革的重要驅動力量。MediaTek將持續攜手百度飛槳和文心大模型,加速終端側生成式AI的部署,共同打造軟硬一體的人工智能大模型平台,讓科技惠及大衆,爲千行百業賦能。
MediaTek是全球無晶圓廠半導體公司,在移動終端、智能家居應用、無线連接技術及物聯網產品等市場位居領先地位,一年約有20億台內建MediaTek芯片的終端產品在全球各地上市。MediaTek力求技術創新並賦能市場,爲5G、智能手機、平板電腦、智能電視、語音助手設備、可穿戴設備與車用電子等產品提供高性能低功耗的移動計算技術、先進的通信技術、汽車解決方案以及多媒體功能。MediaTek致力讓科技產品更普及,因爲我們相信科技能夠改善人類的生活、與世界連接,每個人都有潛力利用科技創造無限可能(EverydayGenius)。
飛槳(PaddlePaddle)是百度自主研發的中國首個开源开放、功能豐富的產業級深度學習平台,以百度多年的深度學習技術研究和業務應用爲基礎,集核心框架、基礎模型庫、端到端开發套件、豐富的工具組件、學習與實訓社區於一體。飛槳在業內率先實現了動靜統一的框架設計,兼顧科研和產業需求,在开發便捷的深度學習框架、大規模分布式訓練、高性能推理引擎、產業級模型庫等技術上處於國際領先水平。飛槳是百度“芯片-框架-模型-應用”全棧技術布局的重要組成部分,與芯片層深度適配與融合優化,並高效支撐以文心一言爲代表的文心大模型的生產與應用。當前飛槳已凝聚超750萬开發者,廣泛服務於金融、能源、制造、交通等領域,穩居中國深度學習平台市場綜合份額第一。
百度文心大模型源於產業、服務於產業,是產業級知識增強大模型。百度通過大模型與深度學習框架融合發展,打造了自主創新的AI底座,大幅降低了AI开發和應用的門檻,滿足真實場景中的應用需求,真正發揮大模型驅動AI規模化應用的產業價值。文心大模型的一大特色是“知識增強”,即引入知識圖譜,將數據與知識融合,提升了學習效率及可解釋性。文心ERNIE自2019年誕生至今,在語言理解、文本生成、跨模態語義理解等領域取得多項技術突破,在公开權威語義評測中斬獲了十余項世界冠軍。2020年,文心ERNIE榮獲世界人工智能大會WAIC最高獎項SAIL獎。2022年11月,文心大模型進一步升級,包括新增11個大模型,構建起業界規模最大的產業大模型體系,並通過大模型工具與平台的升級和文心一格、文心百中等基於大模型技術的產品應用,進一步降低大模型產業化門檻,讓更多企業和开發者步入AI應用的新階段。
得益於飛槳深度學習平台和文心大模型的聯合優化,文心大模型3.5版本的效果、功能、性能全面提升,實現了基礎模型升級、精調技術創新、知識點增強、邏輯推理增強等,支撐文心效果更好、效率更高、應用更廣。據IDC《AI大模型技術能力評估報告,2023》評估顯示,文心大模型綜合評分排名第一;“算法模型”和“行業覆蓋”兩個核心指標上均獲得唯一滿分。
標題:MediaTek聯合百度發起飛槳和文心大模型硬件生態計劃 AI大模型賦能終端設備
地址:https://www.utechfun.com/post/249857.html