維科杯· OFweek 2024(第九屆)人工智能行業年度評選(OFweek 9th AI Awards 2024)由高科技行業門戶舉辦已有數年,作爲高科技產業的核心評選活動,該評選是人工智能行業內的一大品牌盛會,亦是高科技行業具有專業性、影響力的評選之一。
此次活動旨在爲人工智能行業的產品、技術和企業搭建品牌傳播展示平台,並借助OFweek平台資源及影響力,向行業用戶和市場推介創新產品與方案,鼓勵更多企業投入技術創新;同時爲行業輸送更多創新產品、前沿技術,一同暢想人工智能行業的未來。
維科杯· OFweek 2024(第九屆)人工智能行業年度評選(OFweek 9th AI Awards 2024)將於2024年7月1日-7月19日進入網絡投票階段,頒獎典禮將於8月28日在深圳舉辦。目前,活動正處於火熱的企業申報階段,業內企業積極響應。
寒武紀參評“維科杯·OFweek 2024人工智能行業技術突破獎”
參評獎項:維科杯·OFweek 2024人工智能行業技術突破獎
參評項目:寒武紀基礎系統軟件平台(訓練及推理軟件平台)
項目亮點:
(1)訓練軟件平台
報告期內,公司持續推進訓練軟件棧的研發和改進,新增加了功能和通用性支持,並大力推進大模型及推薦系統業務的支持和優化。
在新增功能方面,訓練軟件平台爲客戶模型遷移提供了多種工具,降低了客戶的適配遷移成本。公司重點投入分布式和大規模集群的軟件棧支撐,增加支持了多個分布式訓練庫,使訓練軟件棧能夠支撐更多大模型分布式訓練需求。軟件棧完成了對典型操作系統的支持和發布,支持了生態的發展。
在通用性方面,公司增加了框架算子的支持數量,完成了重點客戶提出的大量定制化算子擴展需求, 適配了多個重點客戶的業務場景, 實現了更全面的數據類型支持,更好地支撐了大模型訓練場景。
在性能方面, 公司通過重點客戶性能優化需求的牽引,針對多個網絡進行了優化,分析並實現了多個算子和框架層面的性能優化點,並在通信上持續進行了單機多卡和多機多卡的低延遲優化,通信延遲和帶寬利用率達到了業界領先水平。
在大模型訓練領域,公司完善了大模型的訓練軟件棧研發,進行了多個大模型的微調及預訓練支持工作。 通過持續的技術優化和適配工作, 進一步優化了大模型訓練性能,在大模型訓練的性能和精度方面都取得了較強的競爭力,達到業務落地的性能和精度要求。 報告期內,公司成功驗證了大模型在分布式集群上的預訓練功能,實現了較長時間的穩定運行,且計算效率達到了業界領先水平。
此外,在搜索、廣告推薦領域進行了優化或完成組件开發, 支撐多家客戶的私有網絡適配工作,客戶需求網絡性能遠超既定目標。 完成了蛋白質模型領域的網絡訓練任務。
( 2)推理軟件平台
報告期內,公司开發了支持大語言模型和多模態 AIGC 推理業務的基礎軟件,並分別對傳統模型和生成式大模型進行了持續性能優化,加速了實際應用部署。
針對傳統模型推理業務的性能優化,在包括語音合成、搜索推薦和視覺處理等領域的高頻使用網絡中,公司通過持續的優化工作,確保了該業務模型保持業界領先水平,滿足客戶業務的落地需求。
在大語言模型推理業務方面,公司研發了分布式推理加速庫 BangTransformer,適配了主流大模型,經過深度性能優化,大模型推理達到了業界領先的模型計算效率,並成功實現了在客戶業務環境下的應用。公司將 BangTransformer 集成到部分开源大模型推理框架中,進一步豐富了大模型生態系統。
在推理性能提升方面, BangTransformer 引入了多項優化技術,相較於傳統框架,顯著提高了運行效率。在圖像生成領域,利用 MagicMind 對 StableDiffusion 等關鍵網絡進行了優化和加速,成功服務了客戶基於寒武紀推理軟件平台的應用。
參評理由:
2023年,寒武紀基礎系統軟件平台的持續優化,軟硬件平台易用程度有所提升,生態建設持續發展; 憑借過硬的技術能力,良好的服務意識,公司品牌影響力也在持續增強。此外,公司重視產學合作,已和多所高校开設了基於寒武紀平台的人工智能課程,建立了較完善的高校課程生態體系,此舉將進一步助力公司生態建設的發展。
企業介紹:
寒武紀成立於2016年,專注於人工智能芯片產品的研發與技術創新,致力於打造人工智能領域的核心處理器芯片,讓機器更好地理解和服務人類。
寒武紀提供雲邊端一體、軟硬件協同、訓練推理融合、具備統一生態的系列化智能芯片產品和平台化基礎系統軟件。寒武紀產品廣泛應用於服務器廠商和產業公司,面向互聯網、金融、交通、能源、電力和制造等領域的復雜 AI應用場景提供充裕算力,推動人工智能賦能產業升級。
投票時間:
本屆“OFweek 9th AI Awards 2024”活動將於7月1日進入投票階段,請關注維科網人工智能相關評選新聞,歡迎屆時踊躍投票。
人工智能年度評選專題鏈接:
https://www.ofweek.com/award/2024/AI/
參評表單:
https://forms.ofweek.com/Form/preview/form_id/1652
標題：【維科杯】寒武紀參評“維科杯·OFweek 2024人工智能行業技術突破獎”
地址：https://www.utechfun.com/post/389325.html