墨芯完成智譜大模型適配黃金認證,助推國產算力商業化進程

2023-11-27 18:40:18    編輯: robot
導讀 在推動大模型算力量級提升的道路上,稀疏計算引領者墨芯人工智能(以下簡稱“墨芯”)再次邁出重要的一步。近日,墨芯旗下產品S30計算卡經過智譜AI內部專家的嚴格測評,榮獲黃金級別認證,充分顯示了其與智譜...

在推動大模型算力量級提升的道路上,稀疏計算引領者墨芯人工智能(以下簡稱“墨芯”)再次邁出重要的一步。近日,墨芯旗下產品S30計算卡經過智譜AI內部專家的嚴格測評,榮獲黃金級別認證,充分顯示了其與智譜AI(以下簡稱“智譜”)的ChatGLM2-6B大模型在推理與微調方面的高度兼容性和卓越適配能力。

墨芯獲得智譜ChatGLM2-6B模型黃金認證證書

除了上述已經成功適配的开源大模型ChatGLM2-6B外,墨芯正通過基於S30計算卡的定制化算力爲智譜提供一體化解決方案,同時也積極參與到智譜其他閉源商業大模型的兼容性適配中。這一過程也加速了智譜AI大模型的商業化步伐。

墨芯的助力,不僅是對智譜現有AI產品矩陣的算力技術加持,更是對其未來AI技術應用領域落地的一次積極探索。通過這種合作,墨芯和智譜AI共同推動了其大模型技術的商業化進程,加快了其在多個行業中的實際應用和普及。墨芯的S30計算卡作爲這一合作的關鍵組成部分,其強大的算力和高效的適配能力不僅加速了智譜AI大模型的开發和部署,也爲之後在更多領域的合作提供了堅實的基礎,進一步推動了國產大模型的廣泛應用和行業滲透。

墨芯S30計算卡

此外,S30計算卡在技術創新上的突破,特別是在稀疏計算和AI算法優化方面的先進性,爲智譜AI的大模型提供了強大的後端支撐。這不僅加強了智譜AI大模型的性能和適用性,而且在促進國產AI技術的商業化和產業化方面發揮了重要作用。通過這種強強聯手模式,墨芯和智譜AI共同展現了國內AI技術在未來無限的競爭力和創新潛力。

通過本次認證的S30計算卡搭載墨芯首顆Antoum??芯片,以其高達32倍稀疏率的強勁AI算力,專注服務與數據中心AI推理的多元需求。其應用領域覆蓋了互聯網、通信、智慧城市建設、生命科學、自動駕駛等關鍵行業,體現了其廣泛的適用性和靈活性。

墨芯的雙稀疏算法和Antoum?架構的創新,使S30在同行業產品中處於領先地位,更顯著優化了客戶的總擁有成本(TCO)。

S30計算卡在行業內以其卓越的推理加速性能始終保持領先。此前,在9月舉辦的最新一屆的全球權威測評MLPerf Inference 3.1推理評測中,墨芯S30計算卡,以其無與倫比的性能,在處理GPT-J(60億參數)大模型推理任務時,無論是單卡還是多卡配置,均力壓群雄,榮登榜首。這是墨芯連續第三次在MLPerf推理評測中取得領先成績,進一步夯實其在AI算力領域的領導地位。

墨芯S30計算卡在GPT-J-99模型中的性能表現

ChatGLM2-6B模型由智譜AI與清華大學KEG實驗室共同研發,是一款功能強大的开源中英雙語對話模型。其在沿襲了初代模型的流暢對話和低部署難度的基礎上,進一步提升了推理速度和降低顯存佔用,整體性能更加出色。

S30計算卡的黃金認證,不僅是其技術實力的顯著證明,更是墨芯賦能智譜大模型商業化進程的關鍵一環,不僅證實了S30計算卡在運行智譜ChatGLM2-6B大模型時的穩定性和高吞吐能力,也標志着墨芯與智譜在共同推進大模型技術發展和生態建設方面的成功合作。未來,墨芯人工智能將與智譜AI在更多領域展开廣闊合作,共同致力於推動國產AI大模型生態圈的協同進步與創新。

關於智譜AI

北京智譜華章科技有限公司(簡稱“智譜AI”)致力於打造新一代認知智能大模型,專注於做大模型的中國創新。公司合作研發了中英雙語千億級超大規模預訓練模型GLM-130B,並基於此推出對話模型ChatGLM,开源單卡版模型ChatGLM-6B。同時,團隊還打造了AIGC模型及產品矩陣,包括AI提效助手智譜清言、高效率代碼模型CodeGeeX、多模態理解模型CogVLM和文生圖模型CogView等。公司踐行Model as a Service(MaaS)的市場理念,推出大模型MaaS开放平台,打造高效率、通用化的“模型即服務”AI开發新範式。

關於墨芯人工智能(Moffett AI)

墨芯人工智能是稀疏計算引領者,致力於提供雲端和終端AI計算平台和服務。通過全球領先的稀疏計算技術優勢,打造軟硬協同的新一代智能計算平台。產品性能位居行業領先,相較行業主流產品,在算力、能效比與成本等方面均實現數量級優化。面向互聯網、運營商、金融、制造、醫療、交通、能源、生命科學、自動駕駛等衆多行業與場景,提供高算力、低功耗、高性價比的AI算力服務,賦能前沿科技的進步與社會的智能化升級。



標題:墨芯完成智譜大模型適配黃金認證,助推國產算力商業化進程

地址:https://www.utechfun.com/post/296433.html

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。

猜你喜歡