IBM NorthPole AI 晶片整合記憶體架構,稱 12 奈米超越 4 奈米 GPU

2023-10-25 12:15:00    編輯: Atkinson
導讀 IBM 日前宣布開發出 NorthPole AI 晶片,號稱具備人類大腦運作,推論性能據稱超越 4 奈米製程的 GPU,適用於邊緣運算等領域。 NorthPole 晶片是 IBM 曾在 2014 年...


IBM 日前宣布開發出 NorthPole AI 晶片,號稱具備人類大腦運作,推論性能據稱超越 4 奈米製程的 GPU,適用於邊緣運算等領域。

NorthPole 晶片是 IBM 曾在 2014 年模擬人腦運作的 TrueNorth 晶片後繼款,晶片開發同樣由 TrueNorth 負責人 Dharmendra Modha 主導。

IBM 指出,傳統半導體產業,晶片遵循相同基本架構,處理單元與儲存資訊是相互分開的。這樣的架構雖然簡化晶片設計模式,卻也因傳輸速度趕不上處理速度出現 von Neumann 瓶頸。Dharmendra Modha 認為人腦是最節能處理器,所以研究持續尋找以數位複製人腦的方法。

IBM NorthPole 晶片相對傳統晶片最大不同點是晶片內建記憶體,沒有 von Neumann 瓶頸,NorthPole 晶片 AI 推論能力優於競爭對手。NorthPole 晶片雖然採 12 奈米製程,但能 800mm² 上放置 220 億個電晶體,擁有 256 個核心,於 8-bit 環境每核心運算週期可執行 2,048 次操作,若 4-bit 或 2-bit 環境,執行次數翻倍。

IBM 指出,NorthPole 晶片號稱模糊運算與儲存界線,讓 NorthPole 晶片容易整合至系統,減少搭載晶片設備負荷,讓 NorthPole 晶片在 ResNet-50 模型測試後,結果較同樣採 12 奈米製程對手 GPU 產品來說,NorthPole 晶片每秒辨識能效是對手 25 倍,且不管延遲或運算空間要求,表現都優於所有主流架構,甚至淩駕基於 4 奈米製程的 GPU。

不過 NorthPole 的優勢也是弱點。NorthPole 只能輕鬆讀取整合至晶片的終端數據,讀取外界數據時,便沒有計算速度優勢。Dharmendra Modha 表示,雖然 NorthPole 無法執行類 GPT-4 訓練,但可滿足許多企業模型的推論要求。

IBM 仍在研究 NorthPole 晶片適用領域,但研究員發現,許多需即時處理大量資料的邊緣計算領域將可能非常適合採用 NorthPole 晶片,如自動駕駛、遠端通訊等領域,NorthPole 均是擅長處。

(首圖來源:Flickr/ CC BY 2.0)



關鍵字: , , , ,


標題:IBM NorthPole AI 晶片整合記憶體架構,稱 12 奈米超越 4 奈米 GPU

地址:https://www.utechfun.com/post/281194.html

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。

猜你喜歡