GPU需求增長但費用高昂,微雲服務成爲企業新寵

2024-05-15 18:00:23    編輯: robot
導讀 GPU的需求如今呈現出極大的增長,它們對於運行和訓練生成式人工智能(GenAI)模型來說至關重要。微雲(microclouds)提供的GPU服務可能成爲一種可行的替代方案。微雲市場規模正在快速增長。...

GPU的需求如今呈現出極大的增長,它們對於運行和訓練生成式人工智能(GenAI)模型來說至關重要。微雲(microclouds)提供的GPU服務可能成爲一種可行的替代方案。微雲市場規模正在快速增長。CoreWeave、LambdaLabs、VoltagePark和TogetherAI等企業處於微雲市場的最前沿。CoreWeave最初是一家加密貨幣挖礦企業,如今成功轉型成爲GPU基礎設施的主要提供商。

這種轉變揭示了一個更廣泛的趨勢——企業正日益依賴於雲托管的GPU服務。這一轉變的驅動因素主要包括安裝和維護硬件的高昂成本以及復雜的技術要求。由於公有雲提供商通常不會對這些計算服務提供更多的折扣,微雲爲許多企業提供了更加靈活、經濟高效的解決途徑。

爲什么一些企業不再堅持使用AWS、谷歌雲和微軟Azure提供的傳統雲服務?而這些服務也提供了一系列GPU資源。其答案是“成本”。對於需要採用GPU的AI項目來說,微雲通常是更具成本效益的一種解決方案。與Azure或谷歌雲相比,企業在CoreWeave或其他微雲平台上租用主流的GPU(例如NvidiaA10040GB)可以顯著降低成本。


企業採用微雲仍需謹慎

盡管微雲行業發展充滿活力,但其未來前景仍然存在一定的不確定性。微雲供應商保持業務增長取決於能否確保GPU的持續供應以及維持具有競爭力的價格。此外,隨着全球主要雲計算提供商投資於定制的AI處理硬件,市場競爭壓力可能會進一步加劇,大型雲計算提供商將通過降低價格和提升服務質量以保持競爭力。

此外,雖然GPU目前更適合生成式AI任務,因爲它們的運行速度和同時處理許多事情的能力,但並非所有AI工作負載都需要採用GPU。大多數GenAI工作負載並不需要如此強大的GPU性能。如今,它們往往更像是一種身份象徵,而非必需品。

CPU仍然在處理對時間要求不太嚴格的任務中發揮着重要作用,這些任務通常可以容忍較低的處理速度。芯片廠商正在積極研發一些具有發展前景的新型GPU,它們可能將以更低的成本爲生GenAI提供更加高效的處理能力。

使用任何資源(包括處理器)的核心目標都是“少花錢,多辦事”。對於大多數AI用例來說,其高昂的成本將使許多企業從AI的炒作中回歸現實。

微雲的美好未來

對於那些可能被炒作蒙蔽雙眼的企業來說,這是一個值得警惕的消息。從微雲的近期發展來看,其市場呈現出樂觀的態勢。分析人士預計,新興的GenAI領域將繼續推動對微雲的需求,這爲更多以GPU爲中心的AI雲初創公司提供強大的發展動力。

對於需要GPU支持的項目,企業應該優先考慮能夠充分利用GPU的解決方案,因爲成本不是這些架構選擇的主要決定因素。

微雲提供商可能會對傳統雲計算提供商帶來顯著的競爭壓力,特別是對於那些尋求採用更新、更經濟的技術來管理其多雲環境的客戶而言。許多企業正在面臨雲計算成本高昂的挑战,這些成本往往超出了他們的預算。因此,更爲經濟實惠的替代品在市場上更受歡迎。

大約20年前,主要參與者开始在雲計算市場嶄露頭角。在2012年到2016年期間,隨着雲計算市場的逐步成熟和規範,原本數十家雲計算提供商最終只剩下幾家具有顯著競爭優勢的雲巨頭。

任何新興的雲計算提供商都有很多顧慮。他們可能會面臨資金短缺和市場競爭的壓力,或者經歷無法預見的挑战和災難。這些公司在未來很可能被更大的雲計算提供商收購,雖然在收購和整合過程可能會帶來一些困擾和挑战,但大多數公司都能實現更大的發展。因此,微雲的未來前景依然光明,將會發揮更加重要的作用。

標題:GPU需求增長但費用高昂,微雲服務成爲企業新寵

地址:https://www.utechfun.com/post/370839.html

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。

猜你喜歡