導讀 電子垃圾一直是數據中心運營商關注環境可持續性和社會責任的一大挑战。然而,圍繞人工智能的持續繁榮可能會使數據中心電子垃圾問題更加嚴重。這就是爲什么現在是數據中心運營商,以及在數據中心內部署人工智能工作...
電子垃圾一直是數據中心運營商關注環境可持續性和社會責任的一大挑战。然而,圍繞人工智能的持續繁榮可能會使數據中心電子垃圾問題更加嚴重。
這就是爲什么現在是數據中心運營商,以及在數據中心內部署人工智能工作負載的企業开始考慮電子廢物管理策略的時候了。通過提前解決這個問題,他們可以減少導致電子垃圾的人工智能基礎設施的數量。
數據中心電子垃圾基礎知識
電子垃圾是指不再使用並可能對環境造成危害的任何類型的電子產品。數據中心所容納的設備(例如服務器、網絡交換機和電源裝置)可能含有鉛和汞等化學物質。這意味着這些設備在不再使用時有可能成爲電子垃圾。
從環境可持續性的角度來看,電子垃圾是有害的,因爲數據中心設備內的危險化合物會滲入自然環境,可能危害植物、動物和人類。它還會對發展中國家的人民產生負面影響,因爲發展中國家往往成爲廢棄IT設備的最終目的地。
人工智能會讓電子垃圾變得更糟嗎?
與許多科技行業一樣,數據中心幾十年來一直在產生電子垃圾。但隨着越來越多的企業尋求利用人工智能(尤其是生成式人工智能),這一挑战可能會加劇。
原因在於,生成式AI應用和服務必須經過一個稱爲“訓練”的過程,該過程涉及解析大量數據以識別模式。訓練通常使用配備圖形處理單元(GPU)的服務器進行。GPU的訓練速度比傳統CPU快得多,因爲GPU具有更高的並行計算能力,這意味着它們可以同時處理更多數據。
在大多數情況下,AI訓練是一個臨時或一次性的過程。一旦AI模型完成訓練,它就不需要再次訓練,除非开發人員想“教”它新的信息。這意味着訓練生成式AI模型可能會導致部署支持GPU的服務器,而這種服務器並沒有持續的需求。
換句話說,在企業啓動並運行AI模型後,對硬件的需求就會減少,因爲除了AI訓練之外,數據中心內部GPU的用例並不多,而且大多數組織不需要頻繁重新訓練。
從電子垃圾的角度來看,這可能會導致大量GPU(或整個支持GPU的服務器)的使用壽命明顯縮短。它們仍能發揮作用,但可能會因需求不足而變得過時。
類似的故事已經在加密貨幣挖礦領域上演,GPU和其他專用硬件也很重要,因爲它們經常用於挖礦。由於爲加密貨幣挖礦制造的設備幾乎沒有其他用處,因此其中大部分都成了電子垃圾。
減少人工智能造成的數據中心電子垃圾
好消息是,有辦法避免因人工智能訓練而導致數據中心電子垃圾大量增加。
一個關鍵步驟是企業共享AI訓練服務器。企業可以選擇GPU即服務產品,而不是購买自己的配備GPU的服務器進行訓練,這實際上是讓他們租用GPU。訓練完成後,其他有模型需要訓練的企業可以使用這些GPU。這比擁有不需要持續使用的GPU服務器更具可持續性,更不用說更具成本效益了。
選擇使用預先訓練好的模型而不是從頭开始構建模型,是幫助減輕人工智能電子垃圾風險的另一種方法。越來越多的模型來自已經過訓練的开源項目,從而無需任何類型的專用數據中心基礎設施。
當然,企業還應確保在不再需要AI服務器時妥善回收或處理它們。但理想情況下,他們首先要盡量減少部署可能在短時間內成爲AI電子垃圾的服務器數量。
標題:如何緩解數據中心電子垃圾?
地址:https://www.utechfun.com/post/397746.html