過去三十多年，從Linux到KVM，從OpenStack到Kubernetes，IT領域衆多關鍵技術都來自开源。开源技術不僅大幅降低了IT成本，也降低了企業技術創新的門檻。

那么，在生成式AI時代，开源能夠爲AI帶來什么？

紅帽的答案是：开源技術將推動AI更快、更廣泛的應用到各行各業中。

自1993年成立至今，紅帽一直是堅定的开源技術布道者和構建者。透過不久前的2024紅帽論壇，「智能進化論」看到了开源技術與AI碰撞的三大關鍵詞：簡單的AI、开源的AI、混合的AI。

01

簡單的AI從一台Laptop开啓的企業AI應用之旅

2024年9月，AI 托管平台 Hugging Face 宣布其收錄的 AI 模型數量已突破 100 萬個，足以證明生成式AI與大模型的火爆。

但是從通用的基礎模型，到解決不同企業實際業務問題之間，仍有不小的距離。算力、人才、模型訓練平台和工具、技術經驗都是大模型落地過程中的普遍痛點。比如：

“能不能讓基礎模型使用企業自己的數據，在我選擇的環境裏做調優，同時只需要花費相對較小的投入？”

“我們想基於基礎模型开發適配自身業務的小模型，但是團隊沒有AI开發經驗，沒有开發平台，甚至沒有足夠的GPU算力資源怎么开始？”

正如過去數年間，紅帽通過RHEL 和 OpenShift，將Linux 和容器技術加速普及一樣，用开源的方式將AI引入企業，也是AI時代紅帽的愿景。

爲此，紅帽推出了一系列AI平台和產品，組成了企業AI應用三步曲：

第一步，借助Podman Desktop和InstructLab，用戶可以在最小資源配置下試用开源AI模型和工具，比如在筆記本電腦上用CPU試跑AI模型，而不需要額外的GPU卡。

過去，很多人認爲AI模型的訓練不可能在一台PC上完成，必須在配備GPU卡的大型數據中心完成。紅帽徹底改變了這一現實，同時也讓沒有IT开發經驗的數據科學家和業務人員都可以參與到AI模型訓練中。

借助 Podman AI Lab 擴展包，Podman Desktop可以讓用戶在本地環境中構建、測試和運行基礎模型。只需完成幾個步驟即可設置試驗環境，用來試用不同的基礎模型。

InstructLab是一款用於基礎模型對齊的开源工具，它可以幫你從开源社區把需要的基礎模型下載到本地進行訓練，並大幅降低了模型微調的數據准備和技術門檻。

第二步，通過Red Hat Enterprise Linux AI（RHEL AI），在雲端服務器上進一步訓練模型。

如果第一步測試效果滿意，用戶就可以在雲端服務器上進行生產級的模型訓練。

RHEL AI是一個基礎模型平台，它使用戶能夠更加便捷地开發、測試和部署生成式AI模型。

RHEL AI中整合了IBM研究院的开源授權大模型Granite、模型對齊工具InstructLab，以及包括英偉達、英特爾和AMD的GPU加速器。該解決方案被封裝成一個優化的、可啓動的RHEL鏡像，用於在混合雲環境中部署單個服務器，並已集成到OpenShift AI中。

第三步，通過OpenShift AI，在更大規模的分布式集群中進行生產級別的模型訓練和部署。

如果在前面兩個環節中，模型都收獲了滿意的效果，就可以通過更大規模的分布式集群投入生產環境。

OpenShift AI是紅帽的混合機器學習運營（MLOps）平台，能夠在分布式集群環境中大規模運行模型和InstructLab，可以支撐大型團隊完成ML Ops的工作流程。而且，OpenShift AI支持跨雲混合部署，支持本地數據中心、私有雲、公有雲、混合雲等多種環境。

在三步曲之外，紅帽還推出了豐富的AI賦能產品，比如Red Hat Lightspeed通過集成生成式人工智能（GenAI），爲初學者和專家提供更順暢的工作體驗。將Red Hat Lightspeed應用於RHEL AI、OpenShift AI，用戶可以通過自然語言的方式管理操作系統、容器平台甚至集群。

02

开源的AI用开源社區推動大模型迭代

“你可以隨處選擇運行 AI 的位置，而且它將基於开源。”在2024年5月的紅帽全球峰會上，紅帽CEO Matt Hicks曾這樣表示。

可以說，开源开放的理念，貫穿了紅帽所有的AI產品與战略。

InstructLab就是一個典型的例子。InstructLab既是模型對齊的工具，也是一個开源社區，开創了一種通過开源社區推動开源模型的持續進步的新模式。

“紅帽設計InstructLab有兩個主要目的：第一，讓客戶基於Granite基礎模型，使用InstructLab和自身數據訓練出符合需求的模型。第二，我們邀請用戶更進一步，將知識和技能反饋至上遊的开源社區，將其整合到社區版本的Granite模型中。因此，InstructLab是連接社區和客戶的橋梁。”紅帽大中華區解決方案架構部高級總監王慧慧表示。

同時，在推動AI落地方面，开放共創是紅帽堅守的理念。

“在AI應用落地方面，紅帽引入了“开放實驗室”的概念，與客戶的顧問團隊合作，針對企業的研發、生產、市場行銷和客戶支持等環節，一起找出最具效能的應用場景。從一個小應用成功起步，再逐步擴展至更大的場景。”紅帽全球副總裁兼大中華區總裁曹衡康表示。

“關於AI最後一公裏的落地，紅帽今年加速了與本土ISV及方案开發商的合作，以滿足不同行業和企業的個性化需求。”紅帽大中華區資深市場總監趙文斌表示。

自今年5月發布全棧AI產品以來，紅帽AI系列產品在國內市場加速落地。作爲紅帽AI產品的首批客戶之一，國內某保險行業企業在引入紅帽的AI產品後，其代碼合並和審查的准確率大大提升，顯著提升了开發效率與客戶滿意度。

“去年紅帽大中華區業務創下了歷史新高，今年也繼續以雙位數增長。我們的增長來自於越來越多的企業選擇开源技術，認識到开源的優勢。”曹衡康表示。

紅帽全球副總裁兼大中華區總裁 曹衡康

03

混合的AI企業發展自主AI的必然選擇

雲計算時代，企業根據不同的業務負載可以靈活選擇裸金屬、公有雲、私有雲、混合雲、專屬雲等多種部署方式。

正如雲是混合的，AI也是混合的。

隨着生成式AI技術的不斷成熟，越來越多企業意識到，沒有一款基礎模型可以做到一家獨大。企業根據不同業務選擇最適合的模型將成爲一種趨勢，多個業務場景對應多個模型將成爲常態。

從這個層面看，生成式AI時代也是混合AI時代。自2013年發布开放混合雲战略以來，這種跨开放混合雲的能力正是紅帽的優勢所在，其也將在AI時代進一步延續。

紅帽OpenShift 產品线經理佟一舟介紹了一個金融行業客戶的案例。該企業在大模型出現之前就擁有豐富的ML小模型开發實力。然而在構建生成式AI研發、生產、實施平台的時候，該企業果斷選擇了紅帽。

一方面，大模型時代構建AI平台的難度和復雜度與小模型時代不可同日而語。另一方面，在多模型的混合場景下，企業需要找到一個中立的AI平台作爲合作夥伴，才能避免被單一廠商綁定的風險。

“很多客戶希望AI平台企業能夠穩定爲他們提供未來10年的服務，而目前很多底層技術都來自开源技術。紅帽30年的开源積澱，正是很多客戶看中的關鍵優勢。”佟一舟表示。

結語

在生成式AI的時代浪潮中，开源技術正以其獨特的魅力和強大的推動力，爲AI的廣泛應用鋪設了一條堅實的道路。

开源與AI的碰撞，不僅降低了AI落地的門檻，更讓企業擁有了更多的自主權和選擇空間。

文中圖片來自攝圖網

END

本文爲「智能進化論」原創作品，

       原文標題 : AI落地難？是時候用开源降低AI落地門檻了

---

標題：AI落地難？是時候用开源降低AI落地門檻了

地址：https://www.utechfun.com/post/442155.html