2024年將成爲國內大模型產業應用爆發的元年。
文｜周享玥 趙豔秋
編｜牛慧
01
一次至關重要的會議
今年大模型市場正在發生劇烈的變化。
2024年春節开工後第一天，國資委召开了“中央企業人工智能專題推進會”，央國企一把手全部參加了會議。此前，央國企在大模型落地上差異巨大。“這次會議後，央國企及各地政府的變化是劇烈的。”一位行業資深人士說，“現在大家都在行動。”
“未來回望這次推進會，我認爲它將被認爲是人工智能發展進程上一次至關重要、意義重大的會議。”百度智能雲AI與大數據平台總經理忻舟告訴數智前线。百度執行副總裁沈抖也參加了這次會議，向央國企負責人介紹大模型和產業應用現狀。
會後，有央企重新撰寫了今年的數字化規劃，將人工智能做了重點補充。有大模型應用企業，則被東南沿海某市納入人工智能產業專班，參與梳理大模型落地場景，加速AI落地。
更多的政策在出台：政府工作報告中提出了“人工智能+”行動；國務院印發了關於大規模設備更新的行動方案。“相當於大部分工廠的設備全要升級了。”一位工業互聯網人士說。國家發改委有關負責人稱，這將是一個“年規模5萬億元以上的巨大市場”。
在一系列政策和動作之下，“2024年將成爲國內大模型產業應用爆發的元年。”3月21日，在首鋼園區舉辦的百度智能雲开年產品大會上，百度副總裁謝廣軍做出預測，並宣布千帆大模型平台的一系列新產品和舉措，爲大模型落地千行百業，進一步補充“彈藥”。
02
“氛圍起來了，我一天就睡5小時”
實際上，去年大模型的落地並不達預期，以至於去年下半年，投資市場變得謹慎。
但在這一年中，伴隨基礎大模型效果的改善，標杆效應，應用开發門檻的降低，再疊加政策層面的巨大推力，AI大模型不可逆的趨勢，已成爲業界共識。
3月21日，百度副總裁謝廣軍也公布一組數字：千帆平台服務企業用戶數已突破8萬，僅在一個月內就增長上萬家，千帆ModelBuilder累計精調模型1.3萬個，通過AppBuilder开發的應用數超16萬，不管是客戶數、精調模型數還是AI原生應用數都有大幅增長。“我們判斷，2024年會成爲AI原生應用的元年。”謝廣軍表示。
“我現在一天就睡5小時，光战略合作都忙不過來。”一位工業領域資深人士告訴數智前线，他們今年的目標是落地至少幾百、上千個大模型項目。
另一位大模型服務商透露，去年是他們主動找客戶，但今年元旦過後，已變成“被動接洽需求”。客戶數上，2024年一季度尚未結束，這家公司處在不同環節的需求數已有上百個，每周以10個的數量新增，“我們不得不开始篩選”。
03
企業最關心的三個問題變了
“去年不少to b大模型項目都驗收不了，因爲客戶的預期拔得很高，認爲大模型是全能的。”一位服務商告訴數智前线，今年業界看到，客戶對大模型有了更深的理解，已變得理性，關注的Top3問題也隨之變化。
“客戶之前更關注大模型通用能力能有多好，以及智算中心的規劃建設，但目前已逐步轉向產品驅動的應用落地。”一位政務雲人士表示。
“他們現在比較關心的是大模型落地的價值。”忻舟也告訴數智前线。“企業一旦驗證模型的價值後，第二步關心的就是如何降低成本，在一個能夠接受的效價比下，更好地去使用模型。”
技術的延續性也備受關注。“我經常被問到，大模型的技術發展那么快，我們之前選型或採購的模型會不會過時？爲它做的定制、數據標注會不會失效？”忻舟表示，這也要求大模型廠商和服務商保證產品和服務的良好延續性。
04
用戶會爲哪些場景买單？
針對企業最關注的落地價值，大家都在努力找殺手級應用場景。客觀說，不管是C端還是B端，都還沒有一個殺手級應用出現。“現在，大家都想借助這一波新機會，找到更多有價值的場景。”業內人士說。
從目前落地的場景看，“除了規模龐大的設備更新市場，我們看到不少與文本相關的應用。”忻舟說。比如，智能辦公中的內容創作、PPT輔助創作；教育領域的作文批改、問題輔導和解答；營銷類的廣告文案生成；視頻大模型輔助娛樂和視頻內容的生成......但大家在尋找更具顛覆性的場景。
企業爲之买單的場景也與回本周期緊密相關。“一年能回本，客戶很容易接受；三五年回本，客戶就要考慮考慮；7年回本，肯定得政策強制要求了。”一位大模型服務商稱。他們提出了“小切口”的場景策略。
客戶類型也很關鍵。好多客戶都在做PoC，但讓客戶真正付錢，是一個很大的檻。上述服務商觀察，有兩類客戶愿意爲大模型买單，一類是一直享受科技紅利的行業，如金融；另一類則是傳統行業，國家在推動他們做數字化轉型，而這些行業老齡化嚴重，迫切需要人工智能來解決實際困難。
05
不是性價比，是“效價比”
一旦大模型應用到企業的生產環境中，客戶格外關注性價比。不過在大模型落地上，百度提出了“效價比”的概念。
“效價比最關鍵的是效，我們希望效果不變或效果降低程度在可控範圍內，它所花費的成本最低。”忻舟說。
謝廣軍舉例，提高效價比的方式有很多：在IaaS層，如何更高效的利用百舸AI異構計算資源；在框架層，應用飛槳深度學習框架中，加速模型的能力；在模型層，採用量化模型的方案。而在3月21日，百度發布三個輕量級大模型，來進一步推升效價比。
06
輕量級大模型，开始流行
“模型不見得是參數規模越大越好。”謝廣軍說。一位大模型服務商在落地一些項目後也發現，在很多垂類場景中，輕量級大模型也能達到通用大模型的效果，而推理成本更低，使用更簡單。“客戶不要太復雜的東西。”
輕量級大模型正成爲一種趨勢。在海外，Meta發布的Llama系列模型，從70億、130億、330億到700億，不同場景選擇不同的模型組合，效果已被驗證。
3月21日，百度發布了三款輕量級模型，由大到小分別爲ERNIE Speed、ERNIE Lite、ERNIE Tiny。雖然未公布參數規模，但謝廣軍介紹，這三款模型是百度經過實踐，最適合做模型精調和場景的模型。
百度智能雲AI平台副總經理李景秋介紹，ERNIESpeed定位“最適合微調的基座模型”，推理最高可支持128K。ERNIELite由ERNIE-Bot-Turbo升級而來，但成本較後者降低53%，適合低算力AI加速卡推理使用。而ERNIETiny的部署和精調成本在文心系列模型中最低，適用於檢索及推薦、意圖識別等高並發低延時場景，以及端側推理場景。
謝廣軍告訴數智前线，百度發布輕量級大模型，核心理念就是幫助客戶降本增效，在特定的場景下，通過精調使小尺寸的模型也能夠達到千億級別大模型的效率。當輕量級大模型不能很好地解決客戶問題時，就讓旗艦模型來“兜底”。
這實際契合了企業用戶對大模型的真實需求。一家落地了大模型的企業告訴數智前线，他們並不要求一定要用最頂尖的模型，而是更傾向於選擇最適合的模型。深圳齊心集團股份有限公司CTO於斌平也透露，他們此前曾試過文心4.0的大模型，效果驚豔，但其實略超出他們的業務場景需求，於是在最近切換成了“效價比”更高的ERNIE Speed。
一位資深人士則預測，大模型會和第二次工業革命中興起的電器一樣，“最終並非一個電器通用，而是會湧現出各種各樣的電器，從燈泡到電飯煲，它只會取決於不同場景下怎么樣的性價比最高，怎么樣的功能最強，客戶接受度最高。”
07
產品化，業界今年的大動作
爲了進一步提升效價比，加快落地，今年大模型企業和服務商一個明顯的動作，就是加快將確定性的東西產品化，“一旦產品化，推廣復制就會很快”。
百度在开年大會上，發布了兩個垂直場景大模型，ERNIECharacter和ERNIEFunctions，企業不需要額外精調，可直接來开發智能助理。
其中，ERNIECharacter適合角色扮演類應用場景，如遊戲NPC、客服對話等；ERNIEFunctions則更適合對話、問答場景中的外部工具和業務函數調用。某旅遊出行App用ERNIEFunctions打造了智能客服助手，在執行訂票、查詢航班的多種方式調用下，准確性達到85%，超過了GPT4。
“同時，不管是千帆ModelBuilder還是AppBuilder上，都會做很多預置場景。”忻舟說，“這也是百度產品化中的一個重要環節。”
在工業領域，一些服務商將大模型與工業系統結合，今年將出現大量軟硬件一體、成套的產品。由於產品化，一些模型落地從過去數個月，縮短到半個月。
08
大模型落地，有沒有方法論？
行業人士都在尋找落地路徑，在經歷了一年的探索，大模型落地的一些關鍵點已浮出水面。
最關鍵的是快速閉環。一些服務商選擇小場景先切入，快速形成閉環來看效果。
“企業需要基礎設施和平台，快速幫助他們去找到場景，並且快速將這些場景形成demo，快速試用並得到反饋，從而形成一個很好的閉環。”忻舟說。最初千帆大模型平台的重點在推理工具鏈，發現企業處於找場景階段後，他們快速調整，推出千帆AppBuilder，讓企業一线業務人員通過它，能更便捷和低成本地去構建場景和應用。
3月21日，AppBuilder再度升級，組件工具已擴充到55個，同時還新增了一句話生成應用功能，能讓开發者最快只需三步即可完成應用的創建與开發，進一步拉低應用門檻。
“一线聽得到炮火，更有能力去解決痛點。”一位政企服務商補充說，目前大家都在場景尋找和閉環的道路上。
09
五到十倍增長，可能估少了
過去一年間，價格已經被首先“卷”了下來。
去年大模型剛在市場上出現時，模型、數據、算力等成本都非常之高，訓練一個效果較好的基礎大模型，動輒需要幾百上千萬，甚至是上億元的投入。但隨着技術的進步和使用量的增多，不管是訓練成本還是推理成本，都有大幅降低。
一位工業大模型服務商告訴數智前线，現在做大模型私有化部署，成本已降到百萬元起，一些小的嵌入式產品甚至可以做到5萬元起。一位政務雲人士透露，幾十萬到小一兩百萬元，是中腰部企業普遍能接受的價格區間。一些服務商最近推出大模型訓推一體機，價格在幾十萬區間，預制了模型和場景，讓企業先用一兩台將嘗試跑起來。
除了落地價格，在基礎大模型層面，雖然依然很卷，但已從百模大战，逐漸向幾家收斂。這在全球已經發生，比如本周融了15億美元的明星企業Inflection，一部分團隊已加入微軟。
更多人將开始卷應用，這將是今年競爭最爲激烈的細分板塊之一。大模型服務商和开發者都非常忙碌。
至於市場走向，一位服務商稱，“不要對大模型落地有一點點疑惑了，無非是你的收入翻5倍、10倍還是20倍。”
忻舟則稱自己持樂觀但謹慎的態度。一方面，大模型整體市場屬於蓄勢待發的狀態，“是漲5倍還是漲10倍，我覺得可能都估計的太少了，有可能是50倍、100倍甚至是1000倍的爆發式增長”。另一方面，整個市場就好比一杯剛從冰箱裏拿出來的水，只要經過輕微的擾動就會變化，還是一個不穩定的狀態，還要看業界的進一步動作和進展。
原文標題 : 九問百度：大模型落地走向何方？
標題：九問百度：大模型落地走向何方？
地址：https://www.utechfun.com/post/349412.html