大模型落地，誰先集齊七顆龍珠召喚神龍？
文｜周享玥
編｜趙豔秋
中關村科金CTO李智偉博士最近發現，大模型商業閉環，正在被提到很重要的位置。
不同於過去20年間中國IT行業的發展，可以通過燒錢來快速積累用戶，靠估值和廣告實現商業變現；大模型時代，投資市場愈加理性，正在倒逼業界加快實現商業閉環。
前不久的華爲HDC开發者大會上，華爲主機上雲軍團CEO、混合雲總裁尚海峰強調，“加速商業閉環，是使用大模型最關鍵的一點”，市場終歸要回歸理性，只有真正的爲用戶創造價值，實現商業閉環，才有更長遠的未來。
而經過數個月的摸索，業界對於如何催動客戶從試點探索，走向規模化买單，加速商業閉環這件事，也有了一些方法論。
01
價值共識，1千客戶1千哈姆雷特如何解？
“以前买個軟件，有些什么功能，給個清單，客戶一看就知道了；但大模型時代不一樣，客戶對這件事的認知並不統一，1000個人可能就有1000個哈姆雷特。”中關村科金李智偉告訴數智前线，這就需要和客戶溝通時，有一套方法論，對客戶進行正確的價值導向。
畢竟，在大模型落地這件事上，期待值過高或過低，都會極大影響企業應用閉環的形成。“大模型基於Transformer，我們本身也成爲了一個Transformer，是把大模型變成一個看得見、摸得着的應用轉化者。”快遞100總經理陳登坤說。
“爲了降低溝通成本，我們現在所有產品都在公有雲上有試用版。”李智偉介紹，這樣的一個個小的原型系統，有助於客戶快速了解大模型能實現什么效果，邊界在哪，進而加速從前期討論到PoC，再到落地部署的推進。
另外，幫企業計算ROI（投資回報率），也是加速落地的普遍做法。中工互聯董事長智振介紹，這不僅包括短期ROI，比如上了大模型後，能提高多少效率，節省多少人，多大程度降低對關鍵人員的依賴，減少人爲犯錯的可能性等，也包括長期ROI。
這也導致，他們去和客戶溝通時，最核心的一項工作，就是引導客戶找到整個價值鏈上最痛、最有價值的點。比如設備運維場景，往往和知識管理緊密相關，一個設計文檔出問題，往往可能造成成百上千萬元的損失，而原來靠人工去排查，假如需要兩小時、千分之一的概率漏檢，大模型配合人工可能十分鐘就能完成，且漏檢率降低90%。
“我們就先給他做那樣的場景。”智振說，這對於企業建立對大模型的信心，包括向更多、更深的場景推行，都是非常有幫助的。
02
實施周期，要限定在3到6個月？
過去一年，客戶與業界探索了大量場景，但真正從PoC走向商業閉環，卻並非每個場景都可以。
面對大模型掀起的這波新變革，也很少有企業愿意一开始就花上幾千萬、幾年的時間來做。
“一年能回本，客戶很容易接受；三五年回本，客戶就要考慮考慮；7年回本，肯定得政策強制要求了。”智振說，“大家現在普遍能接受的價格區間是50萬到200萬，實施周期一般要限定在3~6個月。”一些大項目雖然會跨年，但一般都會切分到幾個月爲一期，以作觀察。
一些小型項目，上线時間還能更短。“比如我們也在給一些電商客戶提供售前、售後的大模型技術服務，它的決策周期、試用周期很短，甚至收費都是按月的。”智振說。
“我們現在所有項目都是按‘短平快’的方式去做實施，會幫客戶把一個大需求，切到一個個比較小的點，逐點試錯，逐點突破，而不像以前做軟件，一個項目做上一年半載的，客戶才能看到效果。”新致軟件副總經理曹璽告訴數智前线。
在場景方面，與大語言模型相關的知識類場景，成爲企業選擇的優先級閉環方向。
泰康科技有限公司人工智能部AI架構師朱興傑介紹，今年上半年，他們最先在知識如何加工再造，通過知識助手、銷售助手等賦能代理人方面下了功夫，形成了初步效果，後續將針對理賠等場景，做風險識別等能力的提升。
而中國工商銀行軟件开發中心大數據與人工智能實驗室副主任夏知淵，在華爲HDC大會有關大模型混合雲的論壇上，公布的工行“1+X”的工程化解決方案中，除了1指代的是智能體，X種解決方案也大多與知識類場景相關，如多模態的知識檢索、交互式的智能搜索等。而基於這些能力，工行在遠程銀行場景，形成了大模型的全流程賦能，將通話時間壓降了10%，員工坐席效率提高18%。
03
大模型中台，避免“散裝作战”
爲了加速大模型在各行各業的落地應用，各家主流大模型廠商都在紛紛強調模型的“最優性價比”，輕量化模型、MoE、價格战輪番上陣。再加上开源江湖的持續繁榮，企業對於模型的選擇，正在更加多元化。
“各種开閉源大模型，只要我們能去把推理部署起來，我們都會去嘗試，看效果。”泰康科技朱興傑告訴數智前线，泰康科技支撐着整個集團的上千個應用，集團各分部門都能根據各自不同的場景，選擇不同的模型，“識別出一條最佳路徑”。
不可否認的是，相比閉源，出於成本等考慮，开源是更受歡迎的存在。比如在行政執法領域，北京可爲高科信息技術有限責任公司正在通過开源模型，爲政府客戶提供私有化部署。在金融領域，中關村科金CTO李智偉觀察，在閉源、源代碼开源，以及“源代碼+訓練數據”开源三種模式中，銀行客戶更想要第三種。
开閉源之外，業界的一大共識是，大小模型混用正在成爲常態。比如中關村科金的混合模型質檢平台，讓小模型負責聲音、畫面等基礎數據質檢，承擔高頻易檢場景，大模型負責低頻難檢的內容，以及爲質檢結果提供判定原因，輔助人工快速復審，已經幫助某頭部金融機構實現了檢測效率提升1千倍，大幅降低人工檢測成本。
“這就好比一家公司有分工才能更高效運轉。”李智偉說。
而更深一層，一些企業已經开始搭建統一的大模型中台，納管N個大小模型，以及安全、知識注入、工具、服務分發等。“這樣可以有效避免散裝作战造成資源浪費，也有助於後續的迭代升級。”泰康科技朱興傑說。
大模型也正在成爲企業的底座。智振透露，他們目前就向客戶提出了“三個平台”的思路，即基於大模型底座，做數據平台、業務平台和知識平台。以往工業互聯網平台主要在解決數據不貫通和業務不流暢的痛點，但對於知識難沉澱很難解決。而大模型很可能帶來巨大提升。
智振看到，目前包含了大模型底座+平台的項目，普遍在百萬元量級。但企業並不會一期全建，或全部將舊系統推翻重來，而是循序漸進，“比如現在知識平台好，我就先上知識平台，跟其他業務系統打通，如果用得好，再逐步把別的系統替換掉。”
04
數據飛輪，是難點也是制勝點
作爲大模型三要素中的關鍵一環，數據無疑是影響大模型商業閉環形成的一大重要因素。
“尤其過程數據的缺失，是我們落地過程中，遇到的最大障礙。”北京可爲聯合創始人曾明告訴數智前线，除了金融、電商等數字化進程原本就比較成熟的行業，大量行業企業都存在數據方面的問題。
比如法律領域，有海量的案件公开數據，但大多都只有簡單的案件描述。“如果說一個案件中，正常的思考過程是a到b、b到c……x到y、y到z，那大模型只學a到z，是無法學會的。”曾明說，“現在最缺的就是b到y的過程數據。”
“數據如果只是知識之間的關聯性缺失，我們可以通過大模型自帶的知識體系來補足。但如果是事實類數據的缺失，就只能通過傳統方式去採集回來。“中關村科金李智偉告訴數智前线。
曾明透露，他們目前正通過數據清洗、數據標注等工作，幫助企業進行歷史存量數據的補足，同時也正在大模型落地過程中，加速收集增量數據，雙管齊下，填補數據空白。
大模型廠商也正在從工具鏈方面着手，助力企業加速數據治理，形成自己的數據飛輪。事實上，在不少人士看來，越往後走，越不能只盯着模型本身的訓練。工具鏈的建設，將在加速大模型商業閉環中，佔據愈發重要的位置。
李智偉告訴數智前线，不僅僅是數據方面，模型的部署、安裝、運維和日常的優化調試等，都可以通過工具鏈來進行提升。爲此，他們在今年推出了PowerAgent平台，大模型的部署效率能夠提升2~3倍。
05
算力選擇，混合雲最經濟？
算力是加速大模型落地和商業閉環過程中，另一個備受關注的問題。“基於對數據安全、开發成本和訓推效率的綜合要求，混合雲目前正成爲越來越多政企的優先選擇。”在HDC期間大模型混合雲的論壇上，華爲尚海峰強調，這是當前最合規也最經濟的一個方式。
此前，《深度用雲展望2025》白皮書中也曾指出，2025年，75％的企業將會使用AI大模型，而基於混合雲的AI大模型佔比將達到38%。
比如在政務行業，廣州市政務服務與數據管理局副局長梁文謙在華爲HDC开發者大會上介紹，爲了兼顧數據不出域和大模型的訓練需求，他們構建了一個公有雲和政務雲混合的人工智能公共算力中心，其中100P部署在政務雲，提供訓練好或還需精調的模型，給人社部門、城市管理部門等應用，另外200P公有雲，則作爲訓練應用。
在金融、汽車等領域，不少企業也採用了公有雲和私有雲協同的架構。泰康科技有限公司人工智能部AI架構師朱興傑告訴數智前线，這一方面是出於成本的考慮，“私有算力我們評估都是幾千萬的投入，才能有不錯的效果”。另一方面，業界普遍認爲，國產算力仍需在規模、性能、底層生態上完善。
“對於核心的商業知識，肯定要求私有雲，因此我們目前會有少量本地私有化的集群，同時也會調公有雲服務，去做一個混合的部署。”朱興傑表示，大家的普遍做法是，利用公有雲的高彈性和高擴展性，滿足做AI場景創新時的算力靈活租用和場景多方嘗試，等到驗證一個場景的價值後，再通過私有雲的部署，快速實現本地的安全化的數據不出域。“下一步的話，一旦我們看到效果，我們可能就會建立一個很大的私有算力”。
混合雲之外，企業也可以選擇“公有雲的私有化”模式，即在公有雲上开一個私有化的環境，達到節省成本的目的。目前，在零售、酒店和文旅等數據管控沒那么嚴格的行業中，有不少企業都選用了這種模式。
中關村科金CTO李智偉則建議，央國企牽頭建立專有雲，可以讓大模型的算力效率和成本更經濟。“比如某個區域形成一個能源行業的鏈主企業，提供公有雲，服務區域內所有能源企業。”
06
定制化，“老大難”有新解法
在To b市場，定制化一直是無法規避的問題，同時也是影響商業閉環形成快慢的重要因素之一。
業界觀察，過去三十年間，整個信息化和智能化的發展歷程，也是定制化的一個簡化過程。以人工智能爲例，上一個AI時代，AI技術泛化能力差，甚至存在面向同一場景开發的產品，無法在同一銀行的不同部門直接復用的情形，定制化成爲必然。大模型時代，人們發現它的泛化性，在一定程度上解決了定制化問題。
但隨着大模型真實的落地开始，業界發現定制化需求依然大量存在，“甚至在某種意義上增加了。”中關村科金CTO李智偉告訴數智前线，這尤其體現在多樣性的客戶需求和尚未穩定或收斂的技術階段。在他看來，與其回避定制化，還不如擁抱這個訴求。
“我們在做很多工具化和配置化的工作，讓大模型所依賴的這些偏定制化產品的基建，能夠做得更高效、實施成本更低。”百度智能雲知識管理產品部總經理宋勳超說。
中關村科金李智偉告訴數智前线，一方面，需要產品經理更了解客戶場景，產品標准能力要能夠盡可能多地cover業務需求，即產品的滿足度要提升。另一方面，產品交付過程中也要提供服務/咨詢能力，與客戶一起，賦能客戶成長。而這一點在行業應用領域非常重要。
中工互聯董事長智振則舉例稱，給企業做定制化，就好比定制西服，量體裁衣的效果必然更好，但成本和耗費時間也會更多。要想降低定制化的成本、時間，就要提高標准化的比例，也即標准化的產品，加上更加標准化的服務流程。
“今年以來，我們已經將過去一年探索出的能做的方向，全都產品化了。”智振說。而這不僅有利於企業去落地大模型應用的過程中，更快得到能力的交付，也能加快服務商的大模型落地能力推廣復制的速度。智振透露，他們目前除了自己面向客戶提供產品+服務的整體方案，也將標准產品賣給了夥伴，再由夥伴向客戶出方案。
07
運維，讓投資不打水漂
“好多人往往忽略了大模型的運維運營，但我認爲它和大模型的建設同樣重要，值得我們長期的投入，否則你根本用不起來。”華爲主機上雲軍團CEO、混合雲總裁尚海峰表示，這其中，涵蓋了體系建設、AI培訓、技術運營、場景運營、生態運營、市場運營、運營門戶等多個環節。
比如，鄂爾多斯市政府與華爲聯合打造的以行業AI大模型爲核心的工業互聯網平台，採用‘前店後廠’模式。據鄂爾多斯市創新投資集團有限公司副總經理廉詠梅介紹，在這種模式下，“後廠”不斷聚集生態夥伴來拓展新場景，开發新的大模型應用產品的同時，“前店”也能通過线上應用商城，實現商業的變現，實現成果轉換和商業閉環。
但與此同時，這也對企業和服務商都提出了新的要求。
於企業而言，需要盡快通過服務商們提供的AI賦能、AI培訓等模式，打造落地大模型的內生能力。
於服務商而言，也更加要求長期服務和陪伴的能力。“to b企業軟件領域有一個邏輯是，每年如果不更新，就會損失15%的能力。”智振告訴數智前线。
顯然，在今天的大模型時代，技術的更迭和升級還要更快。而這也同樣意味着，不管是企業，還是大模型服務商們，都需要更經常地進行經驗總結，更新方法論。
原文標題 : 大模型想賺錢，先過這七道難關
標題：大模型想賺錢，先過這七道難關
地址：https://www.utechfun.com/post/393482.html