半年大模型,還在天上飛

2023-08-04 18:40:11    編輯: robot
導讀 撰文 | 吳坤諺 編輯 | 吳先之 大模型的火,已經在這片土地上燒了半年。隨着華爲、京東、攜程三家發布會趕上晚集,按互聯網一貫的範式,國產大模型這個“新東西”也迎來了自己的半年考。 只是跟其他業務的...

撰文 | 吳坤諺

編輯 | 吳先之

大模型的火,已經在這片土地上燒了半年。隨着華爲、京東、攜程三家發布會趕上晚集,按互聯網一貫的範式,國產大模型這個“新東西”也迎來了自己的半年考。

只是跟其他業務的半年考有所不同,像新能源車、手機、電商平台等業務形態的半年考,都有足夠的公开數據信息爲支撐,便於考據分析,而大模型到現在都還處一個“黑盒子”的狀態,沒能跑出一個清晰的商業模式,所謂數據信息等論據也就無從談起。

頗爲戲謔的是,即使是從產品功能角度出發,大模型也未曾誕生通用的評測手段。面向AGI這一終極目標,評測方法自然五花八門,例如國內C端用戶賴以“測評”大模型的典中典——“松鼠鱖魚法”。

或因如此,國內大廠大多未能像OpenAI一般將自家大模型开放使用,而是實行內測機制。

而大模型更多的落地探索向B端與G端傾斜,例如騰訊先聲奪人的行業大模型以及華爲的盤古3.0、京東靈犀等。作爲目前頭部玩家聚焦的賽道,其大模型偏重盡可能展現成熟的產品形態,以商業化落地爲基本目標。例如這一類大模型爲了快速向下普及推動商業化,除卻業務落地導向外, 本地化部署能力也成爲重要的參考指標。

即使如此,在業內人士看來已經是“把碗送到面前”的行業大模型仍缺少买账的企業,行業模型的風自6月起已經吹了一個月,至今未曾出現較大規模的商業合作。

因此我們也不難看到,在如今的投資市場中,與大模型相關的投資集中於二級市場而非一級市場。即使是王慧文這個級別的大牛入場,公开消息稱其A輪融資遠高於2.3億美元,其融資能力相較時不時接收微軟百億美元投喂的OpenAI不可同日而語。

投資市場是合格的晴雨表。顯然,國內大模型在半年考的時間節點所提交的答卷不盡如人意,還需要一段時間的蟄伏與打磨,才能讓“故事”成真。

大模型沒有商業模式?

在國內的大模型需要回應市場的質疑中,商業模式應該擺在首位。

ChatGPT這位早已佔據用戶心智的頭把交椅出現熱度的明顯下降,國內最早發布通用大模型百度與阿裏兩家也在一衆玩家跟進後陷入“沉寂”。究其原因,在於通用大模型的商業模式未能跑通。即使在輿論場上獲得了用戶的認可,但商業閉環始終未能出現。

以測試範圍較廣泛的百度大模型爲例,其商業化應用文心千帆的付費模式是以調用生成的 token 數量收費,標准爲0.012元/千 tokens,輸出千字文稿需花費0.12元。

撇开其回收成本的速度不談,0.012元/千 tokens的收費看看似便宜,但文本生成往往需要多次交互後才能獲取理想結果,多次交互prompt將會無限量增加隱性成本,畢竟文心千帆可不是揮之即來的員工們。

與之相似的場景是問答社區,學界人士孫權(化名)告訴光子星球,模型應用的使用體驗與問答社區中搜尋高質量答案相似,其用戶思維是問題粒度,而付費意愿往往只會在找到高質量回答之後才會產生。因此百度選擇了推理文本數爲付費標准,只是目前還無法cover商用隱性成本。

如果採用B端喜聞樂見的月度付費,那也只是將成本支出方從用戶轉爲自己,顯然不是長久之計。ChatGPT面對C端用戶20美元/月的定價之下,尚且存在偷工減料之嫌便是最佳佐證。

當下,通用大模型的商業化無論是走B端還是C端都難以做到盈虧平衡,同時還很可能遭遇諸如AI倫理、監管等合規性風險。因此,大模型的行業化、垂直化成爲落地需求下的範式轉變。

反觀行業大模型,雖說其產品形態始於落地需求,但是在實際落地中出現的問題卻也有待解決。

一類值得參考的案例是依托自身產品生態而打造的垂類to C模型,例如知乎早早宣布於產品內進行內測的知海圖AI以及前不久才發布的攜程問道。

兩者切入大模型賽道的優勢並無二致,在於自有的社區生態和以此爲基礎衍生的高質量社區內容。而內容作爲行業數據,在簡單清洗後便可成爲大模型的訓練語料。兩者的細微差別則是知乎自始便是內容社區,而攜程則是近年才开始發力做內容。

可是就目前來看,無論是知乎還是攜程,其大模型的產品形態似乎都未能切中用戶痛點,亦未能對既有功能有足夠的提升。

知海圖AI目前已公布的產品“熱榜摘要”是通過AI抓取優質問答並潤色改寫出梗概呈現給用戶,而另一項應用“搜索聚合”則是自回答中聚合觀點,提高用戶獲取信息、形成決策的效率。

本身推薦、熱榜一類聚合功能便是知乎“傳統藝能”,大模型賦能後的表現在用戶層面並未掀起水花。況且,AI改寫潤色的流程也將熱門答案的個性化特徵覆蓋,於用戶而言,這項應用的功能僅在於快速了解信息,這與內容社區所倡導的差異化、個性化交流背道而馳。

而立足OTA的攜程問道,在攜程董事局主席梁建章看來是一個旅遊業的“可靠答案庫”。其產品成效如何還需時間檢驗,但自定位來看,同樣有“舍本逐末”之嫌。

旅遊在年輕用戶眼中本就不存在標准答案,“特種兵式”、“打卡式”、“沉浸式”等多樣化旅遊形式的出現證明了這一點。如假設大量用戶通過AI制定旅遊路线規劃,千篇一律的路线規劃反而會影響社區交流與氛圍,甚至遭致用戶停留時間的下降。

大體看來,垂直模型在C端的落地嘗試算不上順利,甚至有成爲“沉沒成本”的可能。或許受到大模型本身“提高效率”神話的影響,產品定位也大多囿於“效率”二字,只是效率僅僅是用戶體驗中一個不算核心的維度。

相同的範式在to B領域也有所展現,而在追求效率的B端,行業大模型的商業模式與落地問題得到了更深刻的展現。

摸不清的黑匣子

“AI不是物理,很少有理論上的重大技術突破,更多的是在模型結構、數據質量等維度做微調和小優化,甚至很多時候模型輸出更好了,團隊卻找不到原因。”

在一位業內人士看來,大模型在業內外存在巨大的認知偏差,而原因則在於大模型訓練以及AI行業對於外界而言是一個不折不扣的“黑匣子”,很難審視大模型產生輸出結果的推理過程,它看不見摸不着。

這導致外界在度過ChatGPT帶來的狂熱期後,一旦冷靜下來,便會對大模型這個“黑匣子”持審慎態度。這將導致大模型在落地上的困境,而這一現象在如今向to B路线轉變的過程中更爲明顯。

以如今已明確to B路线的大廠出品爲例,包括騰訊雲推出的MaaS技術方案、華爲雲推出的盤古大模型等,依靠自身雲計算生態,均稱其大模型服務支持多樣化部署,包括雲端部署、本地化快速部署等。在交互、操作、後續加入新的行業數據迭代優化等方面也有建樹,可以說是爲了落地,把大模型的門檻降到了極低。

但“審慎”帶來的認知牆還是沒有打破,即使ChatGPT的風吹了半年,許多企業沒有動力也沒有興趣去研究如何導入大模型。

數年前的雲計算行業可以看到因循的相似邏輯。雲計算是在認識到數據價值後,以此爲基礎的服務和衍生,至於大模型於企業的價值,相對而言更是數據價值的躍升。同樣是企業客戶缺乏的技術能力,連雲計算在國內企業的普及之路都距終點尚遠,大模型自不必說。

行業大模型究竟好用與否,其實已經並不重要了,畢竟商品的使用價值最終還需使用者來挖掘。更有甚者,外界會粗暴通過某些測試、表現來衡量模型水平,例如“松鼠鱖魚法”或近來因預測特大台風“杜蘇芮”的登陸地點與強度有錯誤現象而遭受質疑的華爲盤古氣象大模型。

或許正因如此,於近期發布的京東靈犀大模型選擇優先跑通自家業務場景,預計於明年初方對“外部嚴肅商業場景”开放。

更值一提的是,“行業成風”之下,商業化導向下的所謂行業模型在取代大模型原本的“通用”敘事的同時,也遭致不少人的“迷失”。

所謂行業大模型的定義存在模糊不清。大模型(Foundation Model)的內涵不在於參數量多少而在於使用通用數據訓練而湧現出的通用能力。如採用同樣的模型架構,但在數據上使用單一領域數據,不僅喪失了通用能力,甚至會由於湧現的折扣導致領域問題也無法解決。

如在原大模型基礎上使用行業數據做二次預訓練,相當於微調了原模型,那么即產品本身仍處於模型層,可以被稱作行業大模型;如通過prompt或外掛數據庫的方式加入領域知識,那便僅是對原模型能力的激發,產品也應歸屬至模型之上的應用層,稱之爲行業大模型言過其實。

目前大廠中發力行業大模型的絕大多數均是前者,如騰訊、京東、華爲等。後者則由於更輕的投入與快速提高模型能力的表現,更多會出現在开源社區中,例如前段時間引發熱議的法律大模型ChatLaw。

“相比前者,後者在產品形態上更爲成熟,便於快速構建模型能力,但後者在完成灌輸領域知識的流程後,往往上限會更高”,一位業內人士稱。

开源威脅

近日,Meta在开放商用許可下免費提供其最新开源大模型Llama2,並將其引入微軟的Azure平台,此舉被譽爲开源LLM的重要裏程碑,甚至开始威脅閉源的頭部廠商OpenAI的地位。

通過微軟這個大模型金主,Meta以更开放的姿態挑战OpenAI。

實際上,“开源派”早在此前便以第三方的身份悄然崛起。“我們沒有護城河,OpenAI 也沒有。”這句話出自5月谷歌意外泄露的一份內部文件。其內容大意是表面上, OpenAI 和谷歌在大模型上你追我趕,但真正的贏家未必會從這兩家中產生,下此判斷的原因便在於愈加豐富的开源生態。

开源生態愈發活躍,乃至於出現了模型能力的代表Llama2以及Finetune(模型微調)範式的代表技術LORA,這一切都讓閉源爭取“大力出奇跡”的巨頭廠商感受到明顯寒意。

开源的技術分享以及人才流轉等因素,也在讓大模型的黑匣子愈發“玻璃化”,缺少壁壘的必然結果是大廠在巨量資金、時間的投入下的Konw How輕易爲开源社區所傾覆。

國內頭部大廠對此的應對大多是“兩手抓”。左手“關門造車”,以小規模內測形式不斷打磨產品形態與能力,右手“集思廣益”,以雲端开發者生態爲基礎打造生態內的开源社區,但這剛需廠商自算力層、模型層到應用層的全棧布局。阿裏雲推出了大模型开源社區魔搭GPT,華爲雲、百度雲、騰訊雲也都有所布局。

總體來看,無論是行業還是通用,to C還是to B,大模型的半年考給予我們的直接感覺是:落地困難,盈利預期不斷後移;風險漸強,難言技術壁壘。那么,當下的破局之路在哪?

目前而言,有兩個有意思的方向。其一是被譽爲“ AI 時代的Memory”的向量數據庫,其二是模型智能賦予下的智能硬件。

所謂向量,即是可以代表任何東西的多維數據,包括如今LLM訓練最爲重視的文本,以及圖像、視頻、音聲等。這些形式的內容會在數據庫中清晰表示,並且支持語義檢索,即通過相似性檢索,例如男人與男孩。換句話說,於大模型而言,向量檢索就是大模型的SEO。

如上文所述,領域知識可以通過向量數據庫能力,或是精調或是外掛來提高行業模型的建構和使用,於大廠而言自然是下一階段的發力點所在。自5月起,資本便不斷湧入向量數據相關賽道,作爲前景更爲確定的應用層產品,向量數據也收獲了一衆VC的密切關注。

至於智能硬件內置模型,則是相對曾經的“siri”、“小愛”等智能助手的能力躍升,也是對真正的智能設備(手機、電腦)的外延拓展。开源社區內早有將大參數模型內置MAC的嘗試,而大廠則是在過去的移動互聯網時代便積累了一定硬件生產能力,相對而言其先發優勢更爲明顯。

少了PR式的春秋筆法,落地成爲核心需求的大模型不再神祕,故事也越來越少,开始“深潛”的賽道玩家們仍在發力。行業需要下一個“ChatGPT”時刻,我們方能見到潛水者浮出水面,正面對抗。

       原文標題 : 半年大模型,還在天上飛丨祛魅AI



標題:半年大模型,還在天上飛

地址:https://www.utechfun.com/post/245996.html

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。

猜你喜歡