智能客服行業掀起了一股大模型熱。
文｜徐鑫
編｜任曉漁
“現在客戶上來就問能用大模型打電話嗎？如果沒有大模型能力，客戶就不跟你聊了”，雲蝠智能CEO魏佳星告訴數智前线，市場對大模型客服的認知度在加速。
行業內也把智能客服視作大模型率先落地的典型場景之一。大模型能更好地理解用戶問題，生成與用戶需求匹配的回復，甚至預測用戶行爲、提供個性化推薦。這極大提高了客服效率和質量，還爲企業節省了大量人力和時間成本。
IDC中國研究經理程蔭告訴數智前线，這一領域，企業投資大模型預期是做到替代人，而不是輔助人。而很多客服以外的場景落地成熟度不高，一個極大原因在大模型只能輔助人，不能很好地測算ROI。
技術的快速進步和大模型推理成本急劇降低，無疑是大模型落地智能客服的加速劑。“去年年初ChatGPT的一次調用成本還在幾美分，一通客服電話對客戶的報價1.2毛，當時商業模式根本跑不通。現在推理成本急劇下降，一次外呼調用大模型只需要0.2分”，商業應用一下子加速。魏佳星提到，目前這股技術升級和成本下降的趨勢還在持續。
熱潮下，市場上正呈現出兩種應用路徑，老牌的智能客服企業積極疊加大模型能力，而大模型企業也快速切進智能客服賽道。
但還處於發展初期的大模型智能客服仍要攻克一系列難題。比如文本客服如何克服幻覺以及語音客服面臨的時延及擬人度的挑战。一些企業正採取漸進策略，在一些要求不高的場景率先讓產品落地。
不再智障的智能客服可能正在到來。
01
推理成本下降，大模型進智能客服提速
魏佳星進入智能客服市場已有七年，他看到，去年以來大模型技術快速演進，越來越多智能客服領域的商機、需求與大模型相關。“就跟汽車的智駕功能一樣，不管客戶最後用不用，但是沒有它就不行。”
蓬勃的市場需求，從央國企的大模型招投標數據中也能窺見一些端倪。數智前线此前統計，今年Q3的大模型相關項目的招投標，僅項目名稱中與智能客服相關的項目就有9個。雖然在總量超360的大盤裏佔比不算很高，但大模型智能客服的需求已經浮出水面，並形成了一定規模。
一家關乎國計民生領域的央企相關人士此前也告訴數智前线，他們正爲旗下某超級應用裏的大模型智能客服尋找合作供應商，預計項目規模在千萬元級別。他們已經摸排了市面上包括阿裏、訊飛等多個廠商的智能客服產品能力，當下正在產品選型階段。
IDC今年八月的報告數據裏能看到市場空間正在加速打开。2023年智能客服解決方案整體市場規模達到了30.8億人民幣，較2022年增長了近36.9%。
業界觀察，蓬勃的需求，首先與過去近兩年，大模型技術快速進步，對智能客服能力帶來了明顯的升級有關。
“大模型驅動的智能客服，企業不需要非常多的NLP小模型，靠大模型能解決NLP的關鍵性任務，同時機器人的理解力、語言生成能力都有很大的躍遷。”百度智能雲智能客服與智能內容產品部總經理張紅光在今年9月的一場媒體溝通會上說。
當下，大模型改善客服體驗，場景並不局限在直接跟用戶溝通場景裏的語音機器人和文本機器人上。比如在智能質檢和分析的場景裏，大模型可以用於確認人工客服或者機器人客服的服務是否符合企業定義的SOP，還能給對話打結構化標籤，去改善客服服務。
程蔭告訴數智前线，除了文本/語音機器人、智能質檢、坐席輔助、數字人客服、視頻客服、智能分析、座席培訓等傳統智能客服場景外，和客服強相關的其他領域，如營銷、培訓、運營、決策等存在用戶交互需求的裏，對大模型智能客服的需求也在提升。
魏佳星觀察到，技術進步使得語音機器人在解鎖一些原來做不了的場景，比如雲蝠智能就在开拓基於大模型的智能體去做電話面試業務。這個新場景，對機器人的理解能力、語言表達自然程度都要有求，服務的報價也相比傳統場景有倍數級的提升。
智能客服與大模型快速結合，還與模型的調用成本快速下降密切相關。
去年年初，GPT3.5的接口調用成本一次還在幾美分的水平，當時魏佳星判斷它只有單次調用成本下降到1分錢左右，行業裏的成本账才能算得過來。現在，差不多18個月過後，語音機器人單次調用大模型接口的成本早已跌破了這個數字。
這不只發生在海外，國內的模型廠商們在今年上半年也开啓了激烈的降價行動。阿裏CEO吳泳銘今年9月提到，模型推理成本指數級下降，已經遠遠超過摩爾定律。零一萬物CEO李开復幾天前參加活動時提到了一個很激進的數字，過去一年半的時間內，大模型推理成本的價格差了500倍，同時模型能力還有很大程度的提升。
其他大模型廠商也有各種降價動作。推理成本明顯的下降趨勢，使得今年智能客服行業服務商們應用大模型的進程在提速。
02
可測算ROI VS仍待克服的障礙
去年以來，頭部企業都把智能客服領域視作大模型落地的先行場景。
阿裏雲在去年雲棲大會上首次發布的8款基於通義打造的行業大模型裏就有智能客服通義曉蜜，它能基於企業需求定制客服對話機器人。網易數智則在去年9月推出了面向客戶服務的商和大模型，用於智能質檢、客服機器人、智能外呼、精准洞察等客服場景。
今年百度智能雲從3月开始對外推出，並持續在升級的三款標杆應用裏，就有基於大模型重構、升級的智能客服產品客悅。
騰訊集團副總裁、政企業務總裁李強也在今年騰訊數字生態大會的媒體溝通環節提到，相比應用到生產研發等復雜場景，在容錯率相對高一些的場景，比如智能客服領域，大模型的落地應用進展會更快。
基於客服領域去落地及探索大模型應用的企業還有很多，技術服務商們紛紛進場，與這一場景裏大模型帶來的降本增效效果比較明顯有關。
IDC程蔭介紹，他們通過很多深度訪談發現，引入智能客服確實極大地提高了客戶服務的效率和質量，還爲企業節省了大量的人力和時間成本，帶來的收益是能測算的。
百度集團執行副總裁、百度智能雲總裁沈抖在雲智大會上提到，客悅在客服自助解決率上有大幅提升。這是客服服務領域裏的一個重要指標，“業界自助解決率普遍在80%左右，大模型重構升級後，客悅自助解決率突破了92%，客服變得更聰明、更擬人、更懂用戶。”
快遞物流信息服務商快遞100，今年將大模型技術應用到客服場景。該公司CEO陳登坤告訴數智前线，“大模型與客戶反饋及系統規則的協同效應顯著增強，共同解決了高達90%的工單問題，僅10%的問題需人工幹預，客訴一次性解決率高達99.4%。”
容聯雲大模型產品人士則提到，他們在保險服務場景裏，基於大模型，實現了對400電銷電話大量錄音內容的洞察和挖掘。應用後，降低潛在客訴量達到10%左右。
電銷電話以前只能圍繞電話數量和時長去分析，但實際上電話內容裏蕴含很多用戶的潛在需求。有了大模型後，大模型能提取到用戶的潛在需求，還能從電話內容裏挖掘出資深服務人員的優質回復，爲後續服務提供話術建議和參考。
這些都是大模型提升智能客服體驗的進展。但硬幣的另一面，依然還有很多難題需要解決。
IDC告訴數智前线，從2023年以來，頭部的技術供應商還在進行一些產品化，商業化進展還不是很顯著，市場還是以AI傳統客服爲主。大模型賦能的客服產品在行業的普遍應用中還存在與原有系統的耦合、理解能力有限、缺乏上下文感知、交互性和靈活性不足、個性化服務不足等挑战，需要根據具體場景持續的訓練調優，投入數據、算力資源。
一位企服行業資深人士就感慨，在驚嘆於技術的突破時，行業也切實需要去解決許多問題，比如真實溝通場景的幻覺控制，新技術融入到企業業務流程裏的改造和管理成本等。
以語音場景裏大模型驅動的智能體爲例，當下語音的擬人度不夠，客戶很容易能聽出來實時生成的聲音不是真人。同時由於電話場景對時延要求高，幻覺問題也很難解決。
一些大型的項目，還涉及到後續建設和運維的成本。前文提及的某央企千萬級智能客服項目，相關人士提到他們產品選型十分慎重，原因在於項目的後續建設和運維成本高。因此，他們雖然對各家廠商的能力特點如數家珍，卻遲遲沒有敲定合作對象。
另外，一位智能客服行業資深人士提到，除了技術層面的各種限制，她也看到一些場景並不鼓勵完全“去人化”的客服。“現在AI可能解語文題的能力提升了，可能也能解數學題。但是客服場景裏很多是客訴，它可能是法律題、心理題和社會題，很多時候用戶還是更愿意接聽電話的是真人。”
03
漸進式路线：在能落地的場景裏先用起來
基於大模型去升級產品有一大特性，基礎模型能力的躍升，會帶來產品性能和體驗的提升。但在能力更強的模型到來之前，技術服務商們需要基於當下的技術局限，找到產品化、商業化的合適節奏。
魏佳星提到，他們的策略是，在時延和擬人度問題沒有理想的解決方案前，先找對這些指標要求比較低的業務場景先用起來，“比如400電話，你能接受它的時延問題，可以接受它的擬人度不夠，聽起來像機器人，現在這些場景裏用起來。”
一家服務汽配行業的軟件服務商用智能體來服務車廠及終端車主的特殊車型維修零配件報價，目前有80%的客服詢價由智能體完成。
針對智能體有一些幻覺等不可控因素，他們也採取了智能體加上真人監管結合的服務模式，來更好服務客戶。“詢報價智能體在客戶群裏溝通，但是這個裏面群裏還是有銷售在做一些監管的動作”，該服務商說。
容聯雲產業數字雲VP孔淼則提到，針對大模型全面替代帶來的算力成本及幻覺等問題，可以先用大模型解決局部問題。
“比如用它解決前端的泛化問題，轉化成具體的任務後，再用高效的小模型來解決，採取大小模型結合的策略。”孔淼在幾個月前的一場產業論壇中提到。
正如IDC所說，大模型賦能的智能客服發展還在初始階段，商業化仍有待推進。不過，一些企業也看到了當下市場偏好的一些特徵，並嘗試找到一些商業化的策略。
魏佳星發現，許多企業雖然對大模型功能有認知，但相比大模型原生的智能體產品，他們更偏好上一代的具備可解釋性的產品，“短期裏大模型是一個銷售型功能”。
而大模型原生的Agent類型產品探索價值在於，一方面這是未來的發展方向，另外，它可以解耦出一部分能力，用於升級上一代產品，從而提升用戶體驗和留存，最終實現間接的商業轉化。
以電話面試場景爲例，這裏面可能涉及到N個智能體協同工作。比如第一個AI對非結構化簡歷進行讀取，讓簡歷變成標准的小字段便於其後的AI閱讀。第二個AI要調取GPT級別的最高級模型，教打電話的AI去訓練它的緩存體系。第三個AI負責打電話，發起呼叫。第四個AI把通話記錄抽取成標准的結論。
這個過程裏四個AI能力可以被解耦，其中的一部分技術方案賦能給上一代產品，“目前商業化收入裏很多來自技術方案復用給上一代之後帶來的收入增長。”魏佳星說。
當下，無論是AI傳統客服企業帶着場景接入大模型能力，還是大模型企業帶着錘子進入智能客服賽道，這一領域的熱度正在提升。
“以雲服務爲代表的平台級公司在底層大模型、新一代智能客服產品上有研發優勢，且有的雲廠商旗下有一部分業務和客服強相關。它們有一定的品牌知名度和用戶基數，需要加強的是中小企業的定制化服務。而較早進入市場的傳統客服企業也有市場認知度，積攢了一定量客戶，這些企業需要加強的則是大模型技術底層研發能力。”IDC程蔭說。
一位AI客服領域的創業企業則認爲，它們和巨頭在定價能力及服務能力上有差異，小公司有靈活性，而大廠由於人力成本，涉及到交付團隊後它很難服務報價低於五十萬元的項目。
不管怎么樣，競爭正變得激烈起來。不過市場也並非存量競爭。
上個月初，OpenAI的GPT-4o Realtime API公开測試版上线，魏佳星馬上在內部推進基於這一接口开發新一代智能客服產品。
對語音場景的智能客服而言，這是一次重要的模型能力升級，它能大大解決語音機器人的時延問題。之前的模型要將語音轉文本和文本轉語音功能拼接在一起，而Realtime API是端到端模型，在語音交互時，表現會更自然。
這也是大模型賦能的智能客服產品的一大利好，長期來看，技術的進步和成本的下降，將會給產品帶來質的突破，而新的市場空間也將進一步打开。
原文標題 : 智能客服的大模型战事：市場火爆，商業化還要再等等
標題：智能客服的大模型战事：市場火爆，商業化還要再等等
地址：https://www.utechfun.com/post/450501.html