技術、思想與價值觀的衝突，將貫穿人工智能時代。對話丨王方 鄒蔚
去年11月30日，OpenAI發布了聊天機器人ChatGPT。
APUS創始人李濤第一時間獲知了這個消息，並想起三年前的硅谷之行：OpenAI創始人山姆·奧特曼向包括李濤在內的一群中國互聯網創業者演示GPT-2玩一款即時战略遊戲。李濤對GPT-2表現出的能力感到震撼，但並不認爲它將成爲“無處不在”的技術。
當他看完ChatGPT展現出的能力，他受到巨大衝擊，他知道：一個時代要來了。
隨即，他要求全公司從战略高度重視這波AI大潮。今年开春，全公司all in AI。
在AI战略上，APUS遵循“用兩條腿走路”：通過全球化產品中積累的數據，保持大語言模型技術的相對領先；开發應用，讓生態繁榮，最終解決產業實際痛點。在發展路线上，李濤提出適應中國AI發展的關鍵“六要素”：強健的算力、全球知識與高質量數據、敏捷進化的算法、價值觀對齊、健康的產業生態與價值創造。
李濤還認爲，由於大模型具備前所未有的智能，具備影響意識形態和思想文化的能力，全球各主要經濟體需要訓練出自己的大模型，掌握大模型主權。同時，每一個國家、每一種文明、每個階層應該有自己的Agent（智能體，通過它用戶可以讓大模型更精准理解自己的需求），把大模型約束起來。
未來的階層劃分，可能不以掌握財富多寡爲依據，而是以掌握技術的先進程度爲依據。因此必須防止出現技術壟斷。不久前OpenAI董事會和創始人山姆·奧特曼的衝突，本質上是雙方思想、技術路线、價值觀的差異導致的博弈。
在ChatGPT發布一周年之際，鉛筆道與李濤做了交流，以下是對話精華。
- 01 -
鉛筆道：你怎么看OpenAI董事會和創始人這次衝突？
李濤：看看OpenAI在11月7號發布了什么，就很清楚了。
第一，它發布了GPT-4 Tubor。Tubor實際上提供了最底層的模型能力，能給所有的應用和生態賦能，進而拿到了各種各樣的數據。這種數據稱爲數據飛輪，數據飛輪一旦運轉起來，會讓它的數據指數級增長，反過來讓模型更smart。
第二，它發布了Store，开始構建生態。發布Store之外，它把所有的AI服務和應用入口統一，還把所有开發者屏蔽了，只要搜索，就可以用插件在它的後台提供服務，开發者是沒有入口的。
這件事帶來特別重要的影響，未來所有开發者品牌將不復存在，所有的开發者只是在背後提供輸出，而得到的回報是極其微薄的，僅僅能夠維持生存。
如果你用谷歌或蘋果的支付，收30%手續費。當开發者還有品牌的時候，它都可以收到30%。假設未來用戶只知道GPT這一個入口，後面提供服務的开發者只是作爲一個插件存在，OpenAI會給开發者留多少？它會給你留70%嗎？我覺得不會。
第三，它發布了GPTs。GPTs的本質是智能體，每個人可以用 GPT來訓練出屬於自己的智能體，可能是自己的數字孿生，也可能是你自己的助理。你作爲普通用戶，你的數據、情感，依賴和寄托的對象，甚至你所有的服務未來都是通過它來完成的，GPTs變成了所有用戶唯一的溝通對象和入口。這會導致用戶對它嚴重依賴。
如果11月7號發布的战略得以實施的話，那OpenAI會成爲一個龐大的“AI帝國”，當它做到技術壟斷、數據壟斷、流量入口壟斷，你可以想象整個生態將變成什么樣。
11月7號OpenAI發布的战略，從本質上來說或許是由少部分人控制的人工智能對現有的社會運行機制的一個挑战，這是最大的危機。
OpenAI事件不是簡單的利益衝突，實際上是思想的衝突、技術路线的衝突、價值觀的衝突，是這三個衝突帶來的博弈。
未來或許每個人都希望利用GPT這樣一個超現實的、足夠先進的人工智能來構建自己理想中的烏托邦，但當底層技術、所有的數據、流量入口都由一家公司控制，將會是什么狀態？
爆發衝突也是值得欣慰的事情，說明在文明世界依舊還有制約科技失控的力量。
鉛筆道：有人提出對大模型开源，大模型在公衆的監督之下，才有可能防止AI帝國出現。你覺得开源的建議靠譜嗎？
李濤：僅僅开源是不夠的。雖然开源一开始能夠讓力量更分散，但大模型的目的就是讓所有人都要用它，所有人都在它上面开發，它才能變得最smart。因此大模型天然具有馬太效應。如果僅僅通過开源，在馬太效應下，最後很多模型還是會被淘汰，只有一個最多兩個模型在起作用。
就算今天开源，OpenAI有先發優勢，它再輔以相應的一些商業化操作，可能很多大模型根本就活不到下一輪。將來OpenAI可能還會（出於防御的目的）把人力成本、算力成本、能源成本都炒得很高，最終把大量的人力、資源都集中在一起，這個帶來的風險是巨大的。
而且，它是獨立的商業公司，受到相關知識產權法律體系的保護，不能被強制要求开源。另外，开源的邊界在哪，大模型开源了，搜索引擎要不要开源？开源不是一件簡單的事情，關於是否开源的爭議最後很可能會不了了之。
我提出一個建議，全球範圍內大的經濟體都必須要有自己的大模型，把大模型納入到現有的社會框架下來管理。全球文化和價值觀的衝突很大，而今天OpenAI的GPT其實只奉行了一個價值觀、一種文化，這是有問題的。
今天的人工智能，它具有着極強的意識形態、價值觀和文化的引導性，它會把意識形態和文化潛移默化地滲透到每一個領域，這是很大的問題。所以，以大的經濟體爲單位，都有自己的模型，而不能讓它漫無目的隨意增長。
另外，每一個國家、每一種文明、每個階層應該有自己的Agent（智能體）或框架，這個 Agent或框架必須符合自己的價值觀和文明，把大模型約束起來，這是非常重要的一件事情。
大模型今天想做的事情就是要成爲一個網絡操作系統，它一旦成爲網絡操作系統以後，它又控制了網絡入口，又掌握了所有的網絡數據，然後它又具有文化和意識形態的引導性，那風險是非常非常大的。
鉛筆道：從安全和开放的角度來講，奧特曼離开會不會更好？
李濤：奧特曼只是個代表，代表着一個群體，甚至某種意義上它代表了一個階層。
今天的社會階層是用金錢、財富作爲指標來劃分的。未來可能有一個新的社會階層，是以他掌握的技術爲指標來劃分。一旦他認爲掌握了領先於整個人類文明的技術的時候，他就希望去構建一個全新的世界。而且他們認爲用他們的技術對地球文明重新劃分的時候，可能對這個地球的發展更好。
人類文明歷史上每一次大的風險，都源於某一個人或一小部分人掌握着可以影響整個人類文明進程的能力的同時，有着一個特別偉大的烏托邦理想。
鉛筆道：這個事給你的啓發是什么？你如果在其中，你的解決思路是什么？
李濤：人類今天的社會文明結構，是通過 2000 多年的演化達到了最好的一種穩定狀態。有清晰的國家邊界、政府邊界，有相對科學的一整套社會運行制度，它們保證科技和文明還能不斷進化。
歷史的車輪是由科技和文明同時推動，哪一個超出了太多都會導致很大的問題。今天的國家、民族和社會制度其實就是文明的特別典型的代表，要把今天的科技納入到這個文明的體系下。
未來社會的階層的劃分，可能從掌握金錢轉換爲掌握技術，技術壟斷會帶來很多問題。剛才討論的开源是個非常理想化的，想把技術拉平，但其實做不到，因爲沒有約束力。但如果以國與國、文明與文明、經濟體與經濟體之間能夠有自己的大模型，就可以在現有的文明基礎上構建這樣的平衡。
- 02 -
鉛筆道：經濟體應該像過去發展鋼鐵、汽車、半導體一樣制定產業政策來做自己的大模型，還是在完全自由競爭的市場環境裏讓大模型自發跑出來？
李濤：首先我認爲應該有產業政策，沒有產業政策完全沒有邊界，也是很危險的一件事情。但產業政策本身不能夠以制約大模型的技術的進步爲代價，產業政策應該是以幫助落後的文明或科技能夠快速進化到更先進的文明和科技爲目標的。
第二，在產業政策的框架下，要推行自由競爭，因爲只有這樣才能夠讓技術的進化、科技進化是奔着最強去的。同時，還能夠讓不同的經濟體之間形成平衡和制約。
鉛筆道：中文語料在全球來說相對非常少的，如果語料數量不足，會不會影響大模型开發的進程？
李濤：會，所以我說要加一個Agent或者框架。用APUS舉例，我們建立了紅色語料庫，基於紅色語料庫構建了中國大模型的Agent，它在文化和價值觀認同上，跟中國的文化和價值觀保持一致。
中文語料並不是單純數量上的少，而是在全球的知識裏面，由中文貢獻的以及數字化的知識太少了，而英文的很多。今天訓練大模型，在教它知識的時候，還得給它價值觀，還得讓它遵紀守法。
認同價值觀和遵紀守法這套東西跟知識不是一回事，因此我們設立了China AI Agent（CAA）機制，要讓它從海外豐富語料中學到的東西也能爲中國服務。
鉛筆道：現在已經是百模大战了，是不是最後只有幾個大模型會勝出？
李濤：一定的，三四個。
鉛筆道：勝出的大模型會有什么特共同點？
李濤：首先數據量最大的積累。第二，它一定符合這個國家和這個經濟體的價值觀。第三它對應用和服務支撐服務是最好。第四，它一定是對用戶的服務和體驗最好的。
鉛筆道：僅僅從企業經營者的角度看，做大模型所追求的最高使命是什么呢？
李濤：我創造出來的人工智能技術是爲全人類服務的。並不是我控制的人工智能爲全人類服務，有沒有“技術”這兩個字，差別很大。
第一個實際上是真正在推動科技和文明進化，而第二個實際上是以追求利益爲目的。
鉛筆道：以APUS爲例，具體是如何追求這個目標的？
李濤：從一开始我們就提出爲中國定制大模型。第一，我們做的東西要符合中國的價值觀、符合中華民族的價值觀和意識形態。第二，我們希望在中國範圍內，我們的大模型是足夠領先的。第三，如何能夠真正爲中國企業生產生活的服務提供能力賦能。第四，怎么讓用戶用得很好、很方便，同時又讓用戶也能夠變得更加聰明。
鉛筆道：APUS自研大模型，還推出了一系列產品，那背後支撐這些的根基是什么？
李濤：第一是先發，我們2018年就开始做人工智能，但客觀來說，大家過去的技術路线全是錯的。因爲小模型本質上就有問題，每一次都要爲一個專業的方向和領域重新來定制，它沒有規模效應、復制效應。我們也一樣，一直到 2022 年都很辛苦。但是它帶來了另外一個好處，就是讓我們一直在這個領域內跟蹤最領先的技術。去年11月ChatGPT發布，12月我們做了一個特別大的決定，意識到我們原來技術路线是錯的，全部轉向大模型。
第二，APUS做了一個开放實驗室，與（新加坡）南洋理工、深圳大學、中科院、清華大學、（沙特）阿卜杜拉國王科技大學人工智能實驗室的科學家和研究員合作，我們提供資金和算力，成果的知識產權雙方共享。這種合作讓APUS大模型的算法和應用的進化速度非常快。
第三，因爲APUS長期做海外市場，內容類的產品非常多，全球累計有超過24億用戶，DAU（日活躍用戶）過億，這些數據對我們訓練大模型有很大的幫助。
鉛筆道：作爲創始人，希望用人工智能普惠人類，那他在業務規劃的時候要給自己設定哪些邊界？
李濤：第一，要符合這個國家、民族或者文明的價值觀。第二，沒有人會真正去約束自己，一开始就要建立起一個健康的生態結構，尤其是利益分配方式。第三，你的大模型是不是推動了全產業的技術的進步，是不是真正的把你的技術通過开源或者是通過賦能的形式傳遞給了其他人。
鉛筆道：你覺得現在大模型國內競爭環境健康嗎？
李濤：不太健康。就像所謂的“百模大战”，哪需要百模啊？百模裏頭，做通用大模型的大概也就十幾家、二十家，剩下全是做行業大模型。
第二，現在大模型被鼓吹得太響，這件事沒有我們想象那么熱。行業大模型、專業大模型跟通用大模型混在一起講，其實是不科學的。
第三，中國的to G和to B生態本身就不太健康，只要技術達到 60 分，剩下的更多是靠人情來決定的，再加上水又攪得很渾，中國整個大模型市場、人工智能大模型市場就有點像早熟的巨嬰。
“百模”背後是一種不科學的甚至扭曲的思維方式，大家都看到了人工智能帶來的巨大的收益，所有人都想成爲那個通喫的贏家，大家就寧可去做這個東西，也不去做後邊的生態和服務。
APUS今年4、5月份提出全公司 all in AI，7月份提出要全力以赴在生態和應用上，做服務，真正开始落地，爲產業創造價值。
我們認爲大模型具有決定性意義的战略就兩個，第一個是讓自己的大模型的技術足夠領先，第二是讓自己的大模型生態足夠繁榮。你只要抓住一點就可以了。
鉛筆道：之前有些知名的人工智能企業，上市之後股價大跌，收入也不理想。現在這波生成式人工智能創業，怎么做到商業閉環？
李濤：上一代人工智能正是to G和大B比較多。現在的生成式人工智能必須真正落地，幫助企業解決問題。
第一，APUS幫三甲醫院做智慧分診，給醫生提供診斷建議，極大提升醫生的效率和准確性。第二，我們嘗試着用人工智能給教育賦能。中國教育不平衡太大了，人工智能在推動教育公平、教育普惠。第三，我們在做智慧電商，包括模特展示，投放、推廣都使用人工智能，可以極大降低成本。
鉛筆道：哪些企業對人工智能买單意愿更強？
李濤：金融就是個特別典型的例子，因爲它的產值非常高，人工成本又非常高。用人工智能可以很大程度解決降本問題。
電商，包括各種以互聯網爲平台的企業，是使用人工智能效果最好的領域。現在大家一說人工智能的應用全都是舉的政府側項目，大B的項目，什么制造業、造車的。大B和政府側絕對不是人工智能應用的第一場景，第一場景一定是小B和大C。
大C包括小紅書上的博主、設計師、帶貨的KOL，就過去說的個體戶，他們對人最敏感。不單單是錢的問題，就算你是個很有影響力的KOL，你不見得能管一家公司，但人工智能可以幫你把這些問題全解決，你（依靠人工智能輔助）就可以做原來可能成百上千人的活。
鉛筆道：人命運被改變的關鍵時刻，當時看起來是生命中很普通的一天。你的這個普通的一天是什么時候？
李濤：2018年11月30號，當天我和一群企業家在華爲松山湖基地，晚飯和孟晚舟還有她先生一起喫的，喫完飯他們坐車趕到香港，然後飛到加拿大轉機。（當時並不知道）它代表着一個時代的改變。
2019年，APUS在海外市場就面臨了一系列各種各樣的問題。從孟晚舟到我們自己，這一系列連續的事情，給我帶來了特別大的衝擊，我突然意識到：我們雖然是做互聯網、做科技的，但無法超然於這個世界之外，還得受現實衝突的影響，我們沒辦法逃避這些事。
我們非常明確地意識到要兩條腿走路：第一，我們把國內業務放大了，第二，我們原來是做操作系統和工具的，從19年开始做內容產品。
還有市場的選擇，得互爲備份，比如中國市場跟美國市場是互爲備份的市場。我們還希望能做出一些服務，能夠使用戶嚴重依賴，不再受Google Play和App Store約束。這就奠定了我們後邊跟人工智能的結緣，因爲你要做內容，又想在做更好的產品和服務，人工智能是不二選擇。
幾乎是在松山湖喫飯的同一撥人，19年又在美國見了山姆·奧特曼。他在遊戲和動畫裏演示，我們覺得很震撼，但並沒有真正讓我們覺得它是一個無處不在的技術。給我衝擊最大的是ChatGPT（去年11月）上线的那一天，在中國那天極其普通，在國內可能要（今年）3月份才意識到，但它在那天一下子就改變了世界。
本文僅爲口述者獨立觀點，不代表鉛筆道立場，不構成投資建議。程茜對本文亦有貢獻。封面圖來自微信圖庫。
原文標題 : 獨家！APUS李濤：大模型被少部分人掌握，很危險
標題：獨家！APUS李濤：大模型被少部分人掌握，很危險
地址：https://www.utechfun.com/post/302508.html