OpenAI內鬥的本質是「左右之爭」

2023-11-22 18:40:04    編輯: robot
導讀 伊利亞們是相對激進的「左」,他想要的是近乎不摻雜「商業化淤泥」的「AI桃花源」;奧特曼們是比較溫和的「右」,他想要的是可持續發展的商業公司,在此前提下適度兼顧造福人類的愿景。 文 | 佘宗明 哲學家...

伊利亞們是相對激進的「左」,他想要的是近乎不摻雜「商業化淤泥」的「AI桃花源」;奧特曼們是比較溫和的「右」,他想要的是可持續發展的商業公司,在此前提下適度兼顧造福人類的愿景。

文 | 佘宗明

哲學家卡爾·波普爾曾說過:烏托邦主義的吸引力,是因爲沒能認識到我們不可能在地上建造天國。

OpenAI首席科學家伊利亞(Ilya)卻用代碼敲出一句:不,我偏要。

幾天前,他跟OpenAI董事會幾名成員,對CEO山姆·奧特曼(Sam Altman)發起罷免投票,奧特曼就此出局,AI界的「911事件」就此釀成。

是大戲,就會一波三折九曲回環。OpenAI宮鬥,就在幾天內變成了連續劇:

第一集,爆出政變。OpenAI董事會將奧特曼逐出公司。

第二集,聯合創始人辭職,員工聯名要求奧特曼回歸。

第三集,承壓之下,OpenAI董事會與奧特曼商談回歸。

第四集:談判破裂,奧特曼改組董事會的要求被拒。

第五集,微軟宣布奧特曼加入微軟,Game暫時Over。

反轉反轉再反轉,堪比3秒鐘一個過山車5秒鐘一個反轉的國產爽文微短劇,ChatGPT想破腦袋大概都編不出這劇情。

旁觀者說OpenAI裏上演的是「權力的遊戲」,OpenAI董事會表示100個不同意:這分明是「人民的名義」。

▲有網友將OpenAI此次內鬥P在了宮鬥背景圖上。

耐人尋味的是,這場政變中的焦點人物伊利亞,原本被視作站在奧特曼的對立面。

可沒多久後,伊利亞便在馬斯克家的X上發消息稱:「因爲參與董事會的行動,我深感後悔。我無意傷害OpenAI。」奧特曼讀完後,還給他點了一連串紅心。

這波內訌後儼然重歸於好的舉動,把很多拿着「快意恩仇」劇本准備對號入座的網絡編劇們給整不會了。

就在不少人嚷着「觀衆的乳腺也是乳腺」時,伊利亞還秀出了更具反轉意味的操作:聯合700多名OpenAI員工在公开信上籤字,稱如果不讓奧特曼復職,他們就離开公司,加入微軟與奧特曼共事。伊利亞還同意罷免自己的董事會席位。

只不過,哼着「當初是你想分开,分开就分开,現在又要用真愛,把我哄回來」的奧特曼,最終復刻「喬布斯時刻」——他又回來了。

在網上,不少人將這場政變歸因於宗教與世俗的PK,理想與現實的衝突。

在我看來,太陽之下無新鮮事,這事仍未脫離傳統的「左右之爭」框架。

伊利亞們在左,奧特曼們在右。

01  

有人的地方,就有左中右。

改用漢娜·阿倫特的話說:如果人們不知道一個群體的政治光譜,不能區分不同群體的基本狀況,不同的價值取向和觀念心智,那么,他們也就不知道如何在很多領域中行事和表態。

就拿剛當選阿根廷下任總統的「阿根廷版特朗普」哈維爾·米萊來說,雖然是左翼民粹力量選上台,可他廢除中央銀行、力推美元化、解散多個公共部門、對國企大規模私有化等主張,盡顯極右底色。

政治光譜存在於經濟維度,也存在於技術領域。

以「公平,公平,還是公平」爲口號的左翼,對前沿技術的態度往往是夕惕若厲,總是強調要把控風險,「AI價值對齊」使他們的慣有主張,再往前數步,就可能滑向新勒德主義。

作爲動能派的馬斯克,向來很難用「左右」來界定,但他在AI上的看法就接近於左翼——他經常渲染AI威脅論,認爲硅基(機器)最終會毀滅碳基(人類)。

他之前計劃推出TruthGPT宣战ChatGPT,很多人認爲他是眼紅OpenAI一枝獨秀、眼紅奧特曼搶了風頭,但他更可能的動機是,對大規模AI應用的擔憂和對OpenAI商業化運作方式的不滿。他之前退出OpenAI董事會,之後籤署呼籲暫停強AI研究的千人聯名信,都與此相關。

將效率優先序前置的右翼,則往往會接入更多商業化思維,他們篤信技術進步主義,認爲技術的問題就該在技術的發展中解決,更先進的技術就是解決方案本身。

今年6月,全球頂級風投公司 a16z掌舵者馬克·安德森就駁斥加強對AI監管的合理性,認爲「AI最大的風險是不以最大努力追求它。」

細究起來,這次OpenAI變局的始末裏,也穿插着左右翼激烈博弈的脈絡。

02  

猶記得,在ChatGPT剛問世時,許多人都對OpenAI獨特的公司治理架構贊嘆不已——OpenAI創立時就定位爲非盈利機構,致力於爲全人類創造出安全有益的通用人工智能(AGI),其權力金字塔的塔尖立着董事會,董事會下面控制OpenAI的非營利母公司。

創始人自身不控股,大股東微軟沒有關鍵投票權,這般設計確實太反常規。當時很多人就由此反思:中國什么時候能出現自己的OpenAI?中國企業家何時能不只顧着低頭掙錢?

但現在看,它獨特的公司架構確實太挑战人性了,說得更苛刻些,就是反人性。

有掙錢的能力而不好好掙錢,除非是理想主義聖徒,一般人誰能經受住這番誘惑?

某種程度上,OpenAI今天的內訌,從它一开始背負起「非盈利」使命和「爲了人類」愿景,充滿着烏托邦氣質的時候,就已經埋下了伏筆。

作爲CEO的奧特曼是中間派偏右,他自己曾說,他在AI辯論中屬於中間派。

作爲首席科學家的伊利亞是左翼,其光譜色號偏「深」,他以往偶爾在媒體中出鏡都是強調AI安全問題。

作爲首席技術官(CTO)的米拉·穆拉蒂,立場偏中立,跟奧特曼雖不同頻卻也相近,此次風波中,擔任臨時CEO的她力主重新聘用奧特曼,就說明了很多問題。

有意思的是,不少人此前將奧特曼被掃地出門跟喬布斯當年被踢出蘋果作類比,但從擅長的能力區間看,奧特曼更接近於AI界的庫克,在融資、商業化、應用生態探索等方面的能力尤爲突出;伊利亞更像是管理能力和商業思維欠缺版的喬布斯,技術創新能力出類拔萃。

在OpenAI發展伊始,公司處於燒錢階段,還不具備盈利能力,這時候,各方都能被共同的技術信仰維系在一塊。他們可以對大模型不計成本地投入、對AGI了無掛礙地追求,正因如此,ChatGPT才會在同期產品中做到一覽衆山小。

此時的奧特曼,其能力更多的是用在爲燒錢機器OpenAI融資上,而不是讓OpenAI盈利上。能拉來微軟百億投資,能吸引馬斯克投錢進來,離不开奧特曼的長袖善舞。

▲奧特曼的背後站着微軟。

但非盈利組織的困境在於:很難做大。要想把規模做大,就必須走商業化路线,投資人不會一直爲愛發電,企業不能一直「有情飲水飽」,這些都得靠盈利能力支撐;若不想把規模做大……很抱歉,當下已長成超級獨角獸的OpenAI,已經容不下這種「如果」了。

今天的OpenAI已非昔日可比,它面臨的,是做大做強跟非盈利之間的尖銳矛盾。

此時的奧特曼,必然會將能力用在「掙錢」上。就算他不想掙錢,他也得給投資人交代。

他摁下商業化按鈕,發力應用生態、拓展應用場景、拓寬盈利路徑,讓OpenAI回歸商業公司的商業化邏輯,算是順勢而爲。

當此之時,幾名合夥人之間的價值觀分歧會加速凸顯。在左邊的會覺得在右邊的急功近利,不顧AI風險就將它推向市場;在右側的會覺得在左側的不切實際,技術突破若沒了商業化支撐只會是死路一條。

這就決定了,朝左的伊利亞們,跟中間靠右的奧特曼們,可以「共苦(共同打拼)」,卻很難「同甘(一塊賺錢)」。

畢竟,他們的使命,已經出現了歧異。

03  

若將OpenAI這場紛爭置於硅谷裏左右翼思潮興起和博弈的背景下,也許能看得更真切。

近幾年,隨着AI技術迎來突破性進展,硅谷兩個派別——EA(effective-altruism,即有效利他主義)陣營和e/acc(即有效加速主義)信徒的觀念PK也日趨激烈。

EA和e/acc的對峙,其實仍是保守派與激進派之爭在技術發展上的映射。前者認爲包括AI在內的技術應該用來解決就業、疾病和貧困等社會問題。e/acc則相信技術進步無法阻止,伴隨技術革新而至的是個美妙未來。

在AI領域,EA的代表性人物是「AI教父」、卷積神經網絡理論領軍人物傑弗裏·辛頓(Geoffrey Hinton)。他曾多次對外警告,AI會毀滅人類。

伊利亞正是辛頓的得意弟子,也是EA派新的扛旗者。

生於俄羅斯、在以色列長大、到多倫多大學學習、在斯坦福大學深造的伊利亞,起初曾加入谷歌人工智能團隊Brain Team,但後來因爲擔心AI變得比人類更聰明,而放棄了超高薪酬,跟奧特曼一塊創立了OpenAI。可以說,他不是受金錢驅動,是爲了極致信仰才加入OpenAI。

伊利亞雖然是AGI的攻堅主力,可他對AI技術發展的失控從來都不無擔憂,對AI能力商業化後的風險一直都抱以警惕。

以往接受採訪時,他就對ChatGPT帶來的假新聞、網絡暴力、AI武器等新問題眉頭緊鎖。

今年7月份,他就在OpenAI內部推動了「超級對齊計劃」,旨在確保AI發展符合人類利益。

而OpenAI董事會中的另外三名獨立董事,也都跟EA有關聯。這其中,海倫·托納就職過的機構大多由EA信徒資助,塔莎·麥考利信奉的便是EA,「美國版知乎」創始人亞當·迪安傑洛开發的類ChatGPT產品Poe,也隱約透露着EA主張。

▲OpenAI新任CEO是典型的技術保守派。

奧特曼顯然不是他們的「價值同路人」。雖然他也提出過完善AI產品監管,但他是OpenAI高層中率先主張商業化的人。雖然他沒旗幟鮮明地爲e/acc站過台,但有人懷疑他用小號爲其張目,他帶領的OpenAI也成了e/acc信徒們的「憑欄處」。他在YC時期的老友、後任CEO陳嘉興(Garry Tan),則用把e/acc加進社交账號名稱後綴的方式,擁護這套理論。

在OpenAI董事會中,跟奧特曼站在同條战壕裏的,是OpenAI原董事會主席兼總裁格雷格·布羅克曼。他這次就跟奧特曼同進退,還將矛頭對准了伊利亞。

在今年6月,奧特曼跟伊利亞兩人曾在美國特拉維夫大學同台對談,當主持人提到AI存在的三大風險——工作崗位受到影響、黑客獲得超級智能和系統失控時,兩人就表現出了立場上的差異。

奧特曼傾向於描述AI樂觀的那面,伊利亞則主張「需要適當的結構來控制這項技術的使用」。

目前看,很顯然,偏右的奧特曼,贏了OpenAI董事會中偏左的幾人。

最直觀的證明就是:奧特曼跟格雷格·布羅克曼如愿回歸OpenAI,新上任又換下的CEO艾米特·謝爾是典型的AI保守派——他在X上就說,他希望減緩AI的發展速度,並且要與e/acc一派劃清界限。

04  

用ChatGPT拉开「AI大爆炸」序幕的OpenAI,最終卻出現「內爆」,這不免讓人有些唏噓。

這是OpenAI的悲哀:烏托邦裏,終究容不下那些「世俗」的欲望。早前它還很弱小時,矛盾隱性化,左中右尚能共存;等它成了AI領域的頂流,矛盾顯性化,左中右已無法兼容——引爆衝突的,不是利益紛爭,而是價值觀歧異。

可以預見,內訌過後,OpenAI會進入失血期;若商業化節奏減緩,必然會掣肘OpenAI的快速發展勢頭。

在輿論場中,不少人在情感上站在了伊利亞一邊,認爲OpenAI政變背後是科學家創始人奮力抵抗的悲歌。在他們看來,以奧特曼爲代表的勢力想要的,是個巨型印鈔機,伊利亞們想要的,則是對人類負責任的「硅基智能」。

這很符合時下流行的輿論敘事:資本家只顧着逐利,科學家則心存良知。在這套敘事邏輯下,OpenAI內訌會被輕易歸爲「利益VS良知」之爭,奧特曼跟伊利亞各自站在黑白兩端。

以利益本位的視角去看待這其中的價值觀衝突,顯然有失偏頗。

毫無疑問,在AI存在諸多風險(包括制造假新聞、AI武器等)的情況下,AI的發展需要拿捏好效率與安全的分寸,要避免只顧盡早變現不顧多重風險的激進商業化策略。

在「硅基VS碳基」的算力競爭越過圖靈測試奇點之前,用科技倫理約束牽制AI向失控的滑落,很有必要。

但不要因爲認同純粹的技術信仰,就貿然否定必要的商業化。指望技術創新只追求「造福人類」不追求商業化,只能在理想主義的特有語境中實現自洽,在現實中的可能性則幾乎爲零。

技術創新不是搭建空中樓閣,它必須立於現實地基之上,而應用場景和商業化能力就是地基。

沒有依托應用而來的商業化,就沒有技術持續進步——無論是技術從0到1的突破,還是從1到0.1再到1到10再到N的拓展,都需要資金支撐。而商業化能力就是反哺技術創新突破的「源頭活水」,缺乏應用落地,缺乏商業變現,技術創新也很難走遠。

OpenAI走到今天,離不开伊利亞的技術領導力,馬斯克就說過,伊利亞是OpenAI成功的關鍵;更離不开奧特曼的商業運作能力,要是沒他,OpenAI的錢早就不夠燒了。

現在的問題是,伊利亞們是相對激進的「左」,他想要的是近乎不摻雜「商業化淤泥」的「AI桃花源」;奧特曼們是比較溫和的「右」,他想要的是可持續發展的正常商業公司,在此前提下適度兼顧造福人類的愿景。

從伊利亞後來的反應看,他對參與罷免奧特曼表現出了悔意。這或許表明,他意識到了:OpenAI的長遠發展,離不开奧特曼的商業運作。可從OpenAI董事會的決絕態度看,他們仍不愿接受奧特曼的商業化「力場」,他們依舊是技術理想主義者。

這必然會爲OpenAI的未來罩上巨大的不確定性。要知道,尼採老師就說過——

理想主義者是不可救藥的:如果他被扔出了他的天堂,他會再制造出一個理想的地獄。

作者 | 佘宗明

運營 | 李玩

歡迎分享到朋友圈

轉載須經許可

       原文標題 : OpenAI內鬥的本質是「左右之爭」



標題:OpenAI內鬥的本質是「左右之爭」

地址:https://www.utechfun.com/post/294457.html

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。

猜你喜歡