作者：適道AI組

編輯：白石

Sam Altman曾對《紐約客》侃侃而談：“馬斯克非常渴望拯救世界，但前提他必須是拯救世界的那個英雄。”

 

對於他本人呢？我想到一個有趣的類比：Altman毫不在意世界是否毀滅，但前提他必須在諾亞方舟上，而且必須是船長。

 

不出意外地，OpenAI又雙叒出現了人事地震。

 

“ChatGPT架構師”、聯創John Schulman官宣轉投Anthropic；去年新加入的產品副總裁Peter Deng官宣離職；大跌眼鏡的是，Altman的堅定战友，OpenAI總裁兼聯創Greg Brockman也疑似離場。

 

如果此前“人員出走潮”是Altman掃除異己；那么Greg Brockman“長期休假”（Altman未回應），或許是這位“新王”衆叛親離的开始。

 

至此，OpenAI最初11位創始人或僅存兩席：Sam Altman，以及楊立昆得意門生，語言與代碼生成部門負責人Wojciech Zaremba。著名OpenAI爆料人Jimmy Apples發X：高層已成空殼，你們快上新吧。

 

與此同時，OpenAI創始人之一，Altman昔日“導師”——馬斯克再次將Altman、Brockman告上法庭，理由是創立之初的“欺騙和敲詐勒索”。

 

適道來細數“OpenAI大將叛變”歷程，探討Sam Altman爲何留不住真大佬？

“登基”前傳：是安全問題，但也不都是安全

古有PayPal黑幫，今有OpenAI叛將。

 

據統計，此前OpenAI已有近75名重要員工離職，創立了約30家AI公司。

 

前研究副總裁Dario Amodei&前安全與政策副總裁Daniela Amodei兄妹創辦Anthropic，估值180億美元；

 

前首席科學家Ilya Sutskever創辦SSI，估值100億美元；

 

前工程副總裁David Luan創辦Adept AI（被亞馬遜收編），估值超10億美元；

 

前技術負責人Jonas Schneider創辦機器人創企Daedalus，估值4000萬美元；

 

前研究科學家Aravind Srinivas創辦Perplexity.AI，估值估值30億美元；

 

前技術人員Tim Shi創辦AI客服平台Cresta Al，估值16億美元；

 

其中，Anthropic成長爲OpenAI的頭號對手、前司員工“庇護所”；Perplexity.AI成長爲OpenAI最佳套殼者、Google搜索挑战者........

 

對於普通研究員而言，離开是謀求更好的發展；但對於核心成員，尤其是創始團隊而言，離开基本就是因爲三觀不同。

 

典型代表爲馬斯克、Amodei兄妹，以及Ilya Sutskever。他們與Altman過招後反而鞏固了Altman在OpenAI的地位。

 

第一步，推翻馬斯克“暴政”

 

2015年，谷歌收購DeepMind。馬斯克與PayPal聯合創始人、Founders Fund創始人Luke Nosek聯手提出了一個競購方案，但最終未成功。這成爲了馬斯克揮之不去的遺憾。

 

在此背景下，憂心忡忡的馬斯克參加了一場載入硅谷史冊的晚宴。席間聚集了約十位傑出人物，其中三位尤爲耀眼——Altman、Ilya Sutskever，以及Greg Brockman。

 

他們和馬斯克探討了AI可能引發的災難性後果，和成立一個匹敵谷歌項目所需的各項條件。

 

四人團隊認爲自己具備成功所有要素：Hinton得意門生Ilya Sutskever是AI科學家；Stripe CTO Brockman是運營高手；YC CEO Sam Altman能協調所有要素；特斯拉創始人馬斯克有錢。

 

晚宴上，馬斯克承諾會投資10億美元，並提議將項目命名爲OpenAI——將以非營利性的方式運作，專注於研發對人類有益的安全AI，而不是追求利潤。

 

2017年，谷歌發表著名Transformer論文，揭示了關鍵在於處理大量數據，這需要巨大算力支持（Ilya Sutskever在OpenAI創立之初已有此判斷）。

 

於是，OpenAI开始缺錢了（馬斯克共爲OpenAI捐贈了4400萬美元，並承擔了租金）。

 

Brockman和其他OpenAI成員建議將該組織轉變爲營利性機構，以便從微軟等投資者那裏籌錢。

 

一开始，馬斯克堅決反對。但當他意識到成立營利性實體很必要性時，就希望自己獲得多數股權、初步董事會控制權，並擔任CEO。馬斯克甚至提出將OpenAI並入特斯拉。原因是，特斯拉是唯一有希望與谷歌比肩的公司。

 

眼看沒人答應，馬斯克又开始遊說OpenAI研究人員跳槽特斯拉。

 

終於，“作妖不斷”的馬斯克被董事會投票出局。

 

走之前，他還詛咒OpenAI战勝DeepMind/Google的概率爲0%。

 

不過，與Altman密切的人透露，馬斯克純粹是嫉妒Altman搶了自己在AI領域的風頭，他更加關注如何擊敗OpenAI，而非AI安全。與馬斯克親近的人則堅稱，他對AI安全的擔憂是真實且深刻的，比如开發xAI替代OpenAI。

 

但無論如何，趕走“獨裁者”馬斯克絕對是Altman登基的第一步。

 

第二步 金蟬脫殼 追求利潤最大化

 

2019年，OpenAI從微軟手中拿到了10億美元，以繼續开發“好”AI。

 

當你拿到10億美元時，你就必須回報“金主”，這其實已經讓一些元老心懷疑慮。

 

但Altman相當靈活——不留戀非營利組織的名聲，留戀非營利組織的殼子。

 

他創造性地構建了一種全新的架構。一方面，OpenAI能像普通公司運作，比如籌資、發放員工股權；另一方面，OpenAI投資者的回報有上限。

 

本質上，OpenAI成爲了一個由非營利組織董事會控制的營利公司。

 

這聽起來就不穩定，團隊內部分裂开始逐步出現。

 

2021年，Dario Amode創立Anthropic時說：

 

“OpenAI內部有一群人，當我們創造GPT-2和GPT-3後，對兩件事有非常強烈的信念。一是認爲這些模型中投入的計算資源越多，它們會變得越好，幾乎沒有盡頭。我認爲現在這個觀點得到了更廣泛的認可，但我們是最早的信仰者。

 

第二點是認爲，需要除了擴大模型規模之外的東西，那就是對齊或安全性。因爲只通過增加計算資源並不能告訴模型它們的價值觀。所以我們秉持着這個想法，成立了自己的公司。”

 

雖然Anthropic看起來更加“安全”，並在准確性方面下足了功夫。例如，Anthropic使用了大量復雜的事實問題來針對模型已知的弱點，將答案分爲正確答案、錯誤答案（幻覺）、承認“不知道”。相應地，Claude3可以表示自己不知道答案，而不是提供不正確的信息。除了更准確的回復，Claude 3甚至還能“引用”，指向參考材料中的精確句子來驗證他們的答案。

 

但正如OpenAI回報微軟，Anthropic也要回報亞馬遜，以合乎道德的方式經營一家大型AI公司幾乎是不可能的。

 

最近，Anthropic就被曝24小時抓取百萬次網站數據等等。

 

“質疑、理解、成爲”或許才是大模型初創公司的必經之路。

 

第三步 清洗叛徒 “黃袍加身”

 

陳橋兵變，宋太祖趙匡胤在半夜熟睡中，被兵變將士們偷偷地將黃袍披在身上。第二天，他痛苦地接受了大家的“逼迫”。主打一個民心所向。

 

而在去年11月OpenAI宮鬥中，也上演了一出“硅谷版”黃袍加身。彼時，數百名OpenAI員工籤署聯名信，要求所有“叛變”董事會成員辭職、恢復Altman職位，否則籤署聯名信的員工將採取行動，“可能會加入Altman和Brockman在微軟新成立的子公司”。

 

這威望和影響力，簡直是所有CEO的夢想。

 

等等，故事還有另一個版本。

 

其實這場風波，除了“比心隊列”，還有一個關鍵因素——金錢。

 

就在逼宮事件前不久，OpenAI剛剛爲員工組織了一場股票出售活動，讓大家有機會套現部分股權。結果，錢還沒拿到手呢，老板先被幹下去了。

 

一些投資者表示，如果Altman不回歸，他們會暫停執行要約收購。眼看拿這筆錢提前退休，居然被“大惡人”Ilya Sutskever攪黃了！換誰能不生氣。

 

因此，籤署請愿書確實是民心所向。而且，當你身邊95%同事都籤名支持時，你很可能也會籤上字。

 

至於Ilya Sutskever逼宮失敗與被迫出走，除了不那么懂人性之外，還和Altman極強的弄權能力有關，具體如下。

“新王”剪影：專權、欺騙、牟利、放任

時間回到2016年。彼時，OpenAI辦公地點是Brockman的私人公寓——沙發、廚櫃，甚至牀鋪，都是員工的工作台。這個不起眼的地方，居然讓20位世界頂尖的AI大神齊聚一堂。

 

當時Altman和馬斯克不常駐，是Brockman和Ilya Sutskever攜手撐起了團隊。

 

Ilya Sutskever是AI領域的領軍人物，Brockman則被視爲OpenAI業務運營的頂梁柱，

 

員工們記得，他們曾與Ilya Sutskever一同漫步於舊金山大街，深入討論宏觀議題，自問是否在正確的研究道路上踟躕。Ilya Sutskever對AI有着超前洞察力，他能用簡單的類比來闡釋復雜的技術概念，比如將神經網絡比作一種特殊的計算機程序或電路。

 

甚至在OpenAI成立之初，Ilya Sutskever就意識到AI的巨大飛躍不是來自某個特定的調整或新發明，而是源自海量數據的積累，就像爲引擎不斷注入燃料。

 

也正是這個原因。2017年，谷歌Transformer論文一經發表，Ilya Sutskever就能及時帶領OpenAI探索並採用Transformer架構，成爲行業內最早採納這項先進技術的先鋒之一。

 

Brockman的勤奮衆所周知。一位前員工回憶，每天早晨到達辦公室時，總能看到Brockman對着電腦，晚上離开時，他也在鍵盤上敲打。幾年後，Brockman的婚禮在OpenAI辦公室舉行，婚禮由Ilya Sutskever主持，這一場景成爲了公司文化的一部分。

 

在Brockman和Ilya Sutskever加入OpenAI時，他們已經實現財富自由了。披星戴月只不過是被一個共同的夢想驅動——利用AI爲人類未來做貢獻。

 

後續如我們所知，二人分道揚鑣。不過，相隔幾個月“被逼走”的二人未來也可能殊途同歸。

 

第一宗罪：專權

 

很多人可能將11月宮鬥視爲Altman的無妄之災，實際並非如此。

 

故事還是要從Anthropic說起。

 

起因是，Altman與董事會成員Helen Toner本來就不對付。

 

去年10月，Toner在喬治城大學的智庫發表了一篇論文，傾向於認爲Anthropic在安全性更勝一籌，並輕微批評ChatGPT“偷工減料”發布。

 

盡管論文結論挺溫和，但Altman氣炸了，並开始私下與董事會成員逐一接觸，想把Toner投出去。

 

而且Altman顛倒黑白，聲稱Toner的一位支持者也想逐出她。

 

最終結果大家都知道了，被投出去的人是Altman。

 

第二宗罪：欺騙

 

董事會之所以想讓Altman走人，主要是不信任他。

 

比如去年7月，OpenAI成立超對齊團隊，由Ilya Sutskever和Leike領導。團隊旨在爲公司內部和非OpenAI模型的安全性提供研究。

 

但逃不過“先野蠻生長，再安全有序”的規律。OpenAI對AGI安全治理的優先級，顯然放在了推出“閃亮產品”之後。初期承諾給超級對齊團隊的20%算力，也遭不斷蠶食，傷及“建立一個更負責任的AGI”員工的信心。

 

有趣的是，本次轉投Anthropic的John Schulman離職也和AI對齊相關：“希望加深對AI對齊的關注，並开啓我職業生涯的新篇章，讓我可以重返實際的技術工作。”

 

今年7月末，OpenAI還把安全部門高級主管Aleksander Madry調離了安全崗位，並給他重新分配了“AI推理”的工作。

 

但OpenAI告訴媒體，Madry到新職位上後，仍致力於安全工作。Altman居然還強調，OpenAI堅持了“給整個安全團隊至少20%算力”的承諾。

 

請注意，此時“超級對齊團隊”被他偷偷換成了“整個安全團隊”。

 

第三宗罪：牟利

 

如果欺騙升級呢？小道消息，去年董事會對Altman的驅逐和他隱瞞投資有關。

 

今年6月，WSJ指出——Altman投資了400多家公司，所持股份價值至少有28億美元。這個隱祕且龐大的投資帝國因OpenAI成功而直接受益。

 

表面上，Altman作爲OpenAI CEO，年薪僅6.5萬美元，且不持有任何股份，原因是不想讓金錢腐蝕AI的安全發展。

 

實際上，在Altman的投資帝國中，越來越多的公司直接和OpenAI做起了生意，要么是OpenAI客戶，要么是主要業務合作夥伴。

 

例如，OpenAI正與核能創業公司Helion達成協議，希望通過後者購买大量電力，爲數據中心供電。幕後老板正是Altman。

 

又例如，OpenAI想付費使用Reddit內容來訓練ChatGPT。而Altman和他所控制的實體持有7.6%的Reddit股份。甚至早在2014年，Altman還短暫地擔任過Reddit CEO。合作傳出後，此前瘋狂掉血的Reddit股價大漲10%，結果就是Altman所持股份一舉增長6900萬美元，達到7.54億美元。

 

第四宗罪：放任

 

Altman之所以對AI安全放任，有一部分原因是他非常樂觀？

 

如果你知道真正答案，可能會五味雜陳。

 

2015年，Altman就明確地表達過自己的擔心，認爲高級AI會成爲人類生存的最大威脅。甚至在早期談話中，他還用一種輕佻語氣提到，AI有可能終結世界。

 

甚至面對《紐約客》記者，Altman透露，自己早就儲備了槍支、黃金、彈藥、抗生素，以及以色列國防軍的防毒面具。他還提到自己在美國加州Big Sur有一片地，確保能在世界末日避難。

 

而當媒體再次提出時，Altman口風又變了：這不就是每個小男孩夢想的祕密基地嗎？

 

而他的妹妹安妮表示，這很符合她對自己哥哥的了解——一個極度注重安全、准備在最壞情況下囤積資源的人。可以推測，Altman確實擁有足夠的儲備，只是懂得閉嘴了。

 

據稱，Altman的野心也在不斷擴張。例如，他正在進行普遍基本收入的研究，以防AI導致大規模失業；他推出Worldcoin加密貨幣，該項目通過掃描眼球來分配收入。

 

了解Altman的人透露，他的目標遠不止於此，他甚至想成爲“世界之王”，接管整個世界。反正，Altman確實曾考慮競選加州州長。而Altman曾經的導師Paul Graham說：我認爲他的目標是掌控整個未來！

       原文標題 : 反向出埃及記，爲什么OpenAI留不住真大佬？

---

標題：反向出埃及記，爲什么OpenAI留不住真大佬？

地址：https://www.utechfun.com/post/407741.html