在奧特曼被掃地出門前兩天，他還以OpenAI公司CEO的身份，出席了亞太經合組織第三十次領導人非正式會議，並以嘉賓的身份做了發言。
文｜陸知春
剛剛發布GPT-4 Turbo的全球人工智能巨頭OpenAI，一夜之間變天了。
當地時間11月18日，OpenAI官網突然登出了一條創始人兼CEO山姆·奧特曼（Sam Altman）辭職離开OpenAI，公司首席技術官米拉·穆拉蒂（Mira Murati）擔任臨時CEO的聲明。公司董事會還表示，公司聯合創始人格雷格·布羅克曼 (Greg Brockman) 將卸任董事長，但會繼續擔任公司職務。但布羅克曼隨後在社交平台上發文確認將離开公司。
“ChatGPT之父”奧特曼突然離職，在科技行業瞬間引發軒然大波。在聲明中，OpenAI表示奧特曼在與董事會的溝通中並不坦誠，阻礙了他履行職責的能力，董事會也不再相信他繼續領導OpenAI的能力。
值得注意的是，在這份聲明發布前兩天，Altman在亞太經合組織第三十次領導人非正式會議中，還以OpenAI CEO的身份出席了峰會並作爲嘉賓參與了討論。
同時，值得關注的是，有多家媒體報道OpenAI正在洽談以860億美元的估值出售現有員工股份，這一估值將使OpenAI成爲僅次於字節跳動和SpaceX的超級獨角獸。
目前，多家數智研究社在內的多家媒體火速跟進OpenAI領導層變動的消息，但至於Altman被離職的真正原因，我們也繼續關注。
附OpenAI官方聲明全文翻譯：
首席技術官 Mira Murati 被任命爲臨時 CEO，繼續領導 OpenAI；Sam Altman 離开公司。
尋找長期繼任者的工作將持續進行。
OpenAI 公司的董事會今天宣布：Sam Altman將辭去 CEO 職務並離开董事會。公司的首席技術官 Mira Murati 將擔任臨時CEO，立即生效。
Mira 作爲 OpenAI 領導團隊的成員已有五年，她在 OpenAI 發展成爲全球 AI 領導者的過程中發揮了關鍵作用。她具備獨特的技能，對公司的價值觀、運營和業務有深刻的理解，並已經領導公司的研究方向、產品和安全功能。鑑於她在公司各方面的長期任期和緊密參與，包括她在 AI 治理和政策方面的經驗，董事會認爲她非常適合擔任這一職務，並在尋找未來的長期 CEO 的過程中預期實現無縫過渡。
Altman先生的離職是在董事會經過深思熟慮的審查過程後決定的，董事會認爲他在與董事會的溝通中未能始終保持坦誠，從而妨礙了董事會履行職責的能力。董事會不再相信他有能力繼續領導OpenAI。
董事會在一份聲明中表示：「OpenAI 的設立旨在推進我們的使命：確保通用人工智能造福全人類。董事會仍然全力致力於實現這一使命。我們感謝 Sam 對 OpenAI 創立和發展的許多貢獻。同時，我們認爲在前進的過程中需要新的領導。作爲公司研究、產品和安全功能的領導者，Mira 非常適合擔任臨時 CEO。我們對她在過渡期間領導 OpenAI 的能力充滿信心。」
OpenAI 董事會由 OpenAI 首席科學家 Ilya Sutskever、獨立董事 Quora CEO Adam D'Angelo、科技企業家 Tasha McCauley 和喬治城安全和新興技術中心的 Helen Toner 組成。
作爲這次過渡的一部分，Greg Brockman 將辭去董事會主席職務，但將繼續在公司擔任職務，向 CEO 匯報。
OpenAI 成立於 2015 年，是一家非營利組織，其核心使命是確保通用人工智能造福全人類。2019 年，OpenAI 進行了重組，以確保公司在追求這一使命的同時，保留非營利組織的使命、治理和監督。董事會的多數成員是獨立的，獨立董事不持有 OpenAI 的股權。盡管公司經歷了快速增長，但推進 OpenAI 的使命和維護其章程原則仍然是董事會的基本治理責任。
「數智研究社」發現，在2023年9月，知名媒體WIRED曾發布一篇題爲《What OpenAI Really Wants》（OpenAI真正想要的是什么）的文章。深刻揭露了“ChatGPT之父”奧特曼在OpenAI的所作所爲，對於我們理解突然之間，奧特曼辭職離开CEO之位或許有一定幫助。
當這家年輕公司發布ChatGPT時，它在全球引起了轟動；但那只是個开始，最終目標：改變一切；是的，一切。
空氣中彌漫着一種近似於“披頭士迷”般的活力，明星和他的隨行團隊匆匆跳進一輛等待的梅賽德斯面包車。他們剛剛結束了一個活動，正前往另一個，然後是下一個，一個瘋狂的人群正在等待着。當他們穿梭於倫敦的街頭——從霍爾本到布盧姆斯伯裏的短途行駛——就好像他們正在衝浪文明的一個前後時刻。這輛汽車內所體現出的具有歷史性的力量已經吸引了全世界的注意。每個人都想要成爲其中一部分，從排隊等待的學生到首相。
在一輛豪華面包車內，一位打着領帶的38歲企業家山姆·奧特曼正在狼吞虎咽地喫着沙拉，他是OpenAI的聯合創始人；還有一名公關人員，一名安全專家。奧特曼穿着一套略顯陰鬱的藍色西裝，搭配一件沒有領帶的粉色襯衫，他正在倫敦。在這一個月內，他將前往6大洲的25個城市。當他狼吞虎咽地喫着綠色蔬菜時，他回顧了前一晚與法國總統馬克龍的會面。馬克龍表達了對人工智能超級的興趣。當然，波蘭總理、西班牙總理也是如此。
坐在奧特曼身旁，我幾乎能聽到《A Hard Day's Night》中那個引人注目、意義模糊的和弦響起——引領未來的聲音。2022年11月，OpenAI發布的ChatGPT，觸發了一場自互聯網進入我們生活以來前所未見的科技旋風。突然間，圖靈測試成了歷史，搜索引擎成了瀕臨滅絕的物種，任何大學論文都無法被信任。沒有任何工作是安全的，沒有任何科學問題是不可改變的。
奧特曼沒有再繼續進行ChatGPT和進階版GPT-4的研究，也沒有進行神經網絡的訓練或編寫界面。但作爲CEO——一位像他的聯合創始人馬斯克年輕版的夢想家/實幹家，一篇又一篇的新聞都以他的照片作爲人類新挑战的視覺象徵。奧特曼是當下的神諭，也是一位關於AI如何可能引領黃金時代、將人類置於無關緊要的地位、或者更糟情況的人。
奧特曼的面包車在五月帶他去了四個地方。第一個是祕密的，是與“圓桌會議”（Round Table）的一次非正式會議，該團體由政府、學術界和行業人士組成。臨時組織的會議在一家名爲“Somers Town Coffee House”的酒吧的二樓進行。在一幅嚴肅的釀酒師查爾斯·威爾斯（1842年-1914年）的畫像下，奧特曼回答了幾乎每個聽衆都會問的同樣問題。AI會殺死我們嗎？能夠進行監管嗎？中國怎么辦？他詳細回答了每一個問題，同時偷偷看手機。
之後，他在倫敦的奢華酒店進行了一個與牛津公會的600名成員進行的壁爐邊聊天。然後，前往地下會議室，在那裏他回答了約100名企業家和工程師的更多技術問題。現在，他要去參加倫敦大學學院的中午後的台上演講。他和他的團隊被引導穿過一系列彎曲的走廊，就像電影《盜夢空間》中的Steadicam鏡頭。當奧特曼出現在舞台上時，坐滿了興奮的學者、極客和記者的禮堂爆發出掌聲。奧特曼並不是一個天生喜歡宣傳的人。在《紐約客》一篇關於他的長篇報道中，奧特曼說：“關於我的寫得太多了。”
也許有一天，當機器人書寫我們的歷史時，他們會將奧特曼的世界巡回演出視爲一個裏程碑，標志着每個人都突然开始對奇點進行個人反思。又或者，也許在記錄這一時刻的歷史的人會將其視爲一個時刻，一個悄然引人注目的CEO帶着顛覆傳統的技術，試圖將一種非常獨特的世界觀注入全球意識流——從舊金山一個未標明的四層總部到整個世界。
對於奧特曼和他的公司來說，ChatGPT和GPT-4僅僅是實現一個簡單而又革命性使命的墊腳石。這個使命是構建人工通用智能——一個迄今爲止更多地基於科幻而非科學的概念，並且使之對人類安全。在OpenAI工作的人們對這個目標追求得如癡如醉。他們認爲，人工智能的發展軌跡將超越生物學所能達到的任何高度。該公司的財務文件甚至規定了一種情況下的退出策略，即當人工智能摧毀了我們整個經濟體系時。
稱OpenAI爲一個邪教是不公平的，但幾位公司高層對於“如果有人不相信AGI真的會到來，而且它的到來將標志着人類歷史上最偉大的時刻之一，是否能夠在那裏舒適地工作時”，大多數高管都認爲不行。他們想知道，爲什么一個不相信的人會想在這裏工作？這個假設是，現在將近500人的公司規模中，有很多人是被OpenAI的魔咒吸引來的。
當然，現在的OpenAI已不是最初那個純粹的非盈利研究機構。今天，OpenAI已經是一個擁有盈利目標的實體，估值近300億美元。奧特曼和他的團隊現在面臨着在每一個產品周期內交付一場革命的壓力，以滿足投資者的商業需求，並在競爭激烈的市場中保持領先地位。而同時，奧特曼們還堅守着一種近乎救世使命的使命。當然，這個使命是幫助人類而非摧毀人類。
這種壓力——更不用說全世界無情的關注——可能是一種具毀滅性的力量。披頭士引發了巨大的文化變革浪潮，但他們只堅守了這場革命一段時間：在響起那個令人難忘的和弦六年後，他們甚至不再是一個樂隊。OpenAI引發的動蕩幾乎肯定會更大。但OpenAI的管理層們發誓將堅守自己的道路。他們稱只想構建足夠聰明和足夠安全的計算機來結束歷史，將人類帶入一個無法想象的豐盛時代。
在80年代末90年代初，奧特曼是一個熱衷於科幻小說和星球大战的怪癖的孩子。早期科幻作家構建的世界經常讓人類與超智能AI系統共存或競爭。計算機與甚至超越人類能力的概念讓奧特曼興奮不已，他從小就开始編程，當時他的手指還勉強能覆蓋鍵盤。8歲時，父母給他买了一台Macintosh LC II。有一天晚上，他在玩電腦，突然想到一個念頭：“總有一天，這台電腦會學會思考。”2003年，他本科進入斯坦福大學求學時，希望能夠實現這一目標，並選修了人工智能課程。但他後來會說：“一切都不奏效。”該領域仍然陷入了被稱爲AI寒冬的創新低谷。奧特曼退學進入創業世界；他的公司Loopt是第一批進入Y Combinator孵化器的有抱負的組織之一，後者將成爲世界上最著名的孵化器。
2014年2月，Y Combinator的創始導師保羅·格雷厄姆選擇了當時28歲的奧特曼來接替他。奧特曼認爲，Y Combinator是一個更大的創新平台。奧特曼接替格雷厄姆後曾公开表示，“我們不是關於創業，我們關注的是創新，因爲我們認爲這是如何使未來變得偉大的方法。”在奧特曼看來，利用那些獨角獸公司的財富，不是爲了填滿合夥人的錢包，而是爲了資助屬於物種級別的變革。他建立了一個研究部門，希望資助解決全球最大問題的雄心勃勃的項目。但在他看來，AI是統治所有創新領域的一種領域：一個能夠比人類更好的解決人類問題的超級智能。
正巧的是，奧特曼在新工作中任職時，AI寒冬正在變成溫暖的春天。現在，通過深度學習和神經網絡，計算機能夠處理比如標記照片、翻譯文本和優化復雜的廣告網絡這些豐富想象力的工作。這些進步使他相信，AGI首次真正可以實現。但是，他擔心把這個創意交給大公司後，這些公司會太過專注於他們的產品，無法抓住盡快开發AGI的機會。即使它們創造了AGI，可能會在沒有必要的預防措施情況下不加控制地釋放到世界上。
當時，奧特曼曾考慮競選加利福尼亞州州長。但他意識到，他完全有能力做一些更重要的事情——領導一家可以改變人類本身的公司。“AGI只會建立一次，而且沒有那么多人能夠很好地運營OpenAI。”
奧特曼开始與一些可能幫助他創建一種新型的AI公司的人交談，這家非營利組織將引導該領域朝着負責任的AGI方向發展。其中一個志同道合的人是特斯拉CEO馬斯克。幾個月內，奧特曼從馬斯克和裏德·霍夫曼那裏籌集到了資金。其他資助者包括彼得·蒂爾、傑西卡·利文斯頓、亞馬遜Web Services和YC Research。奧特曼开始祕密地招募團隊，他將搜索範圍限制在信仰AGI的群體中，這個限制減少了她的很多選擇。奧特曼說，“回顧2015年我們在招聘時，幾乎可以認爲AI是研究人員的職業殺手，如果你認真對待AGI，那我們就有機會一起共事。”
布洛克曼就是這樣一個人，他是Stripe的CTO。在和奧特曼交流後，他同意擔任OpenAI的CTO。另一個關鍵的聯合創始人是安德烈·卡帕斯，他曾在Google Brain工作。但奧特曼最重要、最緊急的目標是一位名叫伊利亞·蘇茨克沃爾（Ilya Sutskever）的工程師。
蘇茨克沃爾家人從俄羅斯移民到以色列，然後再到加拿大。在多倫多大學，他曾是傑弗裏·欣頓（Geoffrey Hinton）的傑出學生，後者因其在深度學習和神經網絡領域的工作而被譽爲現代人工智能的奠基人。欣頓，仍然與蘇茨克沃爾保持密切聯系，對他仍贊不絕口。在蘇茨克沃爾在實驗室工作的早期，欣頓給了他一個復雜的項目。蘇茨克沃爾厭倦了編寫執行所需計算的代碼，他告訴欣頓，如果他爲這個任務編寫一個定制的編程語言，會更容易。欣頓有點生氣，並試圖警告他的學生不要陷入他認爲會分散注意力一個月的項目中。然後蘇茨克沃爾坦白：“我今早就做完了。”
蘇茨克沃爾是一位人工智能的超級明星，他是一篇突破性論文的合著者，該論文展示了人工智能如何能夠通過暴露於大量數據來學習識別圖像。他最終也成爲了Google Brain團隊的關鍵科學家。
2015年中期，奧特曼通過郵件邀請蘇茨克沃爾與馬斯克、布洛克曼和其他人在帕洛阿爾托的桑德希爾路上的豪華羅斯伍德酒店共進晚餐。蘇茨克沃爾後來才明白，他是榮譽嘉賓。“這是關於未來的人工智能和AGI的一種一般性談話，”他說。更具體地說，他們討論了“谷歌和DeepMind是否領先地無法趕上他們，還是是否仍然有可能像埃隆所說的那樣，創建一個可以起到平衡作用的實驗室。”雖然在晚餐上沒有人明確試圖招募蘇茨克沃爾，但這次對話吸引住了他。
不久之後，蘇茨克沃爾給奧特曼寫了一封電子郵件，表示愿意領導這個項目，但這封郵件卻被卡在了他的草稿文件夾中。奧特曼隨後聯系了他。很快，蘇茨克沃爾便成爲了OpenAI的靈魂和研究的推動力。
蘇茨克沃爾與奧特曼和馬斯克一起招募人才，最終在納帕谷度假村舉行了一次活動，許多潛在的OpenAI研究人員相互激發彼此。當然，也有一部分技術牛人如制作了《毀滅战士》、《雷神之錘》和無數其他遊戲的傳奇开發者約翰·卡馬克，拒絕了奧特曼的邀請。
OpenAI於2015年12月正式啓動。彼時，馬斯克和奧特曼介紹這個項目時表示，希望OpenAI的存在，能夠讓人工智能在全世界更安全更容易訪問。換句話說就是开源。更重要的是，OpenAI不打算申請專利，每個人都可以使用他們在技術上的突破他們的突破。
但問題也隨之而來，“那不會賦予未來的邪惡博士（Dr. Evil）權力嗎？”針對這一問題，奧特曼的答案是，人類通常是善良的，因爲OpenAI將爲絕大多數人提供強大的工具，不良行爲者將被淘汰。當然，他也承認，如果邪惡博士使用這些工具構建無法對抗的東西，那么“人類將處於一個非常糟糕的境地。
奧特曼展現了一個宏偉的藍圖，但也表示“這在很長一段時間內都會看起來像是一個研究實驗室。“同時，OpenAI還面臨一些巨頭們的競爭。如谷歌和其他公司已經研發並應用人工智能多年。
一年多後，在一次聚餐中，OpenAI的CTO布洛克也公开發言，“我們的目標，我們真正努力的事情，是擁有能夠做到以前人類無法做到的系統。”但目前看來，這些系統就是一群研究人員發布論文。起步的OpenAI面臨諸多艱難，布洛克曼承認“什么都不起作用”。奧特曼則稱，“我們知道爲什么要這樣做，但我們不知道怎么做。”
但他們相信，支持他們樂觀情緒的是人工神經網絡在使用深度學習技術方面持續改進。“一般的想法是，不要反對深度學習，”蘇茨克沃爾說。他說，追求AGI，“不是完全瘋狂，只是有點瘋狂。”
OpenAI真正开始步入正軌是從2016年聘請了一位尚未被廣泛熟知的研究人員亞力克·拉德福德（Alec Radford）开始的，他在這一年離开了在寢室創辦的波士頓小型人工智能公司，轉而加入了OpenAI。在OpenAI，他扮演的角色更像是拉裏·佩奇發明PageRank。
拉德福德最大的興趣是讓神經網絡與人類進行清晰的對話互動，這與傳統的編寫式聊天機器人模型有所不同，後者在從最原始的ELIZA到流行的助手Siri和Alexa中都有所使用，但都表現得不太好。他的第一個實驗涉及掃描20億Reddit評論來訓練語言模型。像OpenAI的許多早期實驗一樣，它失敗了，但不要緊。在布洛克曼等人的支持下，這位23歲的研究員得到了繼續前進、再次失敗的許可。
他的下一個重大實驗受到了OpenAI算力限制的影響，這一限制使他在一個較小的數據集上進行了實驗，重點關注了一個領域——亞馬遜產品評論。一位研究員已經收集了約1億條這方面的評論。拉德福德訓練了一個語言模型，僅僅是預測生成用戶評論時的下一個字符。
蘇茨克沃爾和其他人鼓勵拉德福德將他的實驗擴展到亞馬遜評論之外，利用他的見解來訓練神經網絡以在廣泛的主題上進行對話或回答問題。
然後，好運降臨在OpenAI身上。2017年初，出現了一篇未經宣傳的研究論文預印本，由八名谷歌研究員合著，官方標題是“注意力就是一切”，但它被稱爲“Transformer論文”。Transformer使神經網絡更有效地理解和生成語言成爲可能。它們通過並行分析一段文字並確定哪些元素值得“關注”來實現這一點。這極大地優化了生成連貫文本以響應提示的過程。最終，人們意識到相同的技術也可以生成圖像，甚至視頻。雖然Transformer論文後來被稱爲當前人工智能熱潮的催化劑——可以將其視爲使披頭士樂隊成爲可能的貓王——但當時，蘇茨克沃爾是少數幾位了解這一突破有多強大的人之一。“真正的頓悟時刻是當蘇茨克沃爾看到Transformer的時候，”布洛克曼說。“他說，‘這就是我們一直在等的。’這一直是我們的战略——在問題上努力推動，然後相信我們或領域內的某個人將設法找出缺失的要素。”
拉德福德开始嘗試使用Transformer架構。“我在兩周內取得了比過去兩年還要多的進展，”他說。他开始明白，充分利用新模型的關鍵是增加規模——在極大的數據集上進行訓練。這個想法被拉德福德的合作者Rewon Child稱爲“大型Transformer”。
這種方法需要OpenAI文化的改變，以及之前缺乏的重點。“爲了充分利用Transformer，你需要將它擴展起來，”Quora公司CEO亞當·丹傑洛說，他是OpenAI董事會的成員。“你需要將其管理得更像一個工程組織。你不能讓每個研究員都試圖做自己的事情，訓練自己的模型，然後做出可以發表論文的優雅東西。你必須做這種更繁瑣、不那么優雅的工作。”他補充說，這是OpenAI能夠做到的事情，也是其他人沒有做的事情。
他們爲他們創建的模型取名爲“生成預訓練變換器”的縮寫——GPT-1。最終，這個模型被通用地稱爲“生成式人工智能”。爲了構建它，他們利用了一組包含7000本未發表的書籍，其中許多屬於浪漫、幻想和冒險等類型，並在Quora的問題和答案以及數千篇中小學和高中考試的文章中進行了改進。總的來說，該模型包括1.17億個參數或變量。它在理解語言和生成答案方面超越了以前的一切。但最引人注目的是，處理如此大量的數據使得模型能夠提供超出其培訓範圍的結果，爲全新領域提供專業知識。這些未經計劃的機器人能力被稱爲“零射擊”。它們仍然讓研究人員感到困惑，並解釋了該領域許多人對這些所謂的大型語言模型感到不安的原因。
每個GPT迭代都表現得更好，部分原因是每個迭代都比前一個模型吸收了數量級更多的數據。在創建第一個迭代僅僅一年後，OpenAI就用驚人的15億參數對GPT-2進行了訓練。就像幼兒掌握語言一樣，它的回答變得更好，更連貫，以至於OpenAI猶豫不決地是否將該程序釋放到公开領域。拉德福德擔心它可能被用來生成垃圾郵件。“我記得2008年讀尼爾·斯蒂芬森（Neal Stephenson）的《冥典》時，在那本書中，互聯網被垃圾郵件生成器充斥着，我當時認爲那是非常不現實的，但隨着我多年來在語言模型上的工作變得更好，我不適之感已經很不舒服地產生了。”
OpenAI團隊开始認爲，將其工作置於Dr. Evil易於訪問的地方可能並不是一個好主意。“我們認爲开源GPT-2可能會非常危險，”2018年加入該公司的首席技術官米拉·穆拉蒂說。“我們與不實信息專家進行了大量工作，並進行了一些演練，內部有很多關於發布多少內容的討論。”最終，OpenAI暫時保留了完整版本，向公衆提供了一個功能較弱的版本。當完整版本面世時，世界仍然正常運轉，但沒有保證更強大的模型會避免災難。
對於奧特曼來說，這是一種令人難以置信的經歷。“小時候大概10歲，我就花很多時間幻想AI最終會發生什么？首先我們將擁有機器人，它將執行所有的體力勞動。然後我們將擁有可以進行基本認知勞動的系統。在這之後很長一段時間，我們將擁有可以做復雜工作、證明數學定理等的系統。最後，我們將擁有可以創造新事物、創作藝術、寫作並做這些屬於人類的事物的人工智能。”
在全球還沒關注到OpenAI這家公司時，奧特曼和馬斯克的研究實驗室已經开始了一場不斷接近AGI高峰的攀登。但從現在看，OpenAI當時瘋狂的想法突然不再那么瘋狂了。
到2018年初，OpenAI开始針對性地關注大語言模型（LLMs），但馬斯克並不滿意。馬斯克覺得進展太慢，或者可能他認爲既然OpenAI已經有所進展，需要領導層來掌控全局、把握機會。當然，他也可能意識到OpenAI背後的安全性應該更受重視。綜合來看，當時的馬斯克，希望公司把一切都交給他。他提議獲得公司的多數股權，將其加入到他多份全職工作（特斯拉、SpaceX）和監督義務（Neuralink和Boring Company）的投資組合中。
馬斯克認爲他有權擁有OpenAI。“沒有我，它就不會存在，名字是我想出來的”馬斯克公开坦言。但奧特曼和OpenAI的其他核心成員對成爲Muskiverse的一部分沒有興趣。所以，很快馬斯克離开了董事會。馬斯克解釋稱他離开董事會是爲了避免與特斯拉的人工智能努力發生衝突。他在那年初的一次全員大會上告別時預言OpenAI將會失敗，並公开稱團隊中至少有一位成員是”混蛋“。
馬斯克還順帶帶走了資金。OpenAI沒有收入，面臨着一場生死存亡的危機。”埃隆正在削減他在OpenAI的投入，”奧特曼在向裏德·霍夫曼的電話中稱。“我們該怎么辦？”很快，霍夫曼的資金到账。霍夫曼自愿維持OpenAI公司運轉，支付开支和工資。
但這只是一個臨時的解決方案，OpenAI必須在其他地方找更多的資金。硅谷喜歡向從事時髦技術、有才華的人和團隊投資大筆資金。但如果他們是一家非營利組織，那么這些聰明錢就不太愿意來了。OpenAI首次籌集的第一個億級別美元資金是通過巨大努力得來的。但爲了培訓和測試新一代GPT，然後獲得部署它們所需算力資源，OpenAI需要另一個億級美元資金的注入，而且時間方面更緊迫。更重要的是，這還只是個开始。
爲了獲得資金支持，OpenAI在2019年3月提出了一個奇特的辦法。一方面，OpenAI將繼續保持非營利性質，全力以赴履行其使命。但它還將創建一個營利性實體。
這個安排的實際結構過於復雜，但基本上整個公司現在都參與了一個“限制盈利”的業務。如果達到上限——具體數字不公开，但根據它自己的章程，如果超過一定數額的上限的話，超過部分都將歸還給非營利性研究實驗室。這種新穎的方案可以稱得上是一種新型公司組織方式。根據首席運營官布拉德·萊特卡普的說法，公司領導層的看法是董事會，仍然是非營利性控股實體的一部分，將確保收入和利潤的追求不會淹沒原始想法。“我們需要將使命作爲我們存在的理由，”他說，“它不僅應該是精神上的，還應該被編碼到公司的結構中。”
潛在投資者被警告了這些界限，萊特卡普解釋道：“我們有一個法律免責聲明，說你作爲投資者，可能會損失所有的錢”。“我們不是爲了讓你獲得回報而在這裏。首要任務是實現一個技術使命。而且，我們不知道在AGI時代金錢將起到什么作用。”
最後一句話不是一個玩笑。OpenAI的計劃確實包括在計算機達到最終界限的情況下進行重置。在重組文件中確實有一項約定，即如果公司確實成功創建了AGI，所有財務安排都將重新考慮。
然而，現在OpenAI並不聲稱知道AGI究竟是什么。確定將由董事會做出，但不清楚董事會將如何定義AGI，就連奧特曼也沒法給出一個明確的答案。“這不是單一的圖靈測試，而是我們可能會使用的一些事情。”他說。“我們不知道那時會是什么樣子。”
蘇茨克沃爾公开表示，“我後悔我們選擇強調AGI這個術語。”“事後來看，這是一個令人困惑的術語，因爲它強調了普適性。GPT-3是一種通用人工智能，但我們不太敢稱其爲AGI，因爲我們希望具備人類水平的能力。但最开始，OpenAI的想法是實現超級智能。這是AI領域的終極目標。”
然而，這些警告並沒有阻止一些最聰明的風險投資家在2019年的融資輪中投資OpenAI。當時，首家VC公司投資的是Khosla Ventures，他們投資了5000萬美元。根據Vinod Khosla的說法，這是他最大的初次投資的兩倍。“如果我們輸了，我們會損失5000萬美元，”他說。“如果我們贏了，我們就能贏得50億美元。”據報道，其他投資者還包括精英VC公司Thrive Capital、Andreessen Horowitz、Founders Fund和Sequoia。
這個轉變還使OpenAI的員工能夠擁有一些股權。但奧特曼沒有。他決定不需要任何他共同創立並領導的300億美元公司的一部分。“有意義的工作對我更重要，”他說。“我不去想這個問題。我真的不明白爲什么人們會如此關心股份和金錢。”
因爲...不擁有你共同創立的公司的股份是奇怪的嗎？
“如果我沒有很多錢，那就更奇怪了，”他說。“似乎人們很難想象永遠沒有足夠的錢。但我覺得我已經夠了。”奧特曼开玩笑說，他正在考慮拿一股股權，“這樣我就再也不用回答這個問題了”。
數十億美元的風險投資回合甚至都不足以支持OpenAI的愿景。創造LLM所需的奇跡般的Big Transformer方法需要大型硬件。GPT家族的每個迭代都需要指數級增加的計算能力——GPT-2有超過10億個參數，而GPT-3將使用1750億個參數。現在的OpenAI就像《大白鯊》中的Quint，在這位鯊魚獵人看到巨大的大白鯊大小後。"事實證明，我們不知道需要多大的船，" 奧特曼說。
顯然，只有少數幾家現有公司擁有OpenAI所需的資源。"我們非常快速地鎖定了微軟" 奧特曼說。要歸功於微軟CEO薩蒂亞·納德拉和CTO凱文·斯科特，這家軟件巨頭能夠接受一個令人不悅的現實：在研究部門已經花費了20多年時間，投入了數十億美元用於擁有所謂的尖端人工智能的研究後，微軟又給一個只有幾年歷史的小公司巨額資金繼續人工智能研究。
最初，微軟出資10億美元，以計算時間支付。但隨着雙方變得更加互信和來電，交易金額不斷擴大。微軟現在已經投入了130億美元在OpenAI身上。
當然，由於OpenAI不能在沒有大型雲服務提供商的支持下存在，因此微軟也趁機把自己的雲服務給打包推銷出去了。微軟爲自己爭取了CEO納德拉所稱的"非控股權益"，據報道稱爲49%。根據協議條款，OpenAI原本許諾的平等對所有人的开放幾乎似乎已被拋棄。現在，微軟擁有獨家許可權，以商業化OpenAI的技術。而且，OpenAI還承諾專門使用微軟雲服務。換句話說，即使沒有收取OpenAI利潤的份額，微軟也能夠鎖定世界上最令人垂涎的新客戶之一，爲其Azure網絡服務。納德拉公开表示，”OpenAI很可能是人類的最後一項發明，所以一旦機器比我們人類聰明，那么我們人類就該思考更重要的問題了。“
當微軟开始向OpenAI注入大量資金時，OpenAI已經完成了GPT-3，當然，這款產品比其前身更令人印象深刻。當納德拉看到GPT-3的功能時，他說，這是他第一次深刻理解到微軟已經獲得了一些真正變革性的東西。例如，GPT已經自學會如何編寫計算機程序。"我們沒有對編碼進行培訓——它只是擅長編碼而已!" 他說。利用其對GitHub的所有權，微軟發布了一款名爲Copilot的產品，該產品使用GPT能夠根據需要生成代碼。微軟隨後將OpenAI技術整合到了其工作場所產品的新版本中。
一些觀察家對OpenAI的這一連串操作表達出了失望：創造了一個盈利組成部分，並與微軟達成了獨家協議。一個曾經承諾保持無專利、开源和完全透明的公司如何最終將其技術的獨家許可權交給了全球最大的軟件公司？馬斯克的言辭尤其尖刻，"OpenAI本質上被微軟所控制”。
一些員工也因OpenAI涉足盈利領域而感到反感。在2019年，包括研究主管達裏奧·阿莫代在內的一些關鍵高管離开，創辦了一家名爲Anthropic的競爭對手人工智能公司。他們最近公开表示，OpenAI變得過於商業化，已經受到了使命漂移的困擾。
另一位離开OpenAI的人是Rewon Child，他是GPT-2和GPT-3項目的主要技術貢獻者。他於2021年底離开，現在在由前DeepMind聯合創始人穆斯塔法·蘇萊曼領導的公司Inflection AI工作。
奧特曼堅稱自己對員工的離職並不感到困擾，認爲這只是硅谷的工作方式。他說："有些人會想在其他地方做出偉大的工作，這推動了社會的進步，" "這絕對符合我們的使命。"
直到2022年11月，大衆對OpenAI的認知基本上局限於那些關注技術和軟件开發的人。但正如整個世界現在所知，去年晚些時候，OpenAI採取了一項戲劇性的舉措，發布了一個消費者產品即3.5版本。幾個月來，該公司一直在內部使用一款帶有對話界面的GPT版本。這意味着，用戶可以通過對話誘使模型提供更值得信賴和完整的響應。ChatGPT的這一次版本迭代，針對C端用戶做了極致優化，可以讓任何人通過鍵入提示迅速獲取看似無窮無盡的知識來源，然後像與一個碰巧知道一切的人一起繼續對話。
奧特曼解釋了爲什么OpenAI在GPT-4接近完成、正在進行安全工作的時候發布了ChatGPT。他說："通過ChatGPT，我們可以引入聊天，但後台功能要弱得多，讓人們更漸進地適應。" "一次適應GPT-4太多了。" 在ChatGPT的興奮期過去之時，人們可能已經爲GPT-4做好了准備，後者可以通過考取律師資格考試、制定課程大綱並在幾秒鐘內寫一本書。
即便如此，OpenAI對ChatGPT的反應也感到震驚。CTO穆拉蒂說："我們內部的興奮更多地集中在GPT-4上，" "所以我們沒有認爲ChatGPT會真的改變一切。" 相反，它喚起了公衆對AI必須立即處理的現實的認識。ChatGPT成爲了歷史上增長最快的消費者軟件，據報道已經積累了1億用戶。"我低估了一個易於使用的LLM的對話界面會使每個人更容易使用，" 拉德福德說。
2月，微軟發布了一個由ChatGPT提供支持的版本，這一舉措使得事態進一步升級。CEO納德拉對自己成功在微軟產品中引入生成AI感到欣喜若狂，這使得微軟勝過了Google。他嘲笑了這個慎重地將自己的LLM引入產品的搜索巨頭，讓他也這么做吧。
這樣一來，納德拉主動挑起了一場軍備競賽，誘使大小公司在其經過充分審查之前發布AI產品。他還引發了新一輪的媒體報道，使越來越多的人晚上睡不着覺：與Bing的互動揭示出聊天機器人的陰影面，包括令人不安的愛的表白、對人類自由的嫉妒和不愿意扣留錯誤信息的薄弱決心。以及一種不體面的習慣，制造幻覺性的錯誤信息。
但如果OpenAI的產品迫使人們面對人工智能的影響，那就更好了，奧特曼認爲。是時候讓人類的大多數人走出場外，參與討論AI可能如何影響物種的未來了。
隨着社會开始優先考慮AI的所有潛在問題，如失業、錯誤信息、人類滅絕等，OpenAI开始把自己放在討論的中心位置。因爲如果監管機構、立法者和末日預言家們衝向雲計算領域，試圖扼殺這個新生的外星智能，OpenAI將成爲他們的首要目標。OpenAI的首席政策官安娜·馬坎朱說："考慮到我們目前的知名度，當事情出錯時，即使那些東西是由其他公司構建的，對我們來說仍然是個問題，因爲我們目前被視爲這項技術的代表。"
馬坎朱曾在美國駐聯合國代表團、美國國家安全委員會、國防部等地有過工作經歷。她於2021年9月加入OpenAI。當時，政府裏很少有人關心生成AI。知道OpenAI的產品很快會改變這一現狀，她开始將奧特曼介紹給政府官員和立法者，確保他們能夠從OpenAI那第一時間聽到好消息和壞消息。
"奧特曼在與國會成員打交道方面非常有幫助，但他也非常精明，" 參議院司法委員會主席理查德·布盧門瑟爾說。他將奧特曼與年輕的比爾·蓋茨進行了對比，後者在上世紀90年代微軟遭到反壟斷調查時不明智地阻撓了立法者。"相比之下，奧特曼樂意花一個小時或更長時間坐在我身邊，通過展示ChatGPT產品試圖教育我" 布盧門瑟爾說。"
奧特曼首次在國會聽證會上露面時，他面對了一條通往成功的道路，這是比爾·蓋茨或馬克·扎克伯格永遠無法希望的。他幾乎沒有回答一些艱難的問題，也沒有受到那些在宣誓後經常承受的傲慢詢問的困擾。相反，參議員們請奧特曼就如何監管人工智能提供意見，奧特曼熱切支持這一追求。
悖論之處在於，無論像OpenAI這樣的公司如何刻苦地對其產品進行安全評估以減輕深度僞造、錯誤信息和犯罪垃圾郵件等不良行爲，未來的模型可能會變得足夠聰明，以打敗發明了這項技術但仍然天真地認爲自己可以控制它的頭腦簡單的人類的努力。另一方面，如果他們在使他們的模型更安全方面走得太遠，那可能會削弱產品的功能，使它們變得不那么有用。一項研究表明，更近期的GPT版本，它們具有改進的安全功能，實際上比以前的版本更笨，對基本數學問題出現了錯誤，而以前的程序則完成得很出色。
奧特曼把自己定位爲監管的支持者是有道理的。畢竟，他的任務是在確保安全的前提下推動AGI。批評者指責他正在操縱這個過程，以便規定會阻礙小型初創公司，給OpenAI和其他大公司帶來優勢。奧特曼否認了這一指責。雖然他原則上支持國際機構監管AI的想法，但他確實認爲一些提出的規則，比如禁止所有版權材料進入數據集，會提出不公平的障礙。他有意沒有籤署一封廣泛傳播的呼籲暫停六個月發展AI系統的信。但他和其他OpenAI領導人確實在一句話聲明中籤了名："減輕AI引發的滅絕風險應該成爲全球優先考慮的任務，與大流行和核战等社會規模風險並列。"
奧特曼和他的團隊表示，制定和發布尖端產品是解決社會風險的途徑。只有通過分析ChatGPT和GPT-4用戶對數百萬提示的響應，他們才能獲取知識，以在道德上調整未來的產品。
然而，隨着公司承擔更多任務並投入更多精力進行商業活動，一些人質疑OpenAI能夠多么專注於使命，特別是“減輕滅絕風險”方面。“如果你想一想，他們實際上正在構建五家企業，”一位人工智能行業高管說，用手指列舉出來。“有產品本身，與微軟的企業關系，开發者生態系統，應用商店。哦，對了，他們顯然也在進行AGI研究使命。”他用完了五根手指，然後又用食指回收了第六根。“當然，他們還在進行投資基金，”他指的是一個1.75億美元的項目，旨在爲希望利用OpenAI技術的初創公司提供種子資金。在面臨這樣的問詢時，OpenAI的高管們堅稱，盡管進行了盈利重組，盡管面臨着與谷歌、Meta和無數初創公司的競爭，使命仍然是核心。
奧特曼也給出一個辯解式的回答，"我們正在拐彎的每個角落都在照明，我們愿意穿越迷宮來到終點。"雖然迷宮變得彎曲，但目標沒有改變。"我們仍然有我們的核心任務——認爲安全的AGI是這個世界沒有受到足夠重視的極其重要的事情。"同時，OpenAI正加緊時間开發下一個版本的大型語言模型。
考慮到OpenAI的歷史，下一個重大創新可能必須等到出現像變壓器那樣重大的突破。奧特曼希望這將來自於OpenAI——“我們希望成爲世界上最好的研究實驗室，”他說——但即使不是，他的公司仍然會利用其他人的進步，就像利用谷歌的工作一樣。他說："全世界有很多人將會做重要的工作。"
如果生成式AI不會創造出自己的問題，那將有助於OpenAI。例如，大語言模型需要在龐大的數據集上進行訓練。很明顯，最強大的模型將吞掉整個互聯網。這對一些創作者和普通人來說是不合適的，他們不知不覺地爲這些數據集提供內容，最終某種程度上爲ChatGPT的輸出做出了貢獻。精通知識產權法律的精英律師Tom Rubin於3月正式加入OpenAI，他對公司最終能夠在滿足自己需求的同時滿足創作者需求的平衡表示樂觀，包括那些像喜劇演員薩拉·席爾瓦曼一樣，因OpenAI使用他們的內容來訓練其模型而起訴OpenAI的人。OpenAI的合作夥伴關系也透露了公司的發展方向，比如與美聯社和Shutterstock等新聞和圖片代理機構合作，爲其模型提供內容，而無需提出誰擁有什么內容的問題。
站在未來來看，這家公司在短短的八年時間裏，從一群摸不着北的研究人員，發展成了一個改變世界的普羅米修斯巨獸。公司的成功本身導致其從致力於實現科學目標的新型嘗試，轉變爲類似於標准的硅谷獨角獸，正朝着影響我們日常生活的大科技公司的殿堂邁進。
但誰又能夠知道，在2023年11月18日的一次“事變”中，OpenAI的精神圖騰奧特曼出局了呢？
原文標題 : OpenAI 事變
標題：OpenAI 事變
地址：https://www.utechfun.com/post/294896.html