“
AI領域充斥着資本、算力和數據，但主流研究方式有可能限制真正的突破。
”
作者 | 鄭惠敏編輯｜Zuri20幾歲，他憑借幾款創世級別的3D遊戲大賣，實現財務自由。
不差錢的他开始折騰火箭，不幸以失敗告終。
迷上VR，加入成立剛滿一年的Oculus擔任CTO，一年後原地飛升，被Meta 20億美金收購。
作爲拒絕過馬斯克、蓋茨、喬布斯、山姆•奧特曼的男人，
AGI 時代，他決定再出山，幹一票大的。
2022年創立Keen Technologies，另闢蹊徑實現AGI，獲得紅杉資本、GitHub前CEO、Stripe聯合創始人、Shopify聯合創始人兼CEO等2000萬美元投資。
他就是70年代出生的編程天才，人稱“卡神”的John Carmack。
01
封“神”之路
小時候的Carmack，不是個乖孩子。
沉迷遊戲，迷戀電腦，甚至不惜偷竊以滿足對電腦的渴望，並因此被關進少管所。進入高中後因爲不羈的個性又被學校勒令休學一年。
因爲天生聰明，復學後的他以4.0的平均績點順利畢業，進入了美國著名的公立研究型大學堪薩斯大學。
但僅僅讀了兩個學期，Carmack就厭煩了循規蹈矩的大學生活，輟學進入社會。
從此Carmack過上了理想的生活，認識了志同道合的夥伴—— 程序員John Romero、遊戲設計師Tom Hall和畫師Ardian Carmack，四人夜以繼日的敲代碼、开發遊戲，發布了《指揮官基恩》（Commander Keen）系列遊戲的第一部並大爆。Carmack的AGI公司Keen Technologies的名字正式源於此。
作品大爆使他們萌生了創業念頭，1991年，四人正式成立後來大名鼎鼎的遊戲公司id Software。
1992年，id發行了射擊遊戲《德軍總部》（Wolfenstein 3-D）3D版，這是全球最早的3D第一人稱視角射擊(FPS)，开創了FPS這個前所未有的遊戲類別，以3D和射擊的概念讓這款源自80年代的作品重新煥發生機。
隔年問世的《毀滅战士》更是成就驚人，它以快節奏的战鬥、暴力的視覺表現、極強的兼容性成爲FPS遊戲中王者級別的存在，奠定了id業界巔峰的地位，不到一年時間裏就帶來了上億美元的利潤，還帶動了當時並不便宜的PC銷量。
圖源：PCGamesN
面對巨大的利益，Carmack做出了一個令人驚訝的舉動，他向公衆公布了《毀滅战士》的部分源代碼，這使得其忠實粉絲有機會修改關卡和圖形，相當於賦予了粉絲二次創作的機會，這進一步引燃了玩家的熱情。
1995年，《毀滅战士》的裝機量甚至跑贏了Windows95，讓比爾·蓋茨動起了收購id的念頭。
被Carmack拒絕後，微軟只好自己動手把《毀滅战士》移植到系統中。蓋茨還親自出鏡，在電視廣告中借着這款遊戲售賣自家的Windows系統。
這些風靡一時的佳作讓Carmack在玩家心中封神。
卡神在遊戲中運用的3D圖形顯示技術和遊戲引擎，後續也啓發了Epic Games虛幻引擎和Unity 3D开發工具的誕生，對後世遊戲產業產生了深遠影響。
這裏有一個小插曲，卡神與喬布斯一度關系甜蜜，二人在id創辦早期便熟識，甚至卡神說服了喬布斯使用开源的OpenGL作爲蘋果電腦的2D、3D圖形渲染引擎，卡神將之稱爲對PC行業“最大的間接影響之一”。
喬布斯與卡神｜圖源：Variety
但哪怕對方是喬布斯，卡神特立獨行起來，也不給面子。據說，喬布斯曾想讓卡神推遲原定的婚期，去做一個重要的主題演講，但遭到了卡神的拒絕。
言歸正傳，對卡神本人來說，遊戲作品的暢銷也讓他年紀輕輕就獲得了大筆財富，不缺錢的他將目光轉向了超級燒錢的民用航空領域。
2000年，他成立航天公司Armadillo Aerospace以开發前衛的太空探險項目，並由此結識了同樣心系外太空的馬斯克。
圖源：IBTimes UK
兩人惺惺相惜，在卡神的太空事業步入絕境後，2015年，馬斯克與卡神推特互動時，突然邀請卡神加入SpaceX，然而與喬布斯一樣，遭到了卡神的拒絕，因爲，卡神那時正全情投入到了VR事業中。
後來談起未竟的太空事業，卡神認爲失敗的部分原因要歸結於自己未能全力以赴，而馬斯克對事業全情投入的精神值得學習，這讓他決定以後無論做什么都要全力以赴。
圖源：推特, International Business Times
2013年，卡神離开了一手創立的id Software，加入剛成立不久的Oculus擔任CTO。入職當天，蜂擁而來的粉絲圍觀讓Oculus的博客系統一度宕機。2014年，Oculus被Meta 20億美元买下，卡神加入Meta繼續研究VR。
卡神可謂兢兢業業：對公司項目親力親爲，負責與三星合作开發Gear VR，一個扛起需要一整個團隊完成的工作量；從必須鏈接PC使用的Oculus Rift，到最早的VR一體機Oculus Go，再到高性價比的Oculus Quest，以及Oculus的生態應用商店，都有卡神的身影奉獻；他對玩家如春天般溫暖：爲了讓用戶能在VR中玩到《我的世界》，他獨自花費一年多時間將遊戲移植到Oculus商店。
但後來，卡神專注技術、腳踏實地的作風與Meta在元宇宙方面激進的策略產生掣肘，導致他在Oculus的重大決策中逐漸喪失了話語權。卡神對VR的熱情也被Meta緩慢的運營效率消磨殆盡。最終，他選擇在合同到期後離开。
02
AGI的召喚：卡神進軍人工智能
這一次，讓大神轉身的是AGI。
擔任Oculus CTO期間，OpenAI的三位靈魂人物Sam Altman、Greg Brockman和Ilya Sutskever勸說卡神加入OpenAI，一直以來特立獨行的卡神不出意料的拒絕了。
但卡神卻看完了Ilya列出的40多篇相關研究論文，從頭开始，惡補AI算法，在Python才是主流編程語言的情況下，僅閉關一周時間就用C++寫出了卷積神經網絡。
2022年，卡神正式下場，成立了AGI公司Keen Technologies。與大公司在投入一個新的技術領域時先評估商業前景的方式不同，卡神直截了當地表示，自己當前的工作，短期商業機會爲零。
圖源：John Carmack X 账號 Keen的首輪投資方不可小覷：包括GitHub前CEO Nat Friedman、前蘋果AI高管Daniel Gross、Stripe聯合創始人Patrick Collison、Shopify聯合創始人Tobi Lutke、紅杉資本以及硅谷傳奇芯片架構設計師Jim Keller。
其中，Nat Friedman和Daniel Gross是Cohere、Character.ai等AI獨角獸的早期投資人，投出了美國人工智能的半壁江山，Daniel Gross最近還成了前OpenAI首席科學家Ilya創立的AI安全公司的聯合創始人；Jim Keller則擁有20多年的芯片設計經驗，被譽爲Zen架構之父，曾在蘋果、AMD、特斯拉等公司負責芯片設計與研發。
早就靠賣遊戲實現財務自由的卡神並不缺錢，接受外部融資只是爲了讓自己更有創業的緊迫感。
這次創業，卡神拉上了強化學習之父Richard Sutton。
Sutton是經典教科書《強化學習導論》的合著者，被稱爲現代強化學習支付，曾在DeepMind參與AlphaGo系列研究，現任教於加拿大阿爾伯塔大學機器智能研究所。
卡神和Sutton｜圖源：Taproot Edmoton
Sutton曾撰寫過一篇著名短文The Bitter Lesson，這篇文章今天已成爲OpenAI工程師的必讀經典。文章強調了增加算力對AI發展的重要性，與當時OpenAI訓練AI所嘗試的路徑不謀而合，並在大語言模型的實現過程中得以印證。
通過郵件交流，卡神和Sutton發現雙方都想走一條“非主流”之路。
用卡神的話來說“AI領域充斥着資本、算力和數據，但主流研究方式有可能限制真正的突破。Sutton和我恰好站在主流之外。”
他們都認爲最終的AGI不會太復雜，與現在一個大規模應用數百上千萬行代碼、一個人永遠無法寫完相比，一個人就能編寫AGI代碼。
“如果拿出人的整個DNA，它的信息量不到1GB，大腦只是其中很小的一部分—— 大約40MB，而且它沒有被嚴格編碼。這說明構成我們大腦智慧的編碼沒有那么多。”卡神表示。
在卡神的設想中，AGI應該保持持續在线學習，而不是現在模型在完成預訓練後大部分參數就不再更新。
不過，Keen Technologies將走的具體路线，目前還保持神祕，打开公司官網，只有一句簡單的話“John Carmack的AGI嘗試，尚未披露信息。”
03
2030年之約：AI小公司如何上大分？
盡管一切還在迷霧中，但至少有一點事明確的，卡神認爲我們有希望在2030年看到AGI的端倪。
“我能看到目的地，但是現狀和目的地之間充滿不確定。沒人知道如何實現，但我有信心到達目的地，或者至少有人可以實現，時間點很可能是2030。”
據報道，Keen的創始技術團隊只有4人，融資規模仍停留在最初的2000萬美元。無論人才還是資金儲備都不如OpenAI等頭部AI獨角獸，更比不上谷歌、Meta等巨頭。
圖源：TechCrunch
如此小的團隊，如何實現通用人工智能的宏偉目標？
在Scaling Law尚未失效的當下，一邊，以大模型爲AGI基石的公司們仍在持續擴展大模型的參數和數據規模；另一邊，以蘋果爲代表的端側小模型不卷參數开始卷效率。而各大公司的不同研究團隊用幾個月的時間重復造輪子的群體性思維，讓卡神感到不可思議。
在卡神看來，機器學習領域的研究存在一定隨機性，目前並無明確的方向。小團隊的優勢在於可以把自己當做一個隨機測試點，從隨機權重和隨機位置开始研究，反而有更大概率找到合適的路徑。
在Transformer佔大模型架構主流的背景下，也有新的架構試圖撼動前者的主導地位。
例如來自卡內基梅隆大學和普林斯頓大學的兩位助教發布的Mamba神經網絡架構，去年12月一發布就在开源社區引起熱烈反響。
按照作者，普林斯頓助理教授Tri Dao的說法，Mamba突破了Transformer架構核心注意力層無法擴展到長上下文的局限性，可以隨上下文長度的增加线性擴展，具有5倍的推理吞吐量，基於該架構的語言模型表現超越了Transformer架構的模型。
圖源：Tri Dao X 账號
最近，原作者帶隊的Mamba-2架構正式發布，在訓練速度和任務執行方面都有了更大提升。
回到Keen，卡神表示將關注公司的長期發展，不會過早考慮商業化。當前，Keen團隊正在探索智能體之間的行動、感知、認知能力的增強，並尋找評估AI進步的確切指標。
近2年時間裏，公司沒有持續補血，這在花錢如流水的AI創業圈是難以想象的。
對此，卡神曾在專訪中表示，AGI是一項長達10年的任務，他不想在2年內將2000萬美金燒完，再用“另一個系列來獲得另外幾億美元”。
他計劃花費數年的時間解決AGI的部分問題，並對已實現的成果進行一定程度的擴展，觀察其效果。在自己培養的智能體實現可學習、可互動之後，卡神才會組建一支成分復雜的龐大隊伍來進行後續的研究。
目前，通往AGI的道路依然迷霧重重。
但正如曾經在3D遊戲、火箭、VR領域書寫的傳奇一樣，有遠見、重實幹的，卡神必將在這個充滿未知的新領域留下精彩的一筆。
文末互動：
你如何看大神John Carmack的傳奇歷程？
評論區告訴我們你的看法哦～
原文標題 : 年少財富自由，拒絕過蓋茨、馬斯克、奧特曼，傳奇程序員的AGI之路
標題：年少財富自由，拒絕過蓋茨、馬斯克、奧特曼，傳奇程序員的AGI之路
地址：https://www.utechfun.com/post/398114.html