心智觀察所：你推出的這本《奧爾特曼傳》，是不是快出版了？
周恆星：是的， 這個月就會出版。
心智觀察所：這本書，你是從什么時候寫到什么時候？
周恆星：其實是從2014年我剛認識薩姆·奧爾特曼（Sam Altman）的時候，那時我剛到硅谷，然後寫到今年八九月份，中間跨度可能有10年。
【與馬斯克、奧爾特曼的因緣際會】
心智觀察所：在談論這些細節之前，我想先問一下，你覺得他是一個什么樣的人？
周恆星：如果讓我用一個詞來形容，我覺得他非常像政客。他跟硅谷的很多創業者都不太一樣，他是一位挺好溝通的人。因爲我在硅谷見了很多那種書呆子類型的，他們不太好交流，就像馬斯克一樣。
心智觀察所：因爲我經常看他們上各種播客節目。給我的感覺馬斯克就是那種非常天馬行空的，特立獨行的這么一個人，很敢闖、很魯莽，什么都說，無所顧忌。而奧爾特曼就給人感覺是滴水不漏，他上節目的時候，感覺非常謙遜，他上崔娃（Trevor Noah）、萊克斯·弗裏德曼（lex Fridman ）的節目，我都有看。不知道你在2014 年見到他是什么時間？那是在創建 OpenAI 之前？
周恆星：對，他是在 2015 年創建 OpenAI 的。2014 年他剛剛接任Y Combinator（注：簡稱YC） 的總裁，當時我是帶了一個中國企業家團去硅谷考察，團裏面很多人說想去 YC 參觀一下，因爲當時 YC 是硅谷最有名的一個孵化器。所以我當時就嘗試聯系了薩姆，通過 the information 的 Jessica Lency 她幫我牽的线。當時薩姆就說他有興趣，然後讓我去斯坦福找他，他在那邊上課。我記得當時就是一個下午，我去找他，他在一個教室裏面上課，給我的感覺就非常像一個大學生。雖然當時他可能已經快30了，但特別瘦小，然後說話特別快，當時他台下坐了很多可能年紀比他大的創業者。上完課之後，我就去跟他聊了一會兒，反正感覺他對中國特別感興趣。然後他也很想見一下我們那個團。
心智觀察所：我首次在互聯網上找他的資料是我所看到的他的第一個公开演講，他穿了兩層 Polo T恤在上面演講，那個就讓我印象很深，然後很多人就說這是一個傳奇的开始。
周恆星：對，我記得應該是在08或者09年。
心智觀察所：你的這本書我在這個周末把它讀完了。感覺非常好讀，從开頭到結尾一氣呵成，我覺得最大的一個特點就是多线敘事。因爲硅谷各個人物之間的關系錯綜復雜。但是你把每一條關系根據你的板塊，把這其中的邏輯整理得非常清晰。我首先想問一下，你這本書寫了大量的細節，比如說奧爾特曼他是怎么樣拉到微軟的投資？比如他在太陽谷的會上，和納德拉如何去推他的東西。
去年 11 月所謂OpenAI 的宮廷政變都有非常多的細節，這些細節你是怎么去了解到的？是從間接渠道知道的，還是你直接去問他們？因爲有太多細節，包括他在家裏面喝什么咖啡的牌子，你全都知道。
周恆星：你剛才說的其實是分兩部分，一部分就是宮鬥這五天發生的事情，還有一部分可能就是宮鬥之前，像他去太陽谷峰會見納德拉那段，是我在《紐約客》雜志上找到的。有個記者他有提到，說在一個樓梯間裏面碰到他，這後面我就找了很多資料。
我在書後面也注明了引用來源。還有就是那五天發生的事情，因爲當時我正好在硅谷。我是在 2023 年 11 月14 號那天採訪了他，然後他十七號就被开除了，但 22 號又回來了。那段時間我在硅谷，有點像處在風暴的中心。我去找了各種人問，然後也去了OpenAI 的大樓現場。外面有很多記者，但大家都進不去，裏面安保特別嚴格。
我回來想寫這本書的時候，就把那五天他們當時所有人發的Twitter做了整理，引用一些媒體的報道。事後，涉及到一些博客裏面的描述我全部都整理了一遍，當時是按照時間順序，比如說每小時發生什么事情，中間差不多七十個小時全部梳理了一下，當然裏面有些是謠言，我把它們刪除掉了。那五天的事情我花了很多時間去整理。
2023年11月，奧爾特曼（左）和微軟CEO納德拉（右）在OpenAI Devday上
心智觀察所：那你如何去分辨這什么謠言和真相？你要打電話去核實嗎？
周恆星：我會通過一些方式去辨別，就比如當事人在之後有澄清，或者有人去反駁他，然後那個人又出面說這是我當時搞錯了等類似的方式， 至於你剛才說的喝咖啡，那個是我用的非虛構寫作的手法，我知道他最喜歡的一款咖啡，然後我也去看了，他住的地方是可以看到海的。
心智觀察所：所以你是按照時間线來整理，然後自己排除一些不可信的東西。剛才你提到說你第一次見到奧爾特曼是 YC 相當於訓練營的一個活動。
周恆星：應該是一個創業課。YC 其實就是保羅·格雷厄姆做的一個項目。 格雷厄姆是一位很有意思的人，如果大家喜歡創業的話，可能很多人都看過他的那本書，叫《黑客與畫家》。他是一位很棒的創業者和作家。我覺得他寫的內容非常有感染力和生動。我覺得奧爾特曼他很多時候在模仿格雷厄姆，格雷厄姆可能是擔當了薩姆的一個教父角色。
心智觀察所：你認識保羅·格雷厄姆嗎？
周恆星：我跟他有過來郵件來往，但我沒有見過他，因爲他不住在硅谷。他應該住在東海岸，劍橋那邊。然後他們應該是在 2004 年的時候，保羅在東海岸做的第一個訓練營。當時薩姆·奧爾特曼（Sam Altman ）是第一期的學員，當時大概有十幾個團隊申請，很多都是大學生，保羅就把他們接到自己的身邊，手把手教他們怎么創業。那個創業營結束之後效果非常好，很多人都說想申請下一期，然後保羅就覺得可以把它作爲一個事業。因爲他很喜歡年輕人，然後也很喜歡創業這件事情。
心智觀察所：他的熱情是怎么來的？
周恆星：我覺得他有一種黑客精神。黑客精神就是我不要遵循這個世間的這些法則，我要通過創業去打破一些事情。比如做一個小公司，然後這個小公司可以去挑战大公司，他覺得這是黑客精神的一種體現。
後來他就去了硅谷，在硅谷开始做這種創業營，然後越做越大，名氣很快就打響。包括後面很多很有名的硅谷公司，像Airbnb、stripe，一些其他的公司都是從那邊孵化出來的。到13 年的時候，保羅就覺得我做這件事情已經享受到這種過程，就想退休了。他就把YC 掌門人的這個寶座給了薩姆奧爾特曼。
心智觀察所：Y Combinator原來是一個程序語言，是編程語言中的函數。他爲什么會起這么一個奇妙的名字？
周恆星：他是個極客，很喜歡編程。他好像是早期一個很有名的程序的創造者,可能他覺得公司其實也像寫代碼一樣，他是可以去建造的，然後通過一些方法論把它們組合在一起。
心智觀察所：那你當時是帶了中國科技界的創業者、企業家去拜訪嗎？我聽說還包括了張一鳴。
周恆星：對，張一鳴應該是在當時團隊裏面最年輕的，現在回想起來他當時不太愛說話，比較害羞，但還有其他比較知名的企業家像獵豹的傅盛、易道用車的周航、小米的黎萬強，還有他們的聯合創始人、一加手機的劉作虎。
心智觀察所：你對中國的 CEO 的了解程度和你對硅谷 CEO 的了解程度哪個更深？
周恆星：可能我在硅谷那幾年，相對來說對硅谷更加了解，但我之前也在國內工作過，那段時間我經常跑中關村。我是一位科技記者，然後當時對中國的也挺了解的。
心智觀察所：那我們國內也有很多科技企業，你覺得在創始人這方面有什么相似的地方或者有什么不一樣的地方嗎？
周恆星：我覺得在中國的早期的互聯網行業，可能大家更多的是借鑑硅谷那一套，原創的東西比較少。比如說百度借鑑了谷歌，然後騰訊也是借鑑OICQ，還有阿裏巴巴可能參考了亞馬遜。根據孫正義的時光機理論，這也是正常的，因爲中國是一個後發市場。
但我後來發現在移動互聯網階段，大概到了2012 年之後，其實中國也是有很多創新的。就比如說張一鳴的今日頭條，我覺得在推薦算法上有一個獨特的創新。我記得他當時在那次去我們的活動的時候還去了Facebook總部，在座談會的演講中講述了他的推薦算法，我覺得當時硅谷很多人是沒有聽懂的，很多人是不理解的。他說我會把你想要的信息推到你的面前，當時很多人很驚訝。但很多年之後，TikTok 出來了。
心智觀察所：Facebook 後來可能理解了。
周恆星：後面他們肯定是理解了，Facebook也在抄襲TikTok。中國很多线上到线下的創新，這些美國是沒有的。因爲美國傳統行業都非常先進，很難被顛覆，但在中國互聯網接管了中國商業的很大一部分，中美之間可能就是會有一些差異，但我覺得企業家精神還是比較一致的。
心智觀察所：因爲 YC 像是一個創業者的加速器，選各個地方的好點子孵化。國內也有類似的公司，以前比如說中關村也有一些孵化器。你覺得這種孵化器對現在國內這種科創的獨角獸應該去學習什么或者有什么借鑑？
周恆星：據我所知，現在國內的孵化器好像消失了很多。
前些年是很多，然後政府也非常支持，當時也有類似大衆創業、萬衆創新的。創業是需要一些傳承的。在硅谷其實傳承了很多代，從最早 60 年代就开始做芯片的，後面到互聯網，到移動互聯網，再到AI，這些人其實是一代一代傳下來的。像保羅·格雷厄姆，他可能算是互聯網开始的時候，我覺得中國可能在這方面傳承還稍微有些欠缺，可能只傳承了一代而已，但是硅谷已經傳承三四代了。我覺得如果中國的這種傳承文化可以向硅谷這邊學習。假以時日的話，也是可以出現像 YC 這樣的孵化器。像之前的YC 中國，後來他變成了奇跡論壇。陸奇老師，我覺得他是有那種 YC 精神的，他們那個模式跟 YC 也很像。
心智觀察所：類似斯坦福大學這種，守着硅谷輸出人才，保持產學研高度集中的互動，國內有沒有相關借鑑？
周恆星：我覺得很多學校現在都在做，但可能不像斯坦福那么靈活。比如說有些大學教授他們做出來的東西，學校愿意以非常低的價格無償給這個教授，再給他一些投資。可能國內還沒有這么自由的這種產權模式，可能跟國內的教育體制也有關系。
心智觀察所：你在2015年去了硅谷，那一年馬斯克第一次成功發射火箭。你是怎么聯系到他的？
周恆星：2013年我剛剛工作的時候，我的領導聽說特斯拉進入到中國，他們當時在北京芳草地开了第一家店，但還沒有开業。當時領導讓我去採訪，我就想是否可以試一下馬斯克。然後我就去猜他的郵箱是什么，比如說姓或者名、組合一下之類的，我猜了好幾個，後面我就猜中了，當時郵箱就是名，就埃隆（Elon），後來他把郵箱給換了，我也沒有瘋狂給他發郵件，其實就給他發了一封。
心智觀察所：一封就回了。
周恆星：對，而且很快就回了。我覺得他那個時候特別像機器人，說話沒有感染力，不像現在這樣很會講故事。至少他在我面前那種狀態不是現在這樣的。之後我看埃薩克森在傳記裏（注：艾薩克森撰寫的《埃隆·馬斯克傳》）面也有提到他這種狀態，是一種BLANK look，就是非常空洞的看着你，可能看你跟看個杯子沒有什么區別。當時那個採訪就是這樣。我們當時聊了一個小時，然後我問什么他就回答什么，有些創業者是非常會講故事，非常有感染力的，而他沒有給我這樣的感覺。
心智觀察所：那後來寫了相關報道文章嗎？
周恆星：當然寫了一篇文章，因爲我是第一個採訪他的中國記者。第二天他讓我去參加他一個在洛杉磯的發布會派對。我又見了他一次，我感覺他那個時候就比較开心，有可能是喝了一杯酒，他當時就有點嗨的那種感覺，對比挺強烈的。參照埃薩克森的那本書，我也感覺到，他有時候情緒起伏很大。
2023年5月31日，馬斯克飛抵北京
心智觀察所：馬斯克這個人的軼事真的很多。聽說在創業階段他的壓力比較大，經常會把自己累吐。
周恆星：他真的是九死一生，然後讓他養成了就是非常敢賭，而且每次都all in這種性格，包括這次美國大選，我覺得像已經到這種級別的，其實不應該all in，應該兩頭下注。
心智觀察所：傳統上我們都會這樣想的。
周恆星：他是真的 all in，而且賭贏，我覺得這個很厲害。他在 2018 年之前，我每年幾乎都會看到他公司要破產的傳聞，可能一直到 Model 3 真正量產之後，大家才覺得這家公司活下來了。
他有很強的危機意識，我在書裏面也提到，2018 年他們有個“量產地獄”，馬斯克說我們每周要生產 5000 輛車，不然我就不出這個工廠，他每天都睡在工廠裏面，就解決各種各樣的問題，這也導致他 2018 年跟 OpenAI 徹底決裂，是因爲那段時間他的情緒特別不穩定，他有幾次直接在公司裏罵人。這個也是他跟 OpenAI 徹底鬧掰的一個導火索。
心智觀察所：所以他是一個情緒波動很大的人，跟奧爾特曼完全是兩種人。
周恆星：對，薩姆·奧爾特曼情緒很穩定，他有時候很會示弱，就通過示弱來獲得同情，比如在聽證會的時候，說“聽證會那幾天我感受到大家的愛意”。他還經常求助一些導師，像保羅·格雷厄姆，彼得·蒂爾等，而這些年長的人都很愿意幫助他這樣一個年輕人。
【AGI與硅谷兩條路线的宗教战爭】
心智觀察所：好像你在書裏面提到了馬斯克和奧爾特曼之間有很復雜的歷史淵源和恩怨情仇，我們可不可以花一點時間去討論一下他們兩個最开始的交集？
周恆星：對，我這本書一开始就梳理了整個 AI 發展的歷程， AI 從上世紀 60 年代大家就开始廣爲討論，其實中間有很多挫折，也產生了一些流派紛爭。但大部分的時候AI都很失敗，中間經歷了很多低谷。
一直到 2012 年的時候，今年獲得了諾貝爾物理學獎的辛頓（Geoffrey E. Hinton)搞出了一套算法。這套算法通過非常少的算力，用了區區幾塊GPU，就可以識別一些圖片，准確率一下子就達到97%——這應該算是歷史性的事件，說明 AI 真的可以去識別很多東西了。在那個時候，奧爾特曼當時在硅谷應該很早就看到了這個突破，所以他在2014、2015 年的時候，他在 YC 的時候就特別想通過 AI 來做一些事情，他當時覺得互聯網已經進入到瓶頸期了，因爲在當時很多該上市的公司都上市了，他感覺互聯網可能不會再引領下一波的科技浪潮，而AI 會引領，所以他就找了很多人去聊。
他在那個時間點細致觀察了AI產業，感覺這個產業有爆發的潛力。他是一個很好的攢局者，比如說會組織一些飯局，包括他去找了很多不是創投圈，甚至是學術圈的人，比如說辛頓的學生伊利亞·薩特斯基弗（Ilya Sutskever）。他大約在 2014 年的時候給馬斯克發過郵件，說我們一起來做個非營利組織來對抗谷歌。但是因爲馬斯克跟拉裏·佩奇（Larry Page）是很好的朋友，不過他們在一點上有很大的分歧，就是拉裏·佩奇覺得未來機器人會統治人類，這是歷史的必然，他是一個非常達爾文主義者，他覺得人類就是有一天要被機器人統治的。但馬斯克說我熱愛人類，我不能讓這種事情發生。
心智觀察所：馬斯克熱愛人類的想法是從哪裏來的？因爲我知道這個有效算法（effective algorithm ）和牛津大學教師William Macasco有關。他是何時接觸到Macasco的？因爲 Macasco也是個年輕人。馬斯克是什么時候开始憂天下了呢？
周恆星：這是個很好的問題，其實我也一直在想這個問題，因爲他不是一個童年很幸福的人，兒時也一直遭到同齡人的排擠，包括他的父親對他也有很多精神虐待。他爲什么會熱愛人類？這個其實我也嘗試去找到答案，說實話我沒有找到。我其實覺得他更像拉裏·佩奇（Larry page ）一樣，我之前問過他，我說你有沒有信仰？馬斯克的回答說我沒有信仰，我只相信物理學。爲什么這么一個理性，把物理學作爲信仰的人會熱愛人類，說實話我不知道。
心智觀察所：但其實相信物理學，相信自然法則和熱愛人類也沒有什么矛盾。
周恆星：但我覺得如果他是一個非常理性的人，他把人類跟其他生物是放在同一個平等地位的話，可能就會覺得我被機器人統治，那也OK。
心智觀察所：薩姆奧爾特曼（Sam Altman）、 伊利亞·薩特斯基弗（Ilya Sutskever）他們兩個都是猶太人。但他們都應該都只是文化屬性的，不是一直參與宗教活動的人。但會不會文化背景在某一點程度上給予了他們一種非常堅定的信仰？
先講一講馬斯克，馬斯克和奧爾特曼這些帶有極客精神的一些人想要去挑战谷歌，因爲谷歌財大氣粗，而且像DeepMind 也是走在了全世界的前面，就像你在書裏面寫的，如果我們從後往前看的話，誰有可能做出這個ChatGPT？答案應該是谷歌。因爲 transformer 是谷歌做的。他們兩個就相當於是後來的一個挑战者，然後因爲他們都很喜歡看那種科幻作品，“我們去拯救這個世界，不要被邪惡的大公司給控制”。那爲什么這個護戒小隊出發之後就中道崩殂呢？
周恆星：我覺得有幾方面原因，在 2018 年的時候，馬斯克他當時經歷了 Model3 的量產地獄，他當時情緒不太穩定，而且那段時間谷歌正在吊打OpenAI，OpenAI 是什么都沒有，他們當時也沒有找到正確的方向，他們嘗試了很多，比如說做機械手臂，或者說去玩遊戲，但這些都失敗了，一直到 Transformer 這個論文出來之後。
心智觀察所：但是那個時候大家都不是做大語言模型的。
周恆星：對，但谷歌就財大氣粗，它是可以承受，嘗試很多不同的方向，但像OpenAI 其實並沒有很多資金，如果他們四處出去亂花錢的話，很快錢就燒沒了。但是馬斯克也對這個團隊失去信心了，當時就說要把這個團隊並入到特斯拉裏面。當時應該是 OpenAI 的所有人都反對，那時 Transformer 已經出來了。
反對理由就是OpenAI已經找到正確方向，他們已經准備發布第一代GPT。如果馬斯克再多呆兩個月的話，他看到 GPT 1 的成果，他可能會改變主意，但他其實已經對團隊裏的進展不太了解，因爲他住在工廠裏面，而工廠離 open AI 總部开車要兩個小時，所以我猜他那段時間就是不怎么去，然後又對他們徹底失望，就你只會花我的錢，然後什么都沒有做出來。
心智觀察所：但是奧爾特曼那個時候去總部嗎？
周恆星：薩姆奧爾特曼就住在舊金山，他跟 OpenAI 總部其實離得很近，我猜他應該知道說 GPT 1快做出來了，所以他也是反對並入特斯拉。但馬斯克他是一個很固執的人，他在 2018 年 2 月的時候开了一次會，他還罵了一個實習生是蠢蛋，然後就離开了，再也沒有回來。
之後奧爾特曼，他也沒有辦法，因爲沒有錢了，但同時他知道快做出來了，所以他就去抱大腿找了微軟。但是從馬斯克的角度來說，當時做OpenAI其實爲了對抗谷歌，結果你去抱另外一個巨頭的大腿，他覺得他被薩姆奧爾特曼騙了。馬斯克其實並不是因爲這些錢，他說不記得他到底捐了多少錢。因爲他後面說了好幾個數字都不太對，後來有人跟他算了一下，可能就 5,000 多萬美元。後面他就改口一直說 5000 多萬美元，這可能是有人跟他說之後他才想起來的。
心智觀察所：他後面指責說，我們叫OpenAI，但好像做成了一個 Close AI。他的意思就是我們最开始說好的是开源，你們需要把所有的一切都讓大衆去使用，不要像 Google 搞DeepMind黑盒化。他這個說法你覺得站得住腳嗎？
周恆星：可以看看當時的郵件往來。伊利爾給馬斯克發郵件，說开源就开一部分，閉源實際上在某個階段是更好的選擇。馬斯克當時好像就回了一個OK，也就是他當時是沒有反對的。我覺得他並不是反對开源或者閉源，他反對的是自己失去了對Open AI的控制權。
心智觀察所：他後來好像還說，奧爾特曼掌握了權力之戒，馬斯克自己難道他不想要去掌握這個權力之戒嗎？
周恆星：其實我在書裏面也寫到，像比爾蓋茨，其實大家都覺得他是一位慈善家，實際上在他的時代裏面，30 多歲的時候他打敗了所有的競爭對手，是當之無愧的科技界战神，但他在2000 年美國有個反壟斷案，當時說要拆分微軟，後來比亞蓋茨就隱退了，然後就讓鮑爾默成爲了微軟的CEO，但鮑爾默成爲 CEO 不久谷歌就出現了。後面就是谷歌一直在吊打微軟，而且微軟錯過了很多機遇，像互聯網、移動互聯網其實都錯過了。
心智觀察所：搜索這個方面，像以前雅虎之類的也都做不過谷歌。
周恆星：對，谷歌商業模式也很好，基本上融了一輪之後就可以賺很多錢了，他也不需要投資，後面很多人想收購谷歌也都失敗了，所以谷歌就是一直吊打微軟，到納德拉成爲 CEO 之後，可能雲計算方面开始讓微軟稍微扳回了一局，因爲谷歌雖然也有雲計算，但其實不是它的優勢。納德拉覺得應該做一些谷歌還不是特別擅長的東西，就看准了AI，他也說服了比爾蓋茨，之後就跟 OpenAI 結盟了。我覺得雙方可能互相都有需求，就一拍即合。
心智觀察所：它成了一種彎道超車的工具。谷歌有自己的 AI 、微軟和OpenAI 也有它們之間特殊的關系,亞馬遜有Anthropic、馬斯克有個X AI，包括各個國家都有很多公司在做這個內容。現在所有人都在AI 的這條賽道上瘋狂的卷。從技術的角度來講，這些大公司之間，他們相互的廝殺能對我們國內做 AI 的公司提供什么啓發嗎？他們這些公司的目的都是在追求 AGI 嗎？
周恆星：我覺得他們的終極目標還是AGI。 AGI 有點像聖杯，所有人都在追逐它。我覺得國內現在的確是稍微弱一些，不過還是有彎道超車的機會。如果回顧歷史，中國科技行業其實一直都是從一個跟隨者，然後慢慢超越。從互聯網到新能源汽車， AI 的話，我覺得現在可能差距不會比當年小。
中國人才也是足夠多的，但現在目前來看中國更追求的是應用，而不是大模型。在應用層面我覺得中國是有優勢的，就看能不能做一些比較好的 AI 應用出來。至於說如果要達到 AGI 做大模型，這可能不是我們的優勢。
另外一方面中國還有個優勢，就是硬件。中國的供應鏈可能除了芯片造不出來，其實可以造任何東西，而美國現在其實什么東西都造不出來。中國在這方面是有優勢的。在未來，像具生智能需要做的那種機器人，如果要保證量產的話，可能那些公司還要來中國，必須要依靠中國的供應鏈。
心智觀察所：這好像是一個聖杯战爭，在美國大家都朝着 AGI 的方向在卷。你覺得你作爲一位科技行業觀察者來講，這是AI 的未來嗎？這是人類的未來嗎？AGI好像不光是科技的問題了，不是一個單純講技術的問題，人算什么？人要幹什么？因爲比如說像辛頓（Hinton），他好像就不太支持AGI。
周恆星：對，他比較看重 AI 安全，不想讓大公司壟斷整個行業，比如就只有Open AI 獲得AGI，獲得這個聖杯，然後其他人都做不到，這個時候他覺得很危險。我覺得 AGI 這個事情早晚會發生，而且會很快，雖然現在遇到一些瓶頸，但還是會慢慢達到那個點，我覺得可能速度會超過很多人想象，這會對社會的衝擊非常大。
OpenAI的AGI機器人
心智觀察所：不做非常垂直類的AI，而是要做通用的智能，讓它有人類的這種推理能力。你覺得這個是必然的趨勢嗎？
周恆星：我覺得這個可能要根據行業來說，其實如果只是需要AGI的推理能力，完全沒有必要有個硬件，只要用軟件就可以。如果涉及到硬件的話，比如說陪伴機器人，當然就是越像人類越好。而像工廠機器人，其實只能做一個動作。但如果未來它可能不像人類這么智能，但它可以獲得智能，可以做很多動作，那就不需要多條生產线，就只需要一條生產线，然後這個機器人可以輪流做不同的動作。這個其實是可以節省成本的，但這需要看行業。
心智觀察所：所謂未來能解決萬事萬物的AGI要回答你所有問題，包括情感陪伴、歷史哲學、數學題，還要寫程序，人們對他的期待就會影響資本對他的估值。這是一個非常感性的故事。
人類先要有一個想象，然後希望這個想象真的會在現實中間呈現出來，以這個方式推進的話，未來我們是朝着哪條路？
周恆星：如果大模型越來越智能，具身機器人也可以變得越來越聰明，這是需要跟產業結合起來，中國的優勢可能更多是產業結合這條路，因爲中國的大模型現在稍微比美國弱一些。
心智觀察所：奧爾特曼最近被辛頓（Hinton）批評更關心利潤，而不是關心 AI 安全。你如何看待利潤和安全之間的取舍？
周恆星：我覺得這是兩種價值觀的衝突，可能 Hinton是學術圈的。我覺得學術圈特別是西加州的一些大學很多受到了自由主義左派的影響，他們應該當年是從一些環保，反战的環境中成長起來的。我覺得學術圈有個問題，對商業缺乏認識，但是從創業圈的角度來說，對於創業者最大就是競爭。這就需要你在競爭裏面活下來。
我覺得對於奧爾特曼他們來說，他有可能意識到了安全這個問題非常重要，包括他當時也答應了伊利亞，會給 20% 算力來做超級對齊的問題——畢竟AI的某些情感價值觀跟人類不一致。但後面很有可能就是因爲跟谷歌和 Anthropic 競爭實在太激烈了，OpenAI必須全力向前，把資源都投入到做大模型裏面，所以後面的矛盾就越來越大。其實我覺得這兩點都是可以理解的。因爲我覺得他作爲一個 CEO首先要贏得競爭，這方面壓力應該是最大的，而不是像辛頓把這個問題看的這么重。
心智觀察所：馬斯克也經常考慮安全和人類未來。
周恆星：對，我在書裏面其實也寫到他在 OpenAI 那段時間，特別是 2018 年的時候他的一些言論，當時他很明顯是個有效加速主義者。他當時就一直批評團隊，說你們太慢了，要快一點，這跟奧爾特曼是一樣的，從一個資本家的角度不斷去逼迫團隊。但他從OpenAI出來之後就說安全的問題，我覺得這更多的是一種競爭策略。
心智觀察所：所以你在書中有一章是提到“硅谷宗教”。歷史上的宗教战爭，往往也不是爲了宗教這件事情本身，而是現實中間所堅持的利益，只不過找到一個理由。
周恆星：對，如果我們看馬斯克，他的很多理論包括他描繪的藍圖其實是有變化的。根據他的這套邏輯，終極目標是要把人類送往火星。他把電動車當作是在火星上一個運輸的工具，火箭是作爲從地球到火星中間的運輸工具，X平台就是在火星上的通訊，包括還有一些腦機接口計劃。他是有一整套邏輯，裏面有他的理想和堅持，當然也有很多其實是爲了講故事。
心智觀察所：除了加速主義，還有另一條路线：“有效利他主義”，第一次見馬斯克，對他的觀感是這樣的嗎？
周恆星：他當時讓我很驚訝，他很看不慣加州那些左派的那些東西，他覺得那是一種很荒謬的價值觀，包括覺醒病毒什么的。我記得北鬥衛星發射的時候，我發一篇文章給他，他“祝賀北鬥”。然後我說你覺得中國會比你們先去火星嗎？他說 game on，我們來比賽一下。
【硅谷的未來，從科技到權力】
心智觀察所：那你和奧爾特曼還保持聯系嗎？
周恆星：我跟他主要發短信，馬斯克其實很隨意，他可能很高興的時候就會就一直跟你聊，有時候晚上就不睡覺。奧爾特曼可能就是比較官方一些，比較客氣。就比如說有一段時間他很忙沒有回我，可能下次回我的時候會先跟我道歉，說不好意思，我很忙什么之類的。這兩個人就差別還挺大的。
馬斯克的性格會更張揚一些，中國有很多讀者也會覺得他有更強烈的感染力、人格感染力。奧爾特曼好像也就是ChatGPT火了之後大家會更關心。
心智觀察所：OpenAI董事會的宮鬥還涉及Helen Toner這個人，以及奧爾特曼對組織的背叛，說他不夠坦誠？
周恆星：這個後面我在書裏面也寫了，2022年年底的時候競爭特別激烈，但是奧爾特曼他臨時想出來說我們要做個聊天機器人，而且是在幾周之內做出來的。完全沒有料到這個會火，他說“我們先做一個有线預覽”，發布出來之後就幾天之內只有300萬人用。我可以理解，就是奧爾特曼當時是疏忽了，並不是真正的不想報告給董事會，但這件事情就是在Helen Toner看來，就是這個項目就故意隱瞞。
我作爲一個觀察者來說，加速主義和利他主義這兩派我都可以理解。但我有一個觀察的角度，如果我們回顧歷史的話，其實大部分科技都是中性的，並不是說它是好或者壞，它可能只能通過它的結果來判斷它到底是好還是壞。我覺得很多人，特別是一些有效加速主義者，他們會故意美化科技，覺得科技就是向上的，就是解決問題的，他們都是美好的。有效利他主義者可能都覺得科技是邪惡的，然後科技可能大部分背後其實是恐懼和貪婪，我覺得這兩派其實說的都有道理，但如果從科技本身來說，它其實是中性的。
就像原子彈一樣，它被奧本海默和他團隊做出來之後，其實可以毀滅人類，但它也可以帶來和平，終結二战，同時它又在後面維持了冷战，其實維護了二战之後半個世紀的和平。
我在這個書的後記裏面寫到就是我有個觀察，硅谷正在成爲下一個美國的權力中心。然後我也做了對比，喬布斯那一代的創業者，是那種嬉皮士風格，就盡量遠離政治，包括像奧巴馬，他想去硅谷見喬布斯，喬布斯就不想見他。而且他們當時聊的話題其實跟政治沒有關系，美國的制造業不像在中國制造 iPhone這么容易。在美國做不出iPhone來，他們其實聊的這種東西。
但像馬斯克和奧爾特曼這一代的創業者，他們實際上是有非常強烈的政治訴求的，有自己的一整套未來藍圖。不僅僅通過技術，還要通過政治結合起來才能去實現，所以我覺得硅谷其實不再像喬布斯那個時代這么嬉皮士了，越來越變成政治參與者，甚至說背後的決定性力量。
《紐約時報》曾深度分析爲何硅谷越來越向共和黨靠攏
心智觀察所： 因爲美國是一個全世界佔主導地位的國家，硅谷又恰好是美國技術制高點，這么一個這樣的發展趨勢對全世界來講意味着什么？
周恆星： 我們可能要多關注一下硅谷這些領袖的言論，他們的一些想法很有可能會主導未來科技和社會變革的走向。就像我前段時間看了一本書，赫拉利的《智人之上》。他其實非常憂慮未來人類會被AI控制，他覺得未來5到10年之內就會出現一個AI官僚機構，會通過很多的AI算法控制整個人類，比如你從事什么職業可能都是AI來決定的，這是很有可能發生的。AI參與制造信息、分發信息，就會影響人類的整個決策。
心智觀察所：那我們應該怎么辦？
周恆星：我覺得很有可能在非常短的時間內，全世界很多白領的工作會被AI取代，比如說就像處理信息的一些白領分析師，或者說在律所裏面處理一些文案的人。
未來有幾個轉型的趨勢，一些跟人打交道的比如說像銷售這種工作，AI暫時沒有辦法替代人類。要不然就是你轉型做個藍領，比如說廚師或者說運動員或者那種健身教練；要不然就是你成爲一個超級個體，這樣你一個人就可以通過 AI 來做很多事情。像奧爾特曼他們，他說他覺得未來會出現一個人的公司，然後產生一年 10 億美元的收入。
心智觀察所：：你剛才提到赫拉利。赫拉利經常說，所有的東西都是故事，everything is a story。你用一張紙去买一瓶飲料，那飲料是經過這么多的加工线、流水线做出來的，他憑什么要給你一張紙呢？就是你相信這張紙幣是有價值的，這張紙的價值又是另外一個故事。 AI是可以講故事的。
你覺得他們有沒有受到一種所謂的宗教末世論影響？因爲基督教和猶太教都有一個很強烈的末世論傾向，就是說在某一個時間之後要經過一場战爭或者最終的審判，然後就通往了一個新天地，人就超越了你的這個個體的血肉的這種東西，從而和神性有一種統一。那什么是神性？是和AI結合了。
周恆星：有效利他主義者，他們有可能跟這個宗教是有結合的。
現在整個硅谷都已經分裂了，不像當時所有人都支持民主黨，只有彼得·泰爾一個人支持共和黨。現在基本上就是非常分裂了，差不多可能有三分之一支持共和黨。硅谷這些 CEO 大部分還是商人，商人其實更多看重的是背後的利益，美國很大程度上其實是商人建立的一個國家。如果我們看硅谷這些CEO的言論，他們只要是在中國是有利益的，他們基本上都是支持中國的。即使是像扎克伯格這樣的人，他早年就非常想進入中國市場，非常吹捧中國。我覺得其實他們並沒有非常強烈的意識形態，他們更多的是從他們的商業角度出發去做這些判斷。
像馬斯克，我覺得只要中國還有這么大的汽車市場，我覺得他不太可能主動攻擊中國。不過在特朗普政府裏可能會左右爲難。特朗普可能會出台非常強烈的跟中國競爭的政策。
心智觀察所：這么多年你關注科技產業，很多人會說“美國人他們都是獨行俠，可以自己搗鼓創新，中國因爲強調對權威的尊重，就喪失了一定的創新動力或者說激情”。那么你對這個事情是怎么看的？
周恆星：未來中美兩國都會引領世界的創新，我們如果回顧歷史的話，之前可能美國的確是會有更多獨創性的內容，他們會先走在前面，中國可能就在後面跟隨。但我們回到地緣政治緊張之前的那個時代，就是我在硅谷的那幾年，比如說2014到2017年，貿易战之前中美之間其實配合得非常好，中國一方面制造業很發達，然後它可以造出東西來，它可以做造iPhone，可以造Model 3，這個是美國它做不來的。
同時中國有足夠多人才，硅谷那些大廠裏面非常核心的工程師其實都是中國過去的。程序員可能可以做一些非常开創性的工作，但你如果要說一些非常基礎的去开發一些東西，考慮到中國工程師的紀律性，還有他們工作的強度，他們的工作熱情遠遠高於美國工程師，他們愿意加班。
如果我們可以繼續像以前一樣，中美之間可以互相合作的話是很好的，但我們雙方如果處在非常對立的情況下，我覺得中國也不是說完全沒有機會，要把我們自己的優勢發揮到最大。
中國做應用肯定是有積累非常多的經驗，特別在移動互聯網時代，因爲中國人口基數足夠大，傳統的商業領域可能就比較弱勢很容易就被互聯網所顛覆。
但美國人他們可能更看重的是做產品本身，他們覺得一個好產品，然後就自然而然會有人用，但中國很看重做運營。
中國運營我覺得是美國人搞不來的，即通過各種方法去做一些推廣營銷，不過在AI 這個領域，因爲我現在暫時沒有看到非常好的應用，我覺得未來應該中國機會是很大的。
心智觀察所：在美國有一些學院派的人對於AI倫理安全這方面的聲音是蠻大的。你覺得中國對這些方面的思考夠不夠？我們的思維的範式和他們是不是不太一樣？
周恆星：我覺得中國在AI倫理這方面的確考慮的沒有美國這么多。我覺得主要原因是中國的AI可能更多的是解決實際問題。包括後面資本的推動，包括大公司的參與。
AI安全在中國可能就是需要政府牽頭，我覺得大家可能更關心的是 AI 會取代自己的工作。而不是從倫理這方面討論。
心智觀察所：最後我還想請你給我們的讀者再簡單的介紹一下這本書，說大家能從裏面獲取到什么樣的價值。
周恆星：這本《阿爾特曼傳》是我在今年上半年花了差不多 8 個月時間寫成了一本有關OpenAI聯合創始人的傳記。
我在裏面主要分了三個部分，第一部分主要是談論 OpenAI 從成立然後到 ChatGPT 發布這幾年，包括就AI 的發展的歷史，通過一些故事把它們串在一起；第二部分叫權力的遊戲，主要說的就是通往 AGI 道路會是一場巨大的權力鬥爭。去年我在硅谷經歷的那場政變背後其實是有一個意識形態的战爭，所謂的“宗教的战爭”，我在這一部分花了很大的篇幅把它系統的梳理了一下，包括裏面的有效利他主義和有效加速主義他們之間的一些鬥爭，還有 OpenAI 董事會裏面的一些鬥爭，我覺得這裏面可以很好地體現奧爾特曼個人的一些特點，包括他怎么在權力的遊戲裏面最後勝出。
第三部分我主要是回顧了奧爾特曼在 OpenAI 成立之前， 30 歲之前他創業，還有包括在 YC 做投資的一部分經歷。最後面我還有一個終章，主要是我總結了他對未來的一些看法和未來藍圖，從中可以知道未來 AI 會對人類帶來什么樣的改變，以及我們普通人可以怎么樣去應對。總體來講這本書比較適合大衆讀者去閱讀的，沒有什么門檻，然後我也希望大家可以通過看故事一樣可以去了解到整個 AI 的發展史。
本文系觀察者網獨家稿件，文章內容純屬作者個人觀點，不代表平台觀點，未經授權，不得轉載，否則將追究法律責任。關注觀察者網微信guanchacn，每日閱讀趣味文章。
海量資訊、精准解讀，盡在新浪財經APP
標題：獨家對話|周恆星：我問馬斯克，中國會比美國先去火星嗎？
地址：https://www.utechfun.com/post/449926.html