幹貨32分鐘!比爾·蓋茨和山姆·奧特曼都說了些什么?

2024-01-17 18:40:20    編輯: robot
導讀 如果讓你列舉人工智能領域的領軍人物,有一個名字你可能會聽得最多:山姆·奧特曼(Sam Altman)。但如果讓你列舉軟件時代的巨擘,則一定會出現比爾·蓋茨(Bill Gates)的大名。 1月12日...

如果讓你列舉人工智能領域的領軍人物,有一個名字你可能會聽得最多:山姆·奧特曼(Sam Altman)。但如果讓你列舉軟件時代的巨擘,則一定會出現比爾·蓋茨(Bill Gates)的大名。

1月12日,OpenAI的CEO山姆·奧特曼(Sam Altman)作爲特邀嘉賓,參加了由比爾·蓋茨(Bill Gates)主持的播客節目《爲我解惑》(Unconfuse Me)。在這期節目中,兩位不同時代的先導者,共同探討了人工智能的現在及未來、對人類社會的影響、人工智能監管的形式,以及各自對個人和團隊發展的建議等等。

整場對話長達 32分鐘,信息量巨大。其中包括:1、未來兩年間,GPT模型的關鍵裏程碑將是多模態,即涉及語音、圖像和視頻等多個模式的生成和表達;2、大模型將在推理、定制化、個性化、自適應等方面極大發展;3、人工智能將在編程、醫療、教育等領域提高生產力,解放人類創作力;4、未來5到10年,對人工智能的訓練效率和准確性理解將取得更多進展,現有的大模型會顯得“愚蠢不堪”;5、當前大模型正處於最快速的成本下降曲线上,這將成爲社會轉型的關鍵;6、長出了人工智能做“大腦”的機器人產業很可能影響勞動力市場,尤其是藍領工作等等。

值得注意的是,雖然兩位大佬在交談中沒有發生明顯的碰撞,但二者的立場態度似乎有所不同。例如,Altman對人類社會適應人工智能保持樂觀態度,並暗示——人工智能可以解放人類創造力,而不是搶佔人類的工作機會;而Bill Gates似乎更擔心人工智能所帶來的負面影響。此外,和Altman相對激進的風格不同,Bill Gates更多是作爲拋出問題的採訪者和傾聽者。

適道對完整版訪談進行了簡譯。爲方便大家絲滑閱讀,改寫、刪除了一些不影響原文內容的表達。

 01 开場——重提OpenAI政變

Bill Gates:今天的嘉賓是Sam Altman。他是 OpenAI的首席執行官。長期以來,他一直是科技行業的創業者和領導者,包括經營 Y Combinator,這家公司做了很多了不起的事情,比如投資 Reddit、Dropbox、Airbnb。

在我錄制節目不久後,Altman被解除了 OpenAI 首席執行官的職務,解僱後的幾天內發生了很多事情,包括幾乎所有 OpenAI 員工聯名支持Sam回歸,而現在,Sam又回來了。所以,在你聽到我們的對話之前,讓我們先來了解一下Sam,看看他現在過得怎么樣。

Bill Gates:你還好嗎?

Sam Altman:哦,天哪。這真的太瘋狂了,我還好。這是一個非常激動人心的時期。

Bill Gates:團隊情況怎么樣?

Sam Altman:我猜,很多人都注意到了這樣一個事實,那就是團隊從未如此高效、樂觀、出色。這也正是所有事情背後的一絲慰藉。在某種意義上,這是我們成長的真正時刻,我們非常有動力變得更好,變成一個全副武裝,迎接挑战的公司。

Bill Gates:太棒了。所以,我們在對話中不會討論那件事。然而,你會聽到Sam致力於建立一個安全、負責任的人工智能的承諾。我希望你喜歡這次對話。歡迎來到《爲我解惑(Unconfuse Me)》。我是Bill Gates。

Bill Gates:今天,我們將主要聚焦於人工智能,因爲它如此令人興奮,人們同時也對它感到擔憂。歡迎,Sam。

Sam Altman:非常感謝你邀請我來參加節目。

 02 回顧——ChatGPT源於結果先行

Bill Gates:我有幸見證了你們的工作進展,但剛开始時,我其實非常懷疑,也沒期待過 ChatGPT 能做得這么好。實際上,我們並不懂這種編碼形式。我們知道數字,看到它相乘,但如何將莎士比亞的作品編碼?你認爲我們能對這種表達產生更深的理解嗎?

Sam Altman:百分之百可以。要在人腦中做到這一點非常難。可以說,這是一個相似的問題,這些神經元彼此相連。但連接在變化,我們不可能切开大腦來觀察,但我們可以完美地透視。

目前,我們在可解釋性(interpretability)方面,已經展开了一些非常棒的工作,而且我認爲隨着時間推移,會有更多的解釋出現。我們將能夠理解這些(神經)網絡,即便我們目前的理解能力還很低。而正如你所樂見的一切,我們憑着目前了解的那一點,已經能很大程度上改進人工智能模型了。

所以,撇开科學好奇心不談,我們都有動力去真正地了解它們,盡管它們的規模是如此龐大。我們甚至還可以說,莎士比亞的作品是在你大腦的哪個位置編碼的,又是如何表現的?

Bill Gates:我們不知道。

Sam Altman:我們確實不知道。可以說,在這些我們本應能夠完美透視、觀察並進行任何測試的大量數據中,現在我們還是找不到答案,這就讓人興致缺缺。

Bill Gates:我非常確信,在接下來的五年內,我們會理解它(LLMs)。就訓練效率和准確性而言,這種理解將讓我們未來做的比今天能做的好得多。

Sam Altman:百分之百同意。你會在衆多技術的發展歷程中看到這一點。即,人們雖然不知道所以然,但在結果上卻又行得通。而此後,隨着人們對科學理解的加深,這項技術也會變得更好。

Bill Gates:是的,在物理學、生物學中,有時只是隨便一通亂試,然後就“哇”的一聲——這究竟是怎么實現的?

Sam Altman:在我們以往的案例中,構建 GPT-1 的那個人自己解決了這個“哇”的問題,這令人印象深刻。只不過,我們沒有深入理解它是如何工作的,以及爲何是有效的。之後,我們才有了拓展規律,借此預測它(GPT)會變得多好。

這就是爲什么當我們告訴你可以做演示時,我們相當有信心。雖然當時我們還沒有訓練模型,但我們信心十足。後來我們做了大量嘗試,並對正在發生的事情有了越來越深入的科學理解。但現在從頭來看,這(GPT)確實源於實證結果先行。

 03 展望——未來兩年主旋律:多模態、推理性、可靠性、個性化、自適應

Bill Gates:當你展望未來兩年,你認爲,在人工智能發展上,會出現哪些重要的裏程碑?

Sam Altman:多模態(Multimodality)肯定會很重要。

Bill Gates:你指的是語音輸入、語音輸出?

Sam Altman:語音輸入、語音輸出,然後是圖像,最終是視頻。顯然,人們是真的需要這些。我們已經推出了圖像和音頻,反響比我們的預期要強烈得多。我們將會進一步推進這些功能,但也許,最關鍵的進步將圍繞推理能力展开。

現在, GPT-4 的推理能力和可靠性還非常有限。比方說,對於大部分問題,如果你問 GPT-4 10000 次,這10000 次中可能有一次回答得很好,但 GPT-4不一定知道這是哪一次。而你卻希望自己的每次詢問,都能得到這 10000 次中最好的回答。因此,GPT可靠性的提升將非常重要。

可定制性和個性化也非常重要。人們對 GPT-4 的需求各不相同:不同的風格,不同的假設集,我們將會讓所有的這些成爲可能,還能讓GPT-4 使用你自己的數據。它會足夠了解你、了解你的電子郵件、你的日歷、你喜歡的預約方式,並與其他外部數據源連接,所有這些都將是最重要的改進領域。

Bill Gates:在目前的基礎算法中,GPT只是在做簡單的前饋、乘法。所以,看起來是生成了每一個新詞,但它本質上都在做同樣的事情。我很感興趣的點是,如果你們最終能解出復雜數學方程等難題,那么你們可能要做多次應用變換,這時候,用於推理的控制邏輯可能比我們今天所做的要復雜得多。

Sam Altman:至少,我們似乎需要某種形式的自適應計算。現在,我們在每個問題上都花費相同的計算量,無論是做一道簡單題還是一道復雜的數學題。

Bill Gates:是的,比如說,「解決黎曼假設……」

Sam Altman:那可要進行大量計算。

Bill Gates:但它所使用的計算量跟寫個“The”一樣?

Sam Altman:對,我們至少得讓它能進行下去。我們還需要在這之上解決更復雜的東西。

 04 監管——效仿國際原子能機構(IAEA)

Bill Gates:我們倆都參加過一個參議院的教育會議,很高興大約有 30 名參議員都參加了那次會議。畢竟(人工智能)是一個如此重大的變革,我不認爲我們在吸引政客關注這方面做的太過。當你談論監管時,你是否清楚要構建哪種類型的監管?

Sam Altman:我們已經开始解決這個問題了。對人工智能領域進行過度監管是非常容易的,你可以看到,過去許多此類事情在發生。如果我們是正確的,並且人工智能能夠發展到我們所設想的那樣,即——影響社會、地緣政治力量的平衡,以及很多事情。

對於這些仍然是假設性的,但未來極其強大的人工智能——不是說 GPT-4,而是針對計算能力是GPT-4的 10 萬倍或 100 萬倍的系統,我們已經接受了一個全球監管機構的想法,這個機構將緊盯這些超級強大的系統,因爲它們確實會產生如此大的全球影響。

我們談論的一種模式是類似國際原子能機構(IAEA)。例如,在“核能”方面,我們做出了同樣的決定。而由於人工智能潛在的全球影響力,需要一個全球性的機構(監管)。我認爲這是合理的。當然,在此期間會出現很多短期問題,比如可以說什么,不可以說什么;我們如何看待版權問題,對此,不同的國家會有不同的考慮,這都沒問題。

Bill Gates:一些人認爲,如果存在如此強大的模型,我們就會對此感到害怕——全球核監管之所以行之有效,是因爲每個人,至少在民用方面,都希望共享安全實踐,這一點做得非常好。

而當涉及核武器時,就不會出現這種情況了。因爲問題的關鍵在於,阻止整個世界做危險的事情,就需要有全球政府(合作)。但從目前我們所能看到的衆多問題中,例如氣候問題、恐怖主義,你可以看到我們(全球政府)很難達成合作。人們甚至援引中美競爭,來解釋任何放緩的想法都是不對的。難道說,任何放慢腳步的想法,或者說放慢腳步以求謹慎,都很難實施嗎?

Sam Altman:是的,我認爲要求放慢發展速度是非常困難的。如果改成“做你想做的事,但任何計算集群都不能超過一個特定、極高的功率門檻”——鑑於巨大的成本,我們可能只會看到五個這樣的模型——任何這樣的集群都必須接受類似國際武器檢查員的審查。該模型必須可供安全審核,在訓練期間和部署之前通過一些測試。我覺得這是可能的。

我以前還不太確定以上想法是否可實現,但今年(2023年),我周遊世界各地,並和許多需要參與這一活動的國家的元首交談,幾乎得到了普遍的支持。雖然這不能保證我們能夠脫離一切風險。畢竟,對於規模小得多的人工智能系統來說,仍然會出現問題。但我認爲以上舉措可以幫助我們應對人工智能帶來的最大風險。

 05 應用——解放人類創造力,尤其是編碼、醫療、教育領域

Bill Gates:現在,我們看到人工智能帶來了很多生產力方面的提升,這是非常棒的事情。你最興奮的領域是哪些?

Sam Altman:首先,我始終認爲,我們正處於一條漫長、連續的發展曲线上。現在,我們擁有了可以執行任務的人工智能。當然,雖然它們不能完成一份完整的工作(一個崗位能做的所有事情),但它們可以完成一些任務,並提高人類員工的生產力。最終,人工智能將能從事更多今天人類所做的工作,而我們人類當然也會找到新的、更好的工作。

我完全相信,如果你爲人類提供更強大的工具,人類不僅僅可以工作得更快,還可以做一些質變的工作。比如現在,我們可以將程序員的工作速度提高三倍。這就是我們所看到的,也是我們最興奮的領域之一,人工智能做得非常好。

但是,如果你能讓程序員的效率提高三倍,那么,程序員能做的事情就不僅僅只是(在數量上)多了三倍。因爲,人類程序員可以能在更高的抽象層次上,使用更多的腦力去構思完全不同的事情。這就好比從打孔卡(punch card)躍升到更高級的語言,不僅讓我們編程速度更快,還能解放人們做高質量的創新事物。大家也看到了這一點。

而當我們將目光投向下一代人工智能時,你可以將它想象成一個小代理(Agent),對它說:“幫我寫完整個程序,我會在過程中問你幾個問題,不僅僅是一次只寫幾個函數這么簡單”。如此下來,就會誕生很多新生事物。而它(人工智能)也能做更復雜的事情。例如,在未來某天,你可以對人工智能說:“幫我建立並運營這家公司。”“去發現新的物理學。”等等。

我認爲,至少在未來的五年或十年內,人工智能技術將處於一條非常陡峭的成長曲线上。而在那個時候,我們現有的這些模型都會變成最愚蠢的模型。

編程或許是我們今天感到最興奮的一個提高生產力的領域。目前,它已經被大規模部署使用。醫療保健、教育是另外兩個我們非常期待的快速發展領域。

 06 社會——機器人影響勞動力市場

Bill Gates:令人生畏的是,與以往的技術發展軌跡不同,人工智能的進步速度非常快,而且沒有上限。它可以在很多工作領域達到人類的水平,即使做不出獨特的科學研究,它至少能打客服、銷售電話。盡管人工智能是一件好事,但它迫使我們比以往任何時候都要更快地適應這項技術。

Sam Altman:這才是可怕的地方。並不是說我們必須適應,也不是說人類沒有超強的適應能力。在我們經歷過的一些大規模技術變革中,人類所從事的大量工作可能是在幾代人的時間內發生變化,而在這漫長的時間中,我們可以很好地消化這些變化。

雖然,每次技術革命都會變得更快,但人工智能將是迄今爲止最快的一次。這就是我覺得有點可怕的地方——我們的社會到底要以何種速度去適應人工智能的發展,應對勞動力市場將發生的變化。

Bill Gates:人工智能的一個方面是機器人技術,或者說藍領工作,當機器人具有和人類一樣(靈活)的四肢時,我擔心人們會不再關注藍領。你如何看待機器人?

Sam Altman:我對此非常興奮。我們很早就开始研究機器人,以至於不得不擱置那個項目。我們一直在處理糟糕的模擬器和肌腱斷裂之類的問題。

隨着時間的推移,我們越來越意識到,(機器人研發)首先需要解決智能和認知問題(機器人的大腦部分),然後才能弄清楚“如何讓‘大腦’適應身體的物理特性”的問題。而從我們構建語言模型的過程來看,問題從這裏开始就會變得容易解決。

我們一直計劃回到這個項目(機器人研發)上來。目前,我們已經對一些機器人公司進行投資。在物理硬件方面,我也終於第一次看到了真正令人興奮的新平台出現。到時候,我們就能利用自己的模型,就像你剛才說的,利用它們的語言理解能力和未來的視頻理解能力,說:“好吧,讓我們用機器人做一些了不起的事情吧。”

Bill Gates:如果那些已經把“腿部”做得很好的硬件人員能把手臂、手掌和手指做出來,我們再把它們組合起來,且價格不貴得離譜,那么這將會迅速改變很多藍領類工作的就業市場。

Sam Altman:是的。當然,如果我們回溯七到十年,大家的共識是機器人先會影響藍領工作,其次才是白領工作。

創造力工作可能永遠不會被影響,要影響也起碼是最後一個,因爲創造力是魔法,是人類的強項。

顯然,現在的情況可能正好相反。我認爲這其中有很多有趣的原因能夠解釋。因爲,在創造性工作方面,GPT 模型的幻覺是一個功能,而不是缺陷,它能讓你發現一些新事物。

然而,如果你要讓機器人移動重型機械,最好能做到非常精確。我認爲這是一個必須順應技術發展的例子。你可能會有一些先入爲主的觀念,但有時科學並不往那個方向發展。

 07 成本——生成式AI使用成本將急速下降

Bill Gates:就公平性而言,技術通常很昂貴,比如PC或互聯網,成本下降需要時間。我猜,運行這些人工智能系統的成本可不是小數字,每次評估的成本會下降很多?

Sam Altman:已經降了很多。GPT-3 是我們推出時間最長、優化最久的模型,在推出的三年多裏,我們已經將成本降低了 40 倍。對於三年的時間來說,這是一個很好的开始。至於GPT-3.5版,我敢打賭,目前我們已經將其成本降低了近 10 倍。

因爲GPT-4 是新產品,我們還沒有那么多時間來降低成本,但我們會繼續努力。

我認爲,在我所知道的所有技術中,我們的成本下降曲线是最陡峭的,遠勝於摩爾定律。

這不僅是因爲我們想出了如何讓模型更高效的方法,還和我們對研究產生了更深的理解有關,我們可以在更小的模型中獲得更多知識和能力。未來,我們將會把智能的成本降低到接近於零的程度,而這對社會來說,將是一次前無古人,後無來者的變革。

現在,我的世界基本模型由智能成本和能源成本組成(Bill Gates笑了)。如果你能同時降低這兩方面的成本,你能擁有更多的東西,爲人們帶來更大的改善。我們正處在(降低成本)的曲线上,至少在智能方面,我們將真正實現這一承諾。

即使按照目前20美元/月的價格,你就能獲得大量的 GPT-4 訪問權限,而(你獲得的價值)遠遠超過了 20 美元。我們已經降得很低了。

 08 觀察——最佳創始人比以往更老一些

Bill Gates:那競爭呢?很多人一下子擠進這個賽道是不是很有趣?

Sam Altman:既令人生厭,又充滿動力和樂趣,我相信你也有過類似的感受。這促使我們做得更快、更好,我們對自己的方法很有信心。有很多人正滑向冰球所在的位置,而我們也將前往冰球要去的地方。感覺還可以。

Bill Gates:我認爲人們會對 OpenAI的規模之小感到驚訝。你們有多少員工?

Sam Altman:大約 500 人,我們的規模還比以前稍微大了一些。

Bill Gates:但還是很小,要是以谷歌、微軟、蘋果的標准來看。

Sam Altman:確實很小,我們不僅要做實驗室,現在還要經營一家真正的企業和兩款產品。

Bill Gates:你們是一家年輕的公司嗎?

Sam Altman:比平均年齡要大一些。這裏不是一群 24 歲的程序員。

Bill Gates:的確,我的視角有些扭曲了,因爲我已經 60 多歲了,畢竟你比我年輕。但你說得對,你們很多人已經四十多歲了。

Sam Altman:三十多歲、四十多歲、五十多歲(的人)。

Bill Gates:這不像早期的蘋果、微軟,那時我們真的還是孩子。

Sam Altman:對,我也反思過這個問題。我認爲現在公司普遍變老了,我不認爲這是件好事。我在YC想到過這個問題。可能隨着時間的推移,那些最佳的創始人逐漸變老。就我們而言,比平均水平要老一點,但仍然如此。

Bill Gates:這很有意思。

 09 創業——聚集頂尖人才,不急於短期收益

Bill Gates:你在 YC 的經歷中學到了很多,我想這對你現在的工作也是很好的鍛煉。

Sam Altman:非常有幫助。

Bill Gates:包括看到錯誤。

Sam Altman:完全正確。實際上,OpenAI 做了很多和 YC 建議相反的事情。我們花了四年半時間,才推出了自己的第一個產品。而在公司成立之初,我們對產品沒有任何概念,我們也沒有和用戶交流(雖然我不建議大多數公司這樣做)。但在 YC 學習並看到這些規則後,我才明白了——何時、如何以及爲何OpenAI 可以打破這些規則。我們確實做了一些與我見過的其他公司截然不同的事情。

Bill Gates:關鍵在於你聚集人才,讓他們專注於更大的問題,而不是某些短期收益問題。

Sam Altman:我認爲硅谷的投資者不會爲我們提供幫助,因爲我們必須在研發上花費非常龐大的資金才能推出產品。我們只是說:“最終模型會足夠好,我們知道它會對人們有價值。”但我們非常感激與微軟的合作,因爲這種超前投資並不是風投擅長的。

Bill Gates:確實不是,而且資金成本相當可觀,幾乎達到了風投所能承受的極限。

Sam Altman:可能已經超過了。

Bill Gates:確實可能。我非常贊同Satya“將傑出的人工智能組織融入大型軟件公司”的思考,結果是“一加一遠遠大於二”。

Sam Altman:是的,這很棒。你說到了關鍵,這也是我從 YC 學到的。我們說過:聘請世界上最優秀的人才,確保自己的目標方向和AGI使命保持一致。但除此之外,我們要讓人們做自己的事情。我們意識到這會經歷一些曲折,也需要一段時間。

當然,我們的理論被證明是大致正確的,但一路上很多策略又被證實是非常錯誤的。我們所做的只是盡量遵循科學的規律。

Bill Gates:我記得我看演示時想過,這個項目的收入途徑是什么?是什么樣的?而在這個狂熱的時代,你仍然手握一支令人難以置信的團隊。

Sam Altman:是的。優秀的人確實希望和優秀的同事一起工作。

Bill Gates:這是一種吸引力。

Sam Altman:而且還有一個很強大的引力重心。這聽起來很老套,每家公司都這么說。但人們確實感受到了深深的使命感,每個人都想參與AGI的創建。

Bill Gates:那一定很激動人心。當你再次用演示震撼我時,我可以感受到那股力量。我看到了新人,新的想法,而你們仍以非常不可思議的速度前進着。

 10 建議——組建一支六邊形團隊

Sam Altman:你最常給出的建議是什么?

Bill Gates:才能可以分很多種,在我職業生涯的早期,我認爲只有純粹的智商,比如工程智商。當然,你可以將其應用於金融和銷售。但這種想法被證明是如此錯誤,因爲,組建一支擁有正確技能組合的團隊是如此重要。

針對團隊成員的問題,要引導他們思考如何建立一支擁有各類技能的團隊,這可能是我認爲最有幫助的建議之一。是的,告訴孩子們,數學、科學很酷,如果你喜歡的話。但真正讓我驚訝的是這種天賦的組合。你的建議呢?

Sam Altman:我想說,大多數人對風險存在誤判。他們害怕離开舒適圈去做自己真正想做的事。事實上,如果他們不這樣做,他們回顧自己的一生時就會說 “天啊,我從來沒有去創辦我想創辦的公司,或者我從來沒有嘗試去做一個人工智能研究員”。實際上,我認爲這樣做(後悔)帶來的風險更大。

與此相關的是,要明確自己想要做什么,並向別人提出自己的要求,就會有意想不到的收獲。

很多人受困於把時間花在自己不想做的事情上,而我最常給的建議可能就是想辦法解決這個問題。

Bill Gates:如果你能讓人們從事一份讓他們有目標感的工作,那會更有趣。有時這能夠產生巨大的影響力。

Sam Altman:當然。

Bill Gates:感謝你的到來,這是一次精彩的對話。在未來的日子裏,我相信我們還會有更多的交流,因爲我們正努力以最好的方式塑造人工智能。

Sam Altman:非常感謝你的邀請,我真的很享受與你對話。

Bill Gates:《爲我解惑(Unconfuse Me)》是蓋茨筆記的一個節目。特別感謝我今天的嘉賓Sam Altman。

       原文標題 : 幹貨32分鐘!比爾·蓋茨和山姆·奧特曼都說了些什么?



標題:幹貨32分鐘!比爾·蓋茨和山姆·奧特曼都說了些什么?

地址:https://www.utechfun.com/post/319825.html

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。

猜你喜歡