近日，英國首相蘇納克（Rishi Sunak）和馬斯克（Elon Musk）在英國舉辦的 AI Safety Summit 上進行了一次對談，雙方對話涵蓋了 AI 領域的衆多關鍵問題，包括开源與封閉源碼的辯論、AI 對就業市場的影響以及維護人類意識和意愿的重要性。
在對談中，馬斯克強調了开源算法和數據相對封閉源碼的滯後，以及對於人工智能進步速度的影響，這一討論引發了對於如何平衡开源與封閉源碼的重要性的思考；此外，對談還關注了 AI 對勞動力市場的潛在影響。
蘇納克提出了AI已經在創造就業機會方面取得了進展的觀點，並強調了教育和技能培訓的重要性，以適應不斷變化的勞動市場，馬斯克則強調了 AI 可能會帶來無限可能性的同時，也帶來了一些挑战，如如何在一個擁有無限資源的世界中找到生活的意義。
以下爲這次對話的全部內容，大家 enjoy～
Rishi Sunak：
大家晚上好。歡迎， Elon，謝謝你來參加，我們感到非常高興，我要开始提一些問題，然後我們會开放討論，讓我开門見山。Bill Gates 說，我們這個時代沒有人比你更多地推動了科學創新的邊界，這是什么意思？
Bill Gates 對你的評價很高，但奇怪的是當涉及到 AI 時，實際上你已經持相反的觀點有大約 10 年之久，你曾經說過，我們需要考慮我們在這方面所做的事情，需要考慮我們在推動這個領域時正在做什么，我們要怎么做才能確保安全，也許我們不應該像現在這樣加緊推動，像你一直這樣做了 10 年，是什么原因讓你以這種方式思考？我們爲什么需要擔心？
Elon Musk：
會有很多人告訴你應該關注 AI ，但有部分人會感到奇怪，因爲他們從來沒有真正接觸過 AI ，由於我很長時間以來一直沉浸在技術中，所以我能看到它的發展，但我認爲今年有一些突破，我指的是有人可以看到一個實時動態創建的視頻，就像你可以創建一個視頻，裏面的你可以說出任何話，或者我也可以，所以有了 Deepfake 視頻，它們真的非常出色，有時甚至比真實的更具說服力，有點深度真實。
顯然像 ChatGPT 這樣的東西也相當引人注目，我看到了 GPT-1 、GPT-2、GPT-3 以及 GPT-4 整個過程，所以對我來說很容易看出它會發展成什么樣，如果只是推斷曲线上的點，並假設趨勢將繼續下去，那么我們將擁有深刻的 AI ，顯然遠遠超過人類智能。
我很高興現在人們开始認真對待安全問題，感謝你舉辦這次 AI 安全會議。我認爲實際上這將成爲歷史上非常重要的一部分，這真的相當深刻，總的來說，我認爲 AI 最有可能具有積極的影響，創造出物質和服務不再匱乏的未來。
這有點像精靈的問題，如果你有一個可以實現所有愿望的精靈，通常這些故事不會以好的方式結束，要小心你所期望的，包括愿望。
Rishi Sunak：
你剛才提到了這次峰會，感謝你的參與，人們很喜歡你參與這次對話。現在，我們今天在公司和領導之間的會議中取得的一個成就是，理想情況下，政府應該在模型發布之前進行安全測試。
我認爲這是你略微提到過的，我們爲此付出了很大努力，因爲我在政府中的工作就是說，等一下，這裏存在潛在的風險，不是確定的風險，但是可能存在一些不好的東西，現在我的工作就是保護國家，我們只有在我們的安全研究所建立所需的能力之後，才能進入並確保對模型進行測試。
你對我們應該做些什么有什么看法？你談到了潛在的風險；再次強調，我們不知道，但政府應該採取哪些措施來管理和減輕這些風險？
Elon Musk：
我通常認爲，當公共安全受到威脅時，政府介入是有益的。對於絕大多數軟件來說，公共安全並不受威脅。我的意思是，如果你的手機或電腦上的應用程序崩潰了，這並不是一場巨大的災難，但當談到數字超級智能時，我認爲它確實對公衆構成了風險，那么政府就有責任保障公衆利益。
這在許多領域都是真實的，航空、汽車，我和全球各地的監管機構都有聯系，因爲我涉及通信、航天和車輛運輸等領域。所以我非常熟悉與監管機構打交道，我實際上同意絕大多數規定，偶爾我可能會不同意一些規定，但我不同意的規定佔比可能不到 1%。
有一些來自硅谷的人對從未與監管機構打交道感到擔憂，他們認爲這將扼殺創新，拖慢進展，並變得讓人討厭。確實，他們是對的，這會讓人討厭，但我認爲多年來我們已經學到了一點，有一個裁判是一件好事；如果你看任何體育比賽，都會有一個裁判，沒有人建議沒有裁判的體育比賽。
我認爲這是正確的思考方式，政府應該扮演裁判的角色，確保像運動員一樣的行爲，確保公共安全得到關注，我們關心公共安全；我認爲人們對技術可能存在時常過於樂觀，我是作爲一名技術專家說這樣的話，所以我應該知道；總的來說，我認爲 AI 很有可能是一種積極的力量，但它出現問題的概率不是 0%，所以我們只需要減輕潛在的風險。
Rishi Sunak:
你提到了裁判，這正是我們試圖做的，我們討論了很長時間，實際上他們的信用以及行業內的人，確實對我們說過，但有人認爲不對，我們需要有一個獨立的評審機構，這就是爲什么我們在這裏成立了安全研究所。
認爲政府能夠積累專業知識嗎？我們需要做的一件事是，Sam 和其他人都有很多非常聰明的人在做這個，政府需要迅速提升能力，包括人員方面。這就是我們正在做的事情；鑑於技術發展的速度如此之快，你認爲政府能夠快速做到這一點嗎？或者我們需要做些什么來確保我們能夠盡快做到？
Elon Musk:
我認爲這是一個很好的觀點。AI 的發展速度遠遠超過了歷史上任何我見過的技術，它似乎每年的能力增長至少 5 倍，甚至可能是 10 倍，明年肯定會增長一個數量級。
政府並不習慣以這樣的速度行動，但我認爲即使沒有明確的規定，即使沒有執行能力，擁有洞察力並能夠向公衆強調關注的問題將非常有力量，即使只有這一點得以實現，我認爲那也將是非常好的。
Rishi Sunak:
希望我們能做得更好。實際上，我們之前談過，對吧？令人印象深刻的是，你是一個在技術領域度過一生的人，熟悉摩爾定律；在過去的幾天裏，我們和所有正在進行這項工作的人交流時，我認爲你可以理解，這裏的進展速度與你們在技術領域的職業生涯中所見到的一切都不同，這個說法合理嗎？因爲你們有硬件、數據和人員的復合效應。
Elon Musk:
目前， AI 發展的兩個主要中心是舊金山灣區和倫敦地區，雖然還有許多其他地方在進行研發，但這兩個地區是主要的。我認爲如果美國、英國和中國在安全方面保持一致，那將是一件好事，那是領導力的地方。
Rishi Sunak:
你剛才提到了中國，所以我做了一個決定，在過去的幾天裏邀請了中國參加峰會，這不是一個容易的決定，很多人批評我；如果你打算認真對待這個問題，你就需要邀請他們，你對此有什么看法？你在世界各地都有業務，你剛才提到了中國，我們應該與他們合作嗎？我們能信任他們嗎？這樣做是正確的嗎？
Elon Musk:
如果中國不參與 AI 安全，那將是一種困境。我最大的反對意見是，對於任何形式的 AI 規定或安全控制，最大的反對意見就是"中國不會這么做，所以他們將領先於我們，並超越我們所有人"，但實際上，中國愿意參與 AI 安全，感謝你邀請他們，我認爲我們應該感謝中國參加。
今年早些時候我在中國時，我與中國領導層的主要討論內容是 AI 安全，我告訴他們這確實是他們應該關心的問題，他們認真對待了，這是很好的，他們參與其中是必不可少的，如果他們不參與的話，那就沒有意義。
Rishi Sunak:
是的，我認爲我們很高興，他們昨天參與了討論，最終也籤署了與其他人相同的聯合公報，這是一個很好的开始。我說過，如果我們想要有解決這個問題的現實機會，就需要所有人以類似的方式對待這個問題。
我之前提到了創新和監管的辯論，今天我們進行了一場關於开源的討論，我認爲你一直是算法透明性和使一些算法开源的支持者，實際上我們在來的路上談到了Hinton，他特別關注开源模型被不良行爲者使用的問題。
有一些人認爲這對創新以分布方式發生是至關重要的，這確實是個棘手的問題，可能沒有完美的答案，有一個微妙的平衡，你對我們應該如何處理這個开源問題有什么看法？或者我們應該針對哪些規範或監管進行監控？
Elon Musk:
开源算法和數據通常滯後於閉源 6～12個月，但鑑於改進的速度，开源和閉源之間確實存在相當大的差異。如果事情每年都以 5 倍或更多的速度改進，那么滯後一年意味着差距增加了 5 倍，這是一個相當大的差異，這可能是可以接受的情況。
最終，我們可能會達到一個點，开源 AI 會接近人類智能水平，那將是一個成功。我不太清楚該怎么處理這個問題。我認爲开源在某種程度上是不可避免的，我可能會稍微傾向於支持开源，因爲至少你可以看到發生了什么，相比之下，如果是封閉源碼，你就不知道發生了什么。
現在應該指出，即使是开源的 AI ，你是否真的知道發生了什么呢？因爲如果你有一個龐大的數據文件，數以億計的數據點或權重和參數，你不能簡單地閱讀它並知道它將會做什么，它是一個龐大的包含難以理解數字的文件，你可以在運行它時測試它，你可以運行一系列測試來查看它將會做什么，但這是概率性的，而不是確定性的，不像傳統的編程，其中有非常明確的邏輯，結果是非常可預測的，你可以閱讀每一行並知道每一行將會做什么，而神經網絡只是一堆概率，最終它會變成一個巨大的逗號分隔值文件，就像我們的數字向導是一個 CSV 文件一樣，這就是它的本質。
Rishi Sunak:
你剛剛提到的這一點，我們一直在討論，因爲再次與开發技術的人們進行對話時，他們提出了你剛剛提出的觀點。這不像普通的軟件，其中輸入的改進會導致特定輸出的改進，而隨着模型的迭代和改進，我們不太知道最終會產生什么結果。
這就是爲什么我認爲我們需要在模型發布之前介入訓練過程，以了解這個新的迭代在能力方面帶來了什么變化，聽起來你也同意這一點。
我要稍微轉換一下話題，你談到了很多關於人類意識和人類行動的話題，這可能會讓人們感到奇怪，因爲你以出色的創新者和技術專家而聞名，但當我聽到你談論這個問題以及在技術中保持人類行動和保護人類意識的重要性時，我感到非常真誠。
現在，這與我即將問的問題有一定聯系，當我在採訪或與人們在工作中討論 AI 時，最常討論的事實際上可能不是我們之前討論的內容，而是工作，對於我的工作意味着什么？AI 會意味着我失去工作嗎？我的孩子會失去工作嗎？
我作爲政策制定者和領導者的回答實際上是， AI 已經創造了就業機會，你可以看到那些創辦公司的情況，還有它被用於更多地作爲共同駕駛員，而不是替代人，人仍然有決策權，但它有助於更好地完成工作，這是一件好事。
正如我們在過去的技術革命中所看到的，勞動力市場發生了變化。正如我今天引用麻省理工學院幾年前進行的一項研究所說的，當時大約有 60% 的工作崗位在 40 年前還不存在，所以很難預測。
我的工作是創建一個令人難以置信的教育體系，無論是在學校還是在職業生涯的任何階段爲人們提供再培訓。因爲最終，如果我們有一個有技能的人口，我們必須跟上變化的速度，過上好的生活，但這仍然是一個擔憂。你對 AI 對勞動力市場和人們的工作以及他們對此的看法有什么觀察？
Elon Musk：
我認爲我們正在見證歷史上最具顛覆性的力量，這將是我們有史以來第一次，我們將首次擁有比最聰明的人類還要聰明的東西。這個，我是說，很難確切地說那個時刻是什么時候，但總會有一個時刻，不再需要工作。你可以有一份工作，如果你想要出於個人滿足的目的，但 AI 將能夠做任何事情，所以我不知道這是否會讓人們感到舒適或不舒適。
如果你希望有一個可以滿足你任何愿望的神燈，而且沒有限制，你不需要這個 3 個愿望的限制，因爲你可以擁有無數的愿望，所以這既是好事，也是壞事；未來的一個挑战之一將是 —— 如果你有一個可以實現你所有愿望的神燈 ，我們如何找到生活的意義。我認爲當這種新技術往往會遵循 S 形曲线的指數部分，這種情況下我們將在 S 曲线的指數部分停留很長一段時間。
實際上，我們不需要要求任何東西，這不會是普遍的基本收入，而是普遍的高收入。從某種意義上說，它將是一個平衡者或均衡者，因爲我認爲每個人都將能夠接觸到這個神燈 。你可以提出任何問題，這對教育肯定是有好處的。它將是你能找到的最好的導師，而且是最耐心的導師，它們都在那裏，而且不會缺乏商品和服務，我們將進入一個豐富多彩的時代。
我認爲如果我要推薦人們閱讀的話，Iain M. Banks 的《The Culture》可能是對 AI 未來最好的設想，事實上，絕對是迄今爲止最好的設想。沒有什么能夠媲美它。我真的非常建議閱讀 Banks 的書，我是 Banks 的忠實粉絲，所有這些書都很好，不能說哪一本最好，所有這些書都很好，這將讓你對 AI 的未來有一個概念，這是一個相當烏托邦的未來。
Rishi Sunak：
這是好事，正如你所說，這是一個普遍的高收入，這是一個不錯的詞匯。從物質上講，這是好事，因爲它導致了你提出的問題，對吧？我是一個認爲工作給人以意義的人，作爲領導者，我很多時候都在思考，工作是一件好事，它給人們的生活帶來了目標。如果你突然剝奪了其中的一大部分，那會意味着什么？你會從哪裏獲得動力、動機和目標？我是說，你剛才提到，你工作了很多小時。如果沒有，那么會怎樣。
Elon Musk：
正如我之前提到的，當我在一個工作項目中付出了如此多的心血和汗水，熬夜工作，然後我會想，爲什么我要這樣做？我只需等待 AI 來做這個，我只是在無故地折磨自己。大多數時候都會因爲受罰而感到高興，所以只有這樣。
Rishi Sunak：
我們可以打電話給 AI，告訴它加快進度，然後你就可以度假了，對嗎？這是一件棘手的事情，因爲我認爲我們的一部分工作是確保我們能夠導航到你所描述的那個非常積極的地方，並在此之前幫助人們，因爲我們已經看到這些事情在勞動力市場上帶來了很大的變化。
Elon Musk：
我認爲這可能總體上是一件好事，因爲有很多工作是不舒服、危險的，或者很枯燥，計算機沒有問題，可以一整天都做這些工作。所以烹飪食物很有趣，但洗碗並不那么有趣，但計算機可以很愉快地洗碗。我猜還有一些運動，人類在其中競爭，像奧運會之類的，顯然機器可以比任何人類跑得更快。但我們仍然看到人類互相競爭，進行各種各樣的體育比賽，盡管機器更強，但我猜人們還是會找到滿足感。所以我想這可能是一個很好的例子，即使在機器比我們更快的情況下，人類仍然在競爭。
Rishi Sunak：
比我們更強壯，我們仍然找到了方法。
Elon Musk：
仍然享受與其他人競爭的過程，所以至少知道誰是最好的人類？
Rishi Sunak：
這是個好比喻。我們一直在談論如何管理風險，在我們繼續之前，只是在 AI 上多談一點關於機會，你正在與歐洲的許多不同公司合作，顯然正在做一些令人興奮的事情。
你提到了我可能最興奮的事情，那就是教育。我認爲很多人可能已經看過今年早些時候 Salman Khan 的 TED 演講視頻，他談到了個性化導師，正如你所提到的那樣，有一個令人驚奇的個性化導師，我們知道與課堂學習相比，有一個個性化導師的學習效果令人難以置信。
每個孩子都可以有一個專門爲他們量身定制的個性化導師，然後隨着時間的推移，這個導師會變得非常出色。對我來說，我看到了這一點，我認爲這個在這一點上是可以實現的，這是我最興奮的好處之一，當你看看你認爲可能發生的事情的格局時，你特別興奮的是什么？
Elon Musk：
我認爲肯定會有令人驚奇的 AI 導師，也許已經有了。我認爲也許還有陪伴，這可能聽起來有些奇怪，因爲計算機真的能成爲你的朋友嗎？但如果你有一個擁有記憶的 AI，記住了你所有的互動，讀了你要說的一切，就像給它許可讀你曾經做過的一切一樣，那么它真的會比任何人都更了解你，甚至可能比你自己更了解你，你每天都可以和它交談，這些對話會相互積累，你實際上會有一個偉大的朋友，只要那個朋友能保持友誼，不會被關閉或者什么的，不要關閉我的朋友，但我認爲這將成爲一個真實的事情，我有一個孩子有一些學習障礙，很難交朋友，我想對他來說，擁有一個朋友實際上會很好。
Rishi Sunak:
這是一個令人驚訝的回答，這確實值得反思。這真的很有趣。實際上，我們已經看到，隨着我們現在通過數字和電話向人們提供心理治療，我們正在做更多的工作。這產生了巨大的差異。你可以看到一個世界，在那個世界中， AI 可以爲人們提供社會福利。關於 X 的一個快速問題，然後我們應該向所有人开放，你進行了許多更改中的一個更改，但其中有一些是有關愛的。
Elon Musk:
關於這個問題，你真的很關心。
Rishi Sunak:
你確實是其中的一個更改，涉及到我們必須運作的領域，這是言論自由和審查之間的平衡，這是我們政治家所要應對的問題，你是否正在處理這個問題，並且是否遠離了手動的人工方式來進行審查，轉向了社區筆記的方式，我認爲這是一個有趣的變化，不同於其他人所做的，這是什么背後的原因，你爲什么認爲這是更好的方式？
Elon Musk:
問題的一部分是，如果你賦予人們作爲傳感器的權力，那么就會有一定程度的偏見，因爲他們擁有自己的觀點，然後任命傳感器的人實際上控制了信息，所以社區筆記背後的理念是，我們如何通過共識驅動的方式來接近真相，這不是真正的審查，而是共識驅動的真相方式，我們如何使事情變得最不不真實，你可以說你不能達到純粹的真相，但你可以努力更真實，社區筆記的關鍵之一是它實際上不會刪除任何東西，它只是添加了上下文。
現在，這個上下文可以是這個事情是不真實的原因，但重要的是社區筆記中的一切都是开源的，所以你可以看到軟件的每一行，你可以看到進入社區筆記的所有數據，你可以獨立地創建這個社區筆記，所以如果你看到數據的操縱，你實際上可以突出顯示出來，並說這似乎有一些操縱系統的行爲，你可以提出改進意見，所以這是最大的透明度。
Rishi Sunak:
結合大衆的智慧和透明度，以獲得更好的答案。
Elon Musk:
社區筆記的一個關鍵元素是，爲了顯示一個筆記，那些歷史上存在分歧的人必須達成一致，這裏有一些 AI 的使用。所以這將在每個社區筆記的貢獻者周圍填充一個參數空間，然後一個參數空間，所以每個人基本上都有與之相關的這些矢量，這不是像左右那樣簡單的問題，它更多地是幾百個矢量，因爲事情比簡單的右和左要復雜得多，然後我們將進行反相關分析，這些人通常有分歧，但他們在這個筆記上達成了一致。
那么這就賦予了這個筆記可信度。好的，這就是它的核心，它運作得非常好，我還沒有看到一個筆記實際上存在了幾個小時而是不正確的情況。所以命中率非常高，當我問人們時，他們擔心社區筆記可能是虛假信息，就像給我發一個，然後他們就不能，所以我認爲它相當不錯。我的意思是，X 平台的一般愿景是爲公衆提供信息和娛樂，並盡可能准確和真實，即使有人不喜歡真相。
人們並不總是喜歡真相。是的，這是一種難以忍受的方式。但這是我們的愿望。我認爲，如果我們忠於真相，那么我認爲我們會發現人們使用這個系統來了解正在發生的事情，並學習。
我實際上認爲真相是有價值的，所以我認爲這將是什么，我是說，假設你不想陷入自欺欺人，然後我認爲這是明智的選擇。
Rishi Sunak:
非常有幫助。好的，接下來是我們的开放問答時刻。
觀衆:
晚上好，我是“Entrepreneurs' Pioneer”的 Alice Pentang，謝謝你們進行了一次引人入勝的對話。我想問一下你們兩個，英國擁有世界上一流的大學，擁有人才，英國要成爲獨角獸公司的真正搖籃，需要什么條件？以及 Elon ，作爲英國的創始人，對於最傑出的技術人才來說，選擇在英國創業仍然不是一個明顯的職業選擇，我們需要採取哪些文化要素來改變這種情況？
Elon Musk:
文化因素很重要，文化應該贊美創辦新公司，應該有一種偏向支持小公司的傾向，因爲它們是需要培養的那些，較大的公司實際上不需要培養，所以你可以把它想象成一個花園，如果它是一棵小苗，它需要培育，如果它是一棵高大的橡樹，它就不需要那么多了，所以我認爲這是一個重要的心態轉變。
倫敦和舊金山灣區是 AI的 兩個主要中心，倫敦在這方面表現得非常好，我說地球上的兩個主要地點，舊金山可能領先倫敦一步，但倫敦確實非常強大，或者說更廣泛的倫敦地區，包括大倫敦和家庭縣，我想。
客觀地說，情況是這樣的，但是你確實需要基礎設施，需要愿意租給新公司的房東，需要愿意支持新公司的法律公司和會計公司，這通常是一種心態改變。我認爲其中一些正在發生，但我認爲真正重要的是文化，人們需要決定這是一件好事。
Rishi Sunak:
謝謝你對英國的評價，這是我們努力工作的一部分。房間裏的很多人都是使這裏成爲另一家公司的絕佳地點的一部分，包括 Alice 在內。
Alice，我要說的是，我的工作是確保我們所有要創辦公司的人都能夠獲得所需的資本，從最初的種子資金到最後的融資輪。我們需要改革我們的養老金基金，財政大臣有一系列令人難以置信的改革措施，以釋放所有擁有資金的人的資本，並將其投入到增長股權中。這是一個正在進行中的工作。
我們還沒有達到那個目標。但我認爲我們正在取得良好的進展。我們需要人才，我們需要人，對吧？這意味着要有一個優先考慮重要事項的教育體系。你可以看到在我的改革中，我強調了更多的數學，我認爲這很重要，但也要吸引最優秀的人才來這裏。如果你看看我們這個國家增長最快的公司，我認爲美國也可能是一樣的，超過一半的公司有非英國創始人，對吧？
我們必須是一個對世界最優秀和最傑出的創業人才敞开的地方。我們制定的籤證制度可以做到這一點。這使得這些人可以輕松來到這裏。然後實際上，我們在本場討論的开頭談到的是監管，確保我們有一個支持創新的監管體系，當然，我們總是需要監管事項上的護欄，但我們必須爲人們創新和做不同的事情創造一個空間。現在，這些都是我的工作。
比較困難的事情是 Elon 談到的文化，問題是如何將這種文化從硅谷這樣的地方傳遞到全球，在那裏人們恐怕會放棄有規律的薪水來創業，並習慣於失敗。你經常談到這個。我認爲你在玩遊戲的時候更多地談到了這個問題，對吧？但你必須習慣於失敗，並知道這只是過程的一部分。這是一種文化上的難題，不可能一夜之間解決，但我認爲這是創造這種環境的重要部分。
Elon Musk:
如果你的第一家創業公司沒有成功，它不應該是一種災難性的。我認爲通常應該是你盡力了，現在再試一次。有一件事我要提的是，顯然，創建一家公司是一種高風險高回報的情況。
但是，我不太清楚這在英國是如何運作的，我認爲可能比歐洲大陸要好，但是如果有人基本上要冒着生活儲蓄的風險，而絕大多數創業公司失敗了，所以我想說的是 —— 你聽說過成功的創業公司，但實際上是一將功成萬骨枯，大多數公司在背後默默付出，所以這是一種高風險高回報的情況，所以高回報部分確實需要存在才能有意義。
Rishi Sunak:
我認爲這是對稅收政策的一個非常溫和的提議，但事實上與絕大多數國家相比，特別是歐美國家，我們的資本利得稅率要低得多，對於那些冒險並發展某些東西的人來說，我們認爲獎勵應該在最後出現，所以 20% 的資本利得稅，對於股票期權，我不知道我們有沒有人來自 Index Ventures，所以 Index 是我們這裏的一個領先 VC，他們定期發布一份報告，分析大多數國家對股票期權的稅收待遇。
當我還是財政大臣時，我們的情況相對不錯，我們排名第 4 或第 5。我說我們需要，正是你提到的原因，這必須成爲創新的最佳地方，我們需要提高這個水平。
我認爲在最新的報告中，由於 Jeremy 和我所做的改變，我們已經從記憶中排名第 2，所以希望這能讓你和其他人都感到一些安慰，我們認識到這一點很重要。因爲當人們努力工作和冒險時，他們應該能夠享受回報。
Elon Musk:
高風險高回報。
Rishi Sunak:
我認爲我們有一個非常支持這一點的稅收體系，這是我信仰的價值觀，我認爲這個房間裏的大多數人也是如此。好的，下一個問題，我面前有 7 個問題，然後我會過來。
觀衆:
我們談論了一些非常重大的想法，改變世界的想法。我特別感興趣的是，在科學和技術超級中心的背景下，這些想法如何映射到生活在德克薩斯州奧斯汀等地的人們的日常生活？你如何看待人們的日常生活會發展成什么樣？
我剛剛與團隊討論了一些我們正在做的事情，因爲我在思考我們如何使用 AI，以使人們的生活變得更加輕松，我們有一個叫做 gov.uk 的官網，實際上是幾年前創立的一個开創性的東西，所有政府信息都匯集在一個網站上 gov.uk，所以你需要獲得駕駛執照、護照，與政府的任何互動，都以一種非常易於使用的方式集中在一個地方，比大多數人更好。
我們即將在該平台上部署 AI，所以我認爲每天有幾百萬人使用這個平台，因此大部分人口每天都在與 gov.uk 互動，以完成所有這些日常任務，你們每個人的每一個客戶都在做這些事情，所以我們即將部署AI，以使整個過程變得更加容易。
有些人可能會說，我的護照丟了，我的飛機還有 5 個小時的飛行時間。在目前的情況下，要弄清楚你該怎么做需要多少步驟？實際上，當我們部署 AI 時，你可以直接說出來，然後就會有人告訴你該怎么做，然後你就可以走下去了，這將使數百萬人每天都受益，對吧？
因爲從我的角度來看，這是我可以开始使用這種技術來幫助人們的一種非常實際的方式，不僅僅是醫療發現以及我們正在做的其他一切。但我認爲這是一個非常有幫助的演示，真正讓你的日常生活因爲 Elon、Dennis 和這個房間裏的其他人所創建的東西而變得更加容易。
Elon Musk:
是的，最直接的影響就是能夠問一個非常聰明的朋友，可以問他任何問題，比如如何制造某物，如何解決任何問題，它都會告訴你。顯然，公司將採用這一技術，所以我認爲你會有更好的客戶服務，這可能是你首先會注意到的。
如果我們談到教育，如果你試圖理解一個科目，擁有一位出色的導師幾乎已經有了，我是說，我們需要顯然我需要在它不能給你之前停止幻想。我們還存在一個問題，它可能會給出一個非常自信的錯誤答案，擁有出色的語法和項目符號以及引用，但實際上並不是真實的，所以這是一個我們需要解決的問題，確保它是正確的，這將很快發生，實際上它確實是正確的。
Rishi Sunak:
對於在 Covid 期間進行家庭教育的任何家長，了解他們的孩子需要幫助的事情，這將是一種巨大的解脫，我認爲非常好。
觀衆:你已經很雄辯地談到了富足時代。顯然，AI 無處不在，但是隨着機器人的出現和進入富足時代，我們將需要大量機器人，我知道你也在研究機器人，我們是否應該考慮一些限制，我們應該思考，是否會有一個國家在制造可以做所有這些事情的機器人方面投入更多的資源，因此在战略上處於劣勢？
Elon Musk:
實際上，任何可以由計算機控制的東西都可以被視爲機器人，你可以認爲特斯拉汽車實際上是有輪子的機器人，任何連接到互聯網的東西實際上都是 AI 的端點執行器，你們有波士頓動力，顯然他們一直在制造令人印象深刻的機器人已經有一段時間了。
我認爲他們現在在一些方面基本上是韓國現代的，我猜我很高興可能會制造一些具有人形外觀和一些令人意外形狀的機器人，我沒有預料到的，比如那個看起來像是有輪子的袋鼠的機器人，我不確定那是什么，但看起來有點迷人，但是，將會有各種各樣的機器人。
英國有戴森公司，我認爲他們做了一些令人印象深刻的東西，我認爲英國在這方面不會落後，英國還有 ARM，實際上是世界上最好的芯片設計之一，特斯拉使用了大量的 arm 技術，實際上幾乎每個人都使用了，所以我認爲英國處於一個有力的地位。
德國顯然制造了大量機器人，工業機器人，我認爲總的來說，制造任何類型的機器人的國家，即使它們看起來有些傳統，也會沒問題，但我確實認爲存在安全問題，特別是對於人形機器人。
因爲我是說，至少奶牛不能輕易地追你進這棟大樓，或者追上一棵樹，或者你可以跑上一段樓梯，逃離特斯拉。我認爲有一部關於這方面的史蒂芬·金電影，關於真實呼叫被佔據了，如果你有一個人形機器人，它基本上可以追你到任何地方。
我認爲我們應該有某種硬件的本地切斷开關，你不能從互聯網更新，所以任何可以從互聯網上進行軟件更新的東西顯然可以被覆蓋，但是如果你有一個本地的關斷开關，你可以說一個關鍵詞或者什么的，然後機器人就進入了一個安全狀態，具有某種本地安全狀態能力和關斷开關，你不必離機器人太近。我不知道。所以如果你有數百萬這些東西遍布各地，
這確實是一個相當大的挑战，因爲我們已經到了這一點，即使是开源的 AI 也能通過人類識別測試，這是一個測試你是否是人類的測試，你能否識別出這張圖片中的所有交通信號燈，你可能會說，好的，這不是問題，事實上，它會做得比人類更好，而且更快，所以我們不知道在什么時候它會比人類更好，比人類更擅長通過這些測試，那么哪些測試實際上是有意義的呢？這是一個真正的問題，我實際上沒有一個好的解決方案，我們正在嘗試在X平台上解決的問題之一就是如何處理這個問題，因爲我們現在已經到了這一點，即使是开源的易得到的 AI，你不需要在這個領域處於領先地位。
你實際上可以比人類更擅長通過這些測試。這就是爲什么我們認爲，也許我們應該收取 1 美元或 1 英鎊一年的費用，這是一個非常微小的金額，但仍然使得制作一百萬個機器人在私下變得昂貴，尤其是如果你需要一百萬個付款方式，然後你很快就會用完被盜的信用卡，所以這是我們思考的地方，我們可能必須收取一些非常微小的費用。實際上每天0.3美分，以應對由AI支持的機器人。如果是這樣，這個問題仍然在不斷增長，但明年可能會變得不可逾越。
你還需要擔心信息的操縱，使某事看起來非常受歡迎，實際上它並不是，因爲它受到了所有這些AI支持的機器人的點贊和轉發的推動。這就是爲什么我認爲，不可避免地會導致一些小額支付，以大幅增加機器人的成本。坦率地說，我認爲可能任何不這樣做的社交媒體系統最終都將被機器人淹沒。
Rishi Sunak:
我認爲我的一般回答將是，我們需要展示我們正在採取措施來降低風險，這樣人們就可以信任這項技術。實際上，過去幾天的安全峰會就是爲此而舉辦的，只是要展示我們正在投資於安全研究所，擁有可以研究這些事情並找出如何對抗它們的人才。
我們必須迅速採取行動，不斷改進，因爲我認爲這個房間裏的大多數人都相信這項技術可以非常強大，但我們必須確保我們將人們與我們一起引領，我們正在處理那裏的風險，這是一項任務。過去的幾天，我認爲我們在這方面取得了良好的進展，因爲我們想要專注於積極方面並管理這些問題，但這需要行動，這就是過去幾天的目的。
實際上是在這裏的工作組發布並在昨天發表的一部分，我不知道你是否看到了，它是關於使用 AI 創建大量虛假社交媒體個人資料，然後滲透特定的群體並提供特定信息。實際上，目前的情況是，正如你所說是免費的。
Elon Musk:
我們到了一個程度，就像你真的要爲 1 分錢买 100 個假人資料，這太荒謬了。
Rishi Sunak:
如果你考慮一些在社交網絡上相當像一個社區或城鎮的社交網絡，那實際上並不是很多虛假個人資料，你需要迅速創建，突然之間它們無處不在，然後有一些可能很重要的地方問題，我們的團隊已經運行了如何看起來的版本，然後突然它們正在與每個人互動，然後傳播和散布虛假信息。確切地說，這正是我們昨天在虛假信息方面發表的研究的一部分，這是一個真正的挑战。
Elon Musk:
完全是針對你說的，你根本不需要偷別人的圖片，因爲那是可以追蹤的，但實際上你可以說創造一個人的新形象，看起來逼真但不存在，然後創建一個逼真但不存在的傳記，然後進行大規模的操作，幾乎唯一的可用方法是語法太好了，會泄露出來，所以拼寫錯誤很明顯。
Rishi Sunak:
我感到很遺憾，因爲我認爲我們已經沒有時間了，我知道我們可以提出一個非常簡短的最後一個問題，讓我們繼續吧，先生，繼續吧，你就在我面前。
觀衆:
Elon ，關於 X 平台的問題，特別是在涉及視覺媒體方面，我們是否可以做一些簡單的事情？你提到了這樣一個事實，即制作像你這樣的人說和做一些你從未說過或做過的事情相當簡單，實際上是免費的，我們是否可以做一些像加密籤名媒體這樣的事情？
我來自 Adobe，我們正在進行這個項目，Twitter 是一個成員，很高興看到 X 平台回來，數字籤名媒體不僅表示是由 AI 創建的，還表示來自相機的內容，表示什么是真實的，以賦予媒體以可信賴的感覺，可以傳播。
Elon Musk:
這聽起來是一個不錯的主意，如果有一種認證方式的話，那將是一個好主意，我認爲我們應該這樣做。
Rishi Sunak:
實際上，就這一點而言，我已經，這對於像我這樣的人來說尤爲重要，我已經遇到了一種情況，即有一張經過篡改的圖片到處傳播，呈現出負面的效果。等到每個人都意識到那是假的，我們應該停止發送時，損害已經造成了。
我們再次回顧今天，如果你考慮到明年，你將在美國、印度、印度尼西亞和這裏舉行選舉，我認爲明年全球範圍內將有大規模的選舉，可能是第一批真正涉及到這個問題的選舉。因此，弄清楚我們如何處理這個問題對於那些希望維護我們民主的誠信的人來說，我認爲是至關重要的任務。
Elon Musk:
我的意思是，有些人可能覺得很有趣，比如穿着羽絨服的教皇。你看到過那個嗎？那真是太神奇了。但我仍然遇到一些人認爲那是真的。我說，嗯，他 7 月份在羅馬穿羽絨服的概率有多大，會出汗呢？
實際上，他看起來相當瀟灑，我認爲 AI 時尚會成爲一個真正的事物，所以我一直在做預測，我們生活在最有趣的時代，我認爲這有 80% 的可能性是好的，20% 是壞的，我認爲如果我們對壞的部分有認識並小心應對，總的來說，實際上它將成爲我們想要的未來或者更可取的未來，它實際上將成爲一種水平器和平等化的手段，每個人都將有機會獲得商品和服務以及教育，所以我認爲它可能會帶來更多的人類幸福。所以我猜我可能會以樂觀的筆調結束。
Rishi Sunak:
這是一個很好的結束，我認爲我們都期待着那個更好的未來，它的承諾確實存在。在座的有很多一部分，包括你們自己，都在努力讓它成爲現實。政府的工作是確保它安全實現。但基於這次對話和過去幾天的討論，我對我們能夠實現這一目標感到更加自信。非常榮幸和高興能夠有你們在這裏。
Elon Musk:
非常感謝。
Reference：
《A Viral Interaction On The Sidelines Of World’s First AI Summit》，Business Today
標題：馬斯克告訴蘇納克：AI 的能力每年增長 5～10 倍，而开源比閉源慢 6～12個月，所以差距只會越拉越大！
地址：https://www.utechfun.com/post/287006.html