一段時間以來，以OpenAI chatGPT爲代表的通用人工智能的快速發展，預示着全球新一輪科技革命和產業變革的到來。特別是近期以Sora爲代表的高質量短視頻AI生成工具的出現，爲生成式人工智能开拓了廣闊的產業應用空間。
從ChatGPT到Sora，人工智能技術快速迭代帶來了哪些監管難題？又將面臨何種風險？
托斯登·耶裏尼克是太和智庫歐洲中心主任、前世界經濟論壇主管。主要研究人工智能道德與治理、網絡安全與國際關系，並著有《數字主權陷阱》一書。
托斯登：中國和歐盟在AI治理領域處領先地位
主持人 朱梓橦：
（2023年）超過350名從事人工智能研究的人士，他們發表了一封公开信，敦促世界各地的決策者意識到未受監管的人工智能活動所帶來的風險，將未受監管的人工智能與大流行病和核战爭相提並論。您如何看待這些說法？這是誇大其詞還是合理的描述呢？
太和智庫歐洲中心主任 托斯登·耶裏尼克 ：
第一個階段是關於人工智能原則的定義和發展。在2019年、2020年，這一階段達到了頂峰。幾乎每個國家的大型企業都提出了一套人工智能原則，因爲他們意識到現有的一些商業原則、價值觀在全球化全方面的壓力下已經失效。有些東西不起作用了，我們需要一些新的東西。這是第一點，我們有了這些原則。
第二個階段基本上是如何實施這些原則。由於缺乏法令法規，我們看到一系列柔性治理的出現。因此，大型科技公司從技術樂觀主義轉向技術現實主義，他們認爲必須採取一些措施。憑心而論，他們這樣做並不是出於自愿。他們這樣做是因爲有社會上的壓力。大量的壓力主要是因爲社交媒體的濫用，需要採取一些措施。不管怎樣，他們提出了一些方法，設立了道德委員會。有時他們也會把道德委員會的成員全部解僱，但總體上你可以看到一種柔性治理的自我調節。
第三個階段現在已經出現，那就是硬性法律，硬性治理。我認爲中國和歐盟在這方面處於領先地位。在歐盟，它被稱爲《人工智能法案》，最終會通過並生效。中國在這方面也已經相當先進，我們可以預見到相關法案的實現，因爲你們提出了一些硬性法律。有趣的是，現在，我們出現了這樣一個轉變，那些實際上不喜歡監管的公司要求被監管。所以不僅僅只是這封信。假如，如果你從表面價值來看，人工智能具有風險因素，我們可以討論這一點。但其他批評人士表示，他們其實是想要爲自己开闢市場，因爲監管相當復雜，只有大公司才能輕松遵守。可以說，批評人士說的有一定的道理，像OpenAI這樣的大公司會利用這一點爲自己創造市場。他們是這樣評論的，當然，人工智能肯定是存在風險的。
托斯登：人工智能技術加劇了網絡安全威脅
主持人 朱梓橦：
請告訴我們都有哪些風險？
太和智庫歐洲中心主任 托斯登·耶裏尼克 ：
你可以將其分爲兩類。一類是較爲直接的威脅，另一類是結構性的不平衡。直接威脅基本上來自網絡安全風險。網絡安全威脅已經存在相當長一段時間了，而人工智能這項新技術，將加劇我們已知的這些威脅，比如勒索軟件。勒索軟件是指有人試圖向你勒索贖金。如果你不支付贖金，他們就會鎖定你的系統，這種情況經常發生。而人工智能則可以非法獲取資金，並在毫秒內將其分發到數十萬個虛假账戶，使追溯變得不可能。因此，出現了許多非法的機會。我們將會看到全新的網絡安全威脅，這些威脅是我們之前從未見過的，例如利用人工智能，我們可以模仿或冒充某人的聲音來非法獲取資金。
另外，我們還面臨虛假信息傳播的情況，它們可以自動生成和優化。這對民主制度以及任何國家都構成了相當大的威脅，因爲它可能會使國家不穩定。這些信息不僅很難辨識，而且傳播快、成本低，因此變得相當難以控制。即使是勒索軟件，你也可以將這種網絡安全威脅作爲一種服務。如果你是一名罪犯，你可以租用這項服務來進行網絡攻擊，而無需掌握這項技能。然後我們將會看到意外的發生。我們可能以之前從未遇到過的方式遭受損失，因爲我們無法預料人工智能可能會出現的根本性錯誤。我們都知道無軌電車或自動駕駛汽車會有問題。是自殺？還是汽車殺死了駕駛員或路上的行人？我認爲我們將面臨第二或第三，甚至更高級別的困境，我們還尚未預料到。這些是直接威脅，但我們還有結構性威脅，這些威脅更具推測性。比如對勞動力市場及國際關系的擾亂，比如混合战爭，甚至心理問題，因爲我們已經看到社交媒體對我們的心理產生了影響。
近日，美國AI芯片巨頭英偉達在提交美國證券委員會文件中，首次將華爲定義爲其在全球多個行業以及市場份額中最大的競爭對手。英偉達直言，華爲在GPU、CPU多個人工智能方面凸顯了強大的行業實力，早已從最初大家認知的“跟隨者”變成了“領先者”。
托斯登：沒有中國參與，美國無法發展6G
主持人 朱梓橦：
您能否對比一下中國和美國在5G領域的優勢和劣勢？
太和智庫歐洲中心主任 托斯登·耶裏尼克 ：
我認爲5G技術實際上是強制和缺乏全球合作分水嶺的一個縮影。在上世紀80、90年代，首先是美國、英國，後來是歐洲、法國和德國，實際上發生了什么？那就是創新被外包，因爲創新屬於壟斷的運營商。然後這些設備供應商進入。其中一個美國的設備供應商，基本上接管了AT&T的設備。之後湧現出了很多家設備供應商以及服務供應商。這些設備及服務供應商同意制定共同標准，這些共同標准开啓了一個全球創新生態系統，基於這一系統，中國也逐漸發展壯大。
實際上是在第三代和第四代技術之間，中國在這方面突破了以前的依賴，在全球專利申請方面遙遙領先。來到5G技術，我們仍然有全球創新生態系統，因爲需要達成共同標准。因此，在5G开發時我們曾有過合作的假設。但隨着5G的部署及實施，合作也終結了。因爲如我們所知，主要是美國，但也有越來越多的歐洲國家，尤其是西歐和北歐國家，以及東歐國家要么正在拆除這些設備，要么正在計劃拆除。
這基本上代表了一個時期的結束，這個時期爲我們帶來了很多創新、財富和積極的發展動力。當我們展望6G技術時，我認爲幾乎看不到任何合作。但我們看到歐洲，尤其是美國，實際上無法在不與中國合作的情況下發展6G。因爲如果你無法掌握5G技術，就無法掌握6G技術，所以我認爲這對西方產生了很大的壓力。
制片人：王志江
編導：楊若涵
編輯：楊若涵
標題：網絡安全專家：沒有中國參與，美國無法發展6G | 風雲對話
地址：https://www.utechfun.com/post/342474.html