【文/觀察者網 陳思佳】近年來，人工智能技術發展突飛猛進，人工智能產品正變得更加聰明、更加強大，逐漸給我們的日常生活帶來改變。但與此同時，虛假信息、侵犯隱私、歧視等風險也开始顯現，人工智能安全和治理成爲世界各國面臨的緊迫問題。

　　7月5日，2024世界人工智能大會“前沿人工智能安全和治理論壇”舉行，多位國內專家以及來自法國、美國、新加坡等國的專家發表講話，討論了人工智能治理理念、人工智能監管的立法進程、人工智能的全球挑战、國際合作等問題。

　　然而，美國政府頻繁鼓吹“美中競爭”，試圖在技術領域打壓中國，給國際合作帶來困難。清華大學人工智能國際治理研究院院長薛瀾提及，一些美國專家想要與中國合作需要提交報告，一些企業也擔心因合作遭到制裁，“在這樣一種環境下談合作，我覺得很困難。”美國加州大學伯克利分校人類兼人工智能中心執行主任馬克·尼茲伯格也坦言，美國在人工智能領域有主權目標，尋求保持美國的“領先地位”。

　　但美國卡內基國際和平研究院主席馬裏亞諾-弗洛倫蒂諾·奎利亞爾承認，人工智能治理是一個緊迫的問題，要想駕馭人工智能的風險就離不开國際合作。新加坡政府首席人工智能官兼副首席數字技術官何瑞敏則直言，人工智能是在全球供應鏈中產生的，不可能由一家公司、一個國家或者一個機構壟斷。

　　“中國不僅僅把人工智能理解爲一種技術或服務”

　　去年10月，中國發布《全球人工智能治理倡議》，提出以人爲本、智能向善、尊重主權主張，爲人工智能未來發展方向給出基本原則。中國政法大學教授張凌寒在5日的演講中表示，我國已經逐步發展出修正人工智能風險治理的路徑，中國人工智能治理正在本土化。

　　張凌寒表示，基於風險的治理被世界很多國家的立法採納，但風險判斷當中蕴含了很多價值的考量，風險並不是純粹的科學概念，而是規範性概念。她指出，大部分機構都將侵犯隱私、歧視等對人身權利的侵害列爲人工智能的主要風險，但這一類風險是難以量化計算的。

　　“我們對風險治理的基本思路，是計算損害的大小和損害發生的概率，最後看我們得到的收益是否成正比。”張凌寒說，“可是，如果人工智能時代面臨的很多風險都難以量化和計算，這種治理方式就面臨着困難。”

中國政法大學教授張凌寒發表演講2024世界人工智能大會

　　她認爲，我國已經逐步發展出修正人工智能風險治理的路徑。她將中國人工智能治理的發展分爲探索階段、定向階段和系統集成階段，在治理手段上有與國際共通的部分，包括個人信息保護、算法影響評估等。與此同時，中國也發展出自己的特色部分，例如前兩個階段相關立法都強調發展與安全的平衡。

　　張凌寒說：“目前中國的人工智能治理理念，與其說是完全基於風險的治理理念，不如說是基於價值的治理理念。基於價值的人工智能治理並不排斥風險治理，但它超越於風險治理。”

　　她表示，中國的立法和政策治理中，不僅僅把人工智能理解爲一種技術或者服務應用，人工智能既是未來賦能整個社會的基礎設施，也是未來整個社會生產的組織形式，“另一方面，我國已經明確人工智能治理的理念和方案是‘以人爲本 智能向善’，‘以人爲本’是說技術不能偏離人類文明進步的方向，‘智能向善’是強調人工智能在法律倫理和人道主義層面的價值取向。”

　　隨着人工智能浪潮的興起，我國已經提出一系列關於人工智能治理的倡議和立法文件。2023年8月15日，中國正式施行《生成式人工智能服務管理暫行辦法》，這是全球首個全面監管生成式人工智能的立法文件，體現了中國的事前監管要求。

　　今年5月9日，國務院印發《國務院2024年度立法工作計劃》，人工智能法草案再次被列入預備提請全國人大常委會審議項目。

　　當地時間7月1日，第78屆聯合國大會協商一致通過中國主提的加強人工智能能力建設國際合作決議，決議獲得140多個國家的聯署支持。

　　據新華社報道，決議強調人工智能發展應堅持以人爲本、智能向善、造福人類的原則，鼓勵通過國際合作和實際行動幫助各國特別是發展中國家加強人工智能能力建設，增強發展中國家在人工智能全球治理中的代表性和發言權，倡導开放、公平、非歧視的商業環境，支持聯合國在國際合作中發揮中心作用，實現人工智能包容普惠可持續發展，助力實現聯合國2030年可持續發展議程。

當地時間7月1日，聯大通過中國主提的加強人工智能能力建設國際合作決議視覺中國

　　中國常駐聯合國代表傅聰在聯大全會介紹決議草案時表示，當前全球人工智能技術飛速發展，對各國經濟社會發展和人類文明進步產生深遠影響。但大多數國家特別是發展中國家尚未能真正接觸、使用人工智能並從中受益，全球數字鴻溝仍有擴大之勢。廣大聯合國會員國普遍期待就人工智能能力建設加強國際合作，平等發展和利用人工智能技術，共享人工智能知識成果。

　　傅聰說，中方期待以本決議通過爲契機，同廣大會員國一道積極推動決議後續落實，堅持發展優先，堅持以人爲本，堅持平等互利，堅持守正創新，以實際行動幫助發展中國家加強人工智能能力建設，促進人工智能賦能可持續發展，增進全人類共同福祉，推動構建人類命運共同體。

　　“人工智能不可能被一個國家壟斷”

　　面對飛速發展的人工智能技術，世界各國也开始關注治理問題。新加坡政府首席人工智能官兼副首席數字技術官何瑞敏表示，新加坡從2019年开始开發人工智能治理框架，推動負責任地使用人工智能。在與全球和業界進行交流後，新加坡今年也更新了人工智能框架。

　　何瑞敏指出，人們還無法准確預測人工智能的發展方向，政策制定者需要以謙卑的態度不斷學習、探索和了解新的科學知識，並對技術對社會的影響保持清醒的認知。他認爲，人工智能不是“黑白分明的”，對於人工智能的治理，人們需要有不同的視野。

　　“AI可能會幫助我們應對氣候變化，也會因爲耗能而影響環境；AI可以幫助醫療，AI也可能會生成虛假信息等等。”何瑞敏說，“AI同時也可以向善，比如在新加坡，我們用AI優化移民的流程、預測醫院繁忙時間，政府提供服務的時候也會使用聊天機器人。我們需要積極創新，讓我們更好利用它有益的方面，並防止它對我們造成不好的影響。”

　　他認爲，有必要鼓勵政策制定者多使用人工智能，以了解其潛力和限制，“我們要減少AI帶來的有害影響，我們需要讓人們參與到數據環境中，培養他們的技能和就業能力，讓我們的公民和企業從AI中獲益，這是我們國家人工智能战略的重要支柱。”

新加坡政府首席人工智能官兼副首席數字技術官何瑞敏發表演講2024世界人工智能大會

　　他強調，人工智能是在全球供應鏈中產生的，芯片制造、數據訓練、模型訓練、應用程序开發等每一個環節的參與者來自全世界，不可能由一家公司、一個國家或者一個機構壟斷。因此新加坡希望加強監管，共享經驗和做法，從而實現互惠互利。

　　新加坡政府在今年5月發布了《生成式人工智能治理模型框架》。據新加坡資訊通信媒體發展局發布的聲明，該框架旨在促進創新的同時解決生成式人工智能問題，以構建一個可信的生態系統。框架呼籲政策制定者、產業界、研究界和公衆等所有利益攸關方共同發揮作用。

　　美國加州大學伯克利分校人類兼人工智能中心執行主任馬克·尼茲伯格（Mark Nitzberg）則指出，美國在人工智能領域擁有主權目標，尋求保持美國在人工智能領域的領先地位，也希望借助人工智能推動美國經濟增長，以及推動美國國家安全發展。

　　他表示，在美國的監管過程中，不同利益團體有着不同的訴求，這導致美國現在存在三組法律，分別是白宮去年籤署的行政令、參議院民主黨領袖查克·舒默發布的路线圖以及加利福尼亞州發布的SB-1047法案。

　　美國總統拜登在去年10月籤署了一項行政令，要求美國政府機構制定標准，防止使用人工智能設計生物或核武器等威脅，並尋求“水印”等內容驗證的最佳方法，擬定先進的網絡安全計劃。行政令還要求企業將人工智能產品的測試結果報告給美國政府，並提出吸引全球人工智能人才留在美國。

　　美國參議院民主黨領袖舒默領導的一個跨黨派小組則在今年5月發布了一項人工智能監管路线圖。據美國“政治新聞網”報道，該路线圖將增加創新資金、制定人工智能安全的國家標准、加強美國國家安全、解決人工智能可能導致的失業問題、應對大選期間的“深度僞造”等列爲優先事項。

　　美國加州州參議院則在近期通過了SB-1047法案。據《福布斯》雜志報道，這項法案主要側重於解決人工智能失控等潛在威脅，降低人工智能帶來的生存風險。法案要求人工智能开發者進行嚴格的安全評估，並允許監管機構關停“以不安全方式運行”的人工智能產品。

去年10月，美國總統拜登在白宮籤署人工智能行政令視覺中國

　　尼茲伯格表示，所有這些問題都還在辯論中，美國還沒有大型的法律框架落地。他承認人工智能安全是一個重要問題，但他也認爲，部分過於嚴格的規定可能會阻礙創新，“人們經常會把性能和安全混爲一談，我們的系統正變得越來越強大，但強大的性能並不一定與安全問題直接相關。”

　　他表示，在人工智能治理方面，有關機構可以向各行業的安全和監管組織學習並達成一系列協議。

　　尼茲伯格說：“我們希望能夠對AI的行爲做出某種量化的分析，這樣就可以做出限制。我們的目標是盡量讓AI變得安全，我們希望過程可以變得透明，而且語義可以分析，這樣我們可以對一個系統進行某種形式的安全驗證。這方面我們需要安全的生態系統，或者除非知道它是安全的，要不我們什么都不能運行，這方面我們已經取得了一些了不起的進展。”

　　“要駕馭人工智能的風險，離不开國際合作”

　　近年來，人們愈發意識到國際合作在人工智能治理方面的重要性，但如今國際社會正面臨發展不平衡、地緣政治矛盾等一系列復雜的挑战，這使得國際合作面臨挑战。

　　清華大學人工智能國際治理研究院院長、蘇世民書院院長薛瀾表示，人工智能全球治理的步伐依然存在差距，技術發展速度很快，但政府和相關機構的改變要慢很多。人工智能技術與許多機構存在關聯，卻沒有明確的上下級關系，如何協調各機構的工作成爲新的難題。

　　薛瀾認爲，政府機構更需要緊緊跟上人工智能的發展，作出快速響應。人工智能行業也需要加強自我管理，以嚴格的方式進行自我約束。

　　他還指出，地緣政治矛盾是人工智能全球治理面臨的一個顯而易見的問題。自2017年以來，美國和中國的科技合作急劇下降，這對人工智能治理的合作產生了巨大的影響。

　　“我們知道，美國的同事如果要跟中國合作，需要提交報告，做很多的工作。同時，我之前也有參與過相關的研究，很多公司不想參加，因爲他們擔心可能會被列入名單。”薛瀾說，“在這樣一種環境下談合作，我覺得很困難。”

　　薛瀾表示，他非常同意提升安全和治理方面的合作，危機管理、緊急計劃等問題需要全球科研人員合作完成。但“美中競爭”是一個極具挑战性的問題，“我們至少要看一下，怎么樣創造一個安全的空間，讓技術人員和技術專家能夠互相合作，不用擔驚受怕。如果做不到這一點，我們所講的很多東西都是無法實現的。”

清華大學人工智能國際治理研究院院長薛瀾發表演講2024世界人工智能大會

　　美國卡內基國際和平研究院主席馬裏亞諾-弗洛倫蒂諾·奎利亞爾（Mariano-Florentino Cuéllar）也承認，人工智能治理是一個緊迫的問題，在中美之間需要更多的協調合作。

　　奎利亞爾指出，人工智能的發展速度越來越快，正在改變我們的生活和工作方式，“現在正逐漸形成一個人工智能的生態系統，它跨越紐約、倫敦、上海、北京和其他地方，各地都在努力推進人工智能的創新，我們應當以負責任的方式推進這方面的工作。”

　　他認爲，要想讓人工智能更好地爲人們服務，就必須解決現有模型存在的風險，“我們都知道，這些模型可能會生成或傳播虛假信息，人工智能被應用於軍事或國家安全方面可能導致國家間對抗升級……要駕馭人工智能帶來的風險，我們就需要國際合作。”

　　在奎利亞爾看來，美國和中國有必要在人工智能治理方面合作，“我們應該引領人工智能前沿發展的一些應用。現在存在不同的風險，我們需要理解這些風險並進行合作，這樣可以確保各國受益。”

　　法國國家人工智能委員會專家、法國國家計算機科學研究中心數據科學研究主管蓋爾·瓦羅誇克斯（Gaël Varoquaux）表示，信息技術的發展已經重塑了社會，每一次變革都帶來了新的進步和風險，人工智能的發展可以從過去的歷史中吸取經驗。

　　瓦羅誇克斯主張成立全球人工智能組織，“互聯網和人工智能都可以輕易跨越國界，因此人工智能需要有全球的治理。我們希望能夠通過共享的治理，幫助我們達成共同的目標，我們希望像互聯網一樣，不希望它過於分裂。”

　　本文系觀察者網獨家稿件，未經授權，不得轉載。

點擊進入專題： 聚焦AI 特別聲明：以上文章內容僅代表作者本人觀點，不代表新浪網觀點或立場。如有關於作品內容、版權或其它問題請於作品發表後的30日內與新浪網聯系。

---

標題：“人工智能不可能被一家公司、一個國家或一個機構壟斷”

地址：https://www.utechfun.com/post/393882.html