文/陳根

隨着AI大模型進入各行各業的應用，以及AI技術的持續迭代，關於AI是否會威脅人類的討論也越來越多。

其實這樣的討論過去也有很多，甚至從AI技術誕生开始，就有人在擔憂AI會不會有一天取代人類，或者威脅人類這個物種的存在。

只不過，今天，AI大模型的爆發，讓這個問題一下子從抽象的討論變得非常具體。我們必須要思考，我們該怎么迎接即將到來的AI時代；必須要面對，如果AI的性能以及達到人類水平甚至超越人類水平時，我們人類該怎么辦，以及未來AI會不會有一天真的具有了意識，那個時候，人機發生衝突該又怎么解決。

而面對這些問題時，有一個概念也被人們重新提起，那就是“價值對齊”。這其實也不是一個新的概念，但這個概念放在今天好像特別合適。那么，到底什么是價值對齊？誰和誰的價值對齊？又怎么對齊？

簡單來說，價值對齊，其實就是讓AI的價值觀和我們人類的價值觀對齊，而之所以要讓AI的價值觀和我們人類的價值觀對齊，核心目的就是爲了安全。

大家可以想象一下，如果不對齊，會有什么後果。

比如哲學家、牛津大學人類未來研究所所長Nick Bostrom，曾經就提出一個經典案例。就是說，如果有一個能力強大的超級智能機器，我們人類給它布置了一個任務，就是要“制作盡可能多的回形針”，於是，這個能力強大的超級智能機器就不擇手段的制作回形針，把地球上所有的人和事物都變成制作回形針的材料，最終摧毀了整個世界。

這個故事其實早在古希臘神話裏就發生過。說的是一位叫邁達斯的國王，機緣巧合救了酒神，於是酒神就承諾滿足他的一個愿望，邁達斯很喜歡黃金，於是就許愿，希望自己能點石成金。結果邁達斯真的得到了他想要的，凡是他所接觸到的東西都會立刻變成金子，但很快他就發現這是一個災難，他喝的水變成了黃金，喫的食物也變成了黃金。

大家從這兩個故事裏有沒有發現一個問題，不管是超級智能機器還是邁達斯，它們都是爲了自己的目的，最後超級智能機器完成了回形針任務，邁達斯也做到了點石成金，但得到的結果卻是非常災難的。因爲在這個過程中，它們缺少了一定的原則。

這就是爲什么今天價值對齊這個概念會被重新重視的原因。AI根本沒有與人類同樣的關於生命的價值概念。在這種情況下，AI的能力越大，造成威脅的潛在可能性就越大，傷害力也就越強。

因爲如果不能讓AI 與我們人類“價值對齊”，我們可能就會無意中賦予AI與我們自己的目標完全相反的目標。比如，爲了盡快找到治療癌症的方法，AI可能會選擇將整個人類作爲豚鼠進行實驗。爲了解決海洋酸化，它可能會耗盡大氣中的所有氧氣。這其實就是系統優化的一個共同特徵：目標中不包含的變量可以設置爲極值，以幫助優化該目標。

事實上，這個問題在現實世界已經有了很多例子，今年11月，韓國慶尚南道一名機器人公司的檢修人員，被蔬菜分揀機器人壓死，原因是機器人把他當成需要處理的一盒蔬菜，將其撿起並擠壓，導致其臉部和胸部受傷嚴重。而後他被送往醫院，但因傷重而不治身亡。

除此之外，一個沒有價值對齊的AI大模型，還可能輸出含有種族或性別歧視的內容，幫助網絡黑客生成用於進行網絡攻擊、電信詐騙的代碼或其他內容，嘗試說服或幫助有自殺念頭的用戶結束自己的生命等等。

好在當前，不同的人工智能團隊都在採取不同的方法來推動人工智能的價值對齊。OpenAI、谷歌的DeepMind各有專注於解決價值對齊問題的團隊。除此之外，還有許多第三方監督機構、標准組織和政府組織，也將價值對齊視作重要目標。這也讓我們看到，讓AI與人類的價值對齊是一件非常急迫的事情，可以說，如果沒有價值對齊，我們就不會真正信任AI，人機協同的AI時代也就無從談起。

       原文標題 : 陳根：爲什么要讓AI價值對齊？

標題：爲什么要讓AI價值對齊？

地址：https://www.utechfun.com/post/306056.html