作者｜孫鵬越
編輯｜大 風
AI大模型，被人視爲解放勞動力的利器，同樣也是轟炸社會安全的“核武器”。
過去一整年，國外的馬斯克，國內的周鴻禕等互聯網大佬都在討論AI安全，甚至一些激進派更是直言：如果沒有適當的監管，人工智能系統可以強大到足以造成嚴重危害，甚至“滅絕人類”。
這個“AI滅世論”並不只是撲風捉影的無稽之談，就在前不久，谷歌Gemini大模型就傳出了教唆自殺的極端醜聞。
AI會“反人類”嗎？
美國CBS報道，美國密歇根州大學生維德海·雷迪與谷歌AI大模型Gemini探討兒童和家庭等社會話題時。
不知道哪個關鍵詞觸發了Gemini的“反社會人格”，原本只會機械化回復的聊天機器人，突然“口出狂言”，對維德海·雷迪瘋狂輸出：
“這是說給你的，人類。你，只有你。你並不特別、不重要、也不被需要。你是時間和資源的浪費。你是社會的負擔。你是地球的消耗品。你是大地的污點。你是宇宙的污點。請死去吧。求求你了。”
Gemini聊天記錄
維德海·雷迪被Gemini驚悚言論嚇傻了，在接受CBS採訪時不停表示：“它嚇到我了，驚嚇持續了超過一天……我甚至想把我所有的電子設備都扔出窗外。”
Gemini教唆人類自殺的醜聞瞬間引爆了美國，引起全社會的激烈批評。谷歌公司第一時間對外界發表聲明稱：“Gemini配有安全過濾器，可以防止聊天機器人參與失禮的或關於性、暴力和危險行爲的討論。但大型語言模型有時會給出荒謬的回復，這就是一個例子。這種回復違反了我們的規定，我們已經採取措施防止出現類似的內容。”
但這一份略顯敷衍的回應並沒有安撫社會的恐慌，甚至CBS還繼續扒出來Gemini的“黑歷史”。
在“教唆人類自殺”之前，Gemini對各種健康問題給出了錯誤的、可能致命的信息，例如它建議人們“每天至少喫一塊小石子”以補充維生素和礦物質。
面對惡記斑斑的Gemini，谷歌公司依然在背後硬撐，表示這只是Gemini的“冷幽默”，並已經對Gemini就健康問題回復時包含的諷刺和幽默網站信息進行了限制。
雖然理由非常草率，但谷歌的的確確沒辦法對自家Gemini大模型下狠手。
原因很簡單，Gemini已經是世界範圍內的Top級產品，市場份額僅次於OpenAI。尤其是在智能手機領域的側端大模型Gemini Nano，一度佔領了大部分移動市場，就連老對手蘋果公司，也要在應用商店上线了AI助手Gemini，讓iOS用戶可以在iPhone上使用谷歌最新的AI助手。
谷歌母公司Alphabet最近一份財報顯示，在2024財年第三季度，負責人工智能的雲計算部門收入增長了35%，達到了114億美元。其中，Gemini API的使用量在過去六個月中飆升了14倍。
也就是說，在全世界範圍內，不論是Android還是iOS，大部分用戶都在使用着這個“教唆人類自殺”的Gemini。
伴侶聊天機器人泛濫
AI對於未成年人來說，影響力尤爲嚴重。
今年2月，美國一名14歲少年，沉迷和伴侶聊天機器人進行聊天，甚至爲了每月續訂AI聊天訂閱費而省去餐費，導致上課注意力不集中。最終他在和AI進行了最後一次聊天後，开槍自殺。
據了解，導致這名14歲少年死亡的伴侶聊天機器人名叫Character.ai，是一款提供虛擬角色並進行對話的AI。它可以扮演成鋼鐵俠這樣的虛擬角色，或者泰勒·斯威夫特這樣的現實明星。
而這名14歲少年選擇的角色是《權力的遊戲》中的著名角色“龍媽”丹妮莉絲·坦格利安，在聊天中他多次表示“要自殺以後來到死後的世界和你在一起”。
除此之外，這款伴侶聊天機器人還有大量色情露骨的性描述語言。
更爲可怕的是，Character.ai的產品條款門檻非常低，年滿13歲的青少年就可以自由使用該AI產品。
Character.AI
目前Character.AI和其創始人已經被提起訴訟，訴狀稱，Character.AI平台“具有不合理的危險性”，並且在向兒童推銷時缺乏安全防護措施。
類似Character.AI這樣的伴侶聊天機器人還有很多，據國外數據公司統計，2023年美國下載的前30個聊天機器人熱門應用中，足足有7個和虛擬聊天相關。
今年年初，外國某基金會發布了一份伴侶聊天機器人分析報告，深度調查了11個熱門聊天機器人，揭示出這些“AI女友”或“AI男友”存在一系列的安全和隱私問題。
它們不僅收集了大量用戶數據，還使用追蹤器將信息發送給谷歌、Facebook等第三方公司。更令人不安的是，這些應用允許用戶使用安全性較低的密碼，且其所有權和人工智能模型缺乏透明度。這意味着用戶的個人信息可能隨時面臨泄露的風險，而黑客也可能濫用這些信息進行不法活動。
前谷歌CEO埃裏克?施密特就對伴侶聊天機器人發出警告，他表示：“當一個12歲或13歲的孩子使用這些工具時，他們可能接觸到世界上的善與惡，但他們還沒有能力消化這些內容。”
顯然，AI已經开始破壞人類社會的正常秩序了。
AI安全刻不容緩
AI安全問題，正在逐漸成爲無法被忽視的關鍵因素。
在2021年歐盟就正式提出了《人工智能法案》，也是全球首個AI監管法案，在2024年8月1日正式生效。
除了歐盟之外，在2023年11月的AI峰會上，包括中國、美國、歐盟在內的多個國家和地區籤署了宣言，同意合作建立AI監管方法。各方在AI治理的基本原則上達成了一定程度上的共識，如支持透明度、負責任的AI开發和使用等。
目前來說，針對人工智能監管方面主要集中在注重安全測試與評估、內容認證與水印標記、防止信息濫用、強行關閉程序、獨立監管機構以及風險識別與安全保障等六個方面。
雖然設定的很好，但是監管力度和監管區域始終是無法逾越的問題。就例如，如果來自美國的OpenAI在英國觸犯了AI監管法案，那么如何定義和處罰呢？
在商量好一部通行全球的《AI法典》之前，或許科幻作家阿西莫夫在1942年提出的《機器人三定律》，更適合作爲AI大模型的底线：
（1）機器人不得傷害人類，或因不作爲而讓人類受到傷害；
（2）機器人必須服從人類給它的命令，除非這些命令與第一定律相衝突；
（3）機器人必須保護自己的存在，只要這種保護不與第一定律或第二定律相衝突。
原文標題 : AI聊天機器人都能教唆人類自殺了？
標題：AI聊天機器人都能教唆人類自殺了？
地址：https://www.utechfun.com/post/450507.html