導語：科技向善的另一面。
出品丨數科社
作者丨林木
國產科幻電影《流浪地球2》中最感人的部分之一，莫過於天才數字工程師圖恆宇爲了讓因車禍去世的女兒丫丫成爲永生數字生命，所做出的種種決斷。
該電影借用數字生命主題成功塑造了一個背負着地球命運和父愛私心的人物角色，探討人性深度的同時，也與強人工智能MOSS毫無人性的一面形成鮮明對比，進一步引發了人工智能如何與人類文明共生共存的思考。
隨着近年來數字科技、人工智能的飛速發展，這已然成爲人們現實生活中正在面臨的新課題。
自ChatGPT引爆AIGC市場以來，短短一年多時間，AI技術讓創造數字生命這件事變得更加簡單、真實。生成式AI只需要一張照片、一段語音或一個視頻，就能創造出一個能开口說話、做出表情的數字人。
然而，無論人工智能如何進化，卻始終保留着作爲機器的工具屬性，它所被賦予的“人性”，取決於投喂“食物”的好壞，以及背後使用它的人。這也意味着，AIGC的自我成長正給當今社會帶來雙面衝擊，有人在通過它“復活”親人、改變世界，有人在利用它吸金引流、顛倒黑白。
01丨變臉
“我要給丫丫完整的一生。”《流浪地球2》中圖恆宇道出了人們對於數字生命的終極想象。但在現實生活，能夠與逝去的親人再次對話已足夠慰藉不少人的思念之苦。
今年初，著名音樂人包小柏用AI“復活”女兒以表達思念。他的女兒三年前因病不幸離世，爲了走出痛失愛女的陰影，包小柏开始鑽研AI技術並攻讀相關專業博士，希望重現女兒的音容笑貌。
最近，包小柏終於如愿用AI復刻出“數位女兒”，可即時響應問話，還讓女兒給妻子唱了生日歌。他在訪談中表示：“我的女兒又回來了。”
消息發酵後，“AI‘復活’親人”這一話題再次引發網友熱議。隨着生成式AI的橫空出世，近年來用AI“復活”親人已不止在電影中上演。早在去年清明，B站00後UP主吳伍六就曾用AI工具還原已故奶奶，並和她聊起家常。
AI技術的不斷迭代進化下，AI“復活”親人的門檻越來越低。在電商平台上，最便宜的服務，只需要一張照片就能讓其動起來並做出表情，根據復刻效果，價格在十元到幾百元不等。
AI成了不少人寄托與傳達思念的工具，但一故事的走向卻並沒有到此爲止。就在網友尚沉浸在AI傳遞出的溫情之際，不少逝世明星被人“復活”，頻繁出現在短視頻平台。
這種現象遭到了逝者家屬的嚴厲譴責與堅決抵制，喬任梁父親對此表示感到非常不適，“他們未徵求我們同意，這是在揭傷疤。”
而在AI“復活”逝者的倫理爭議水面下，不止有人在通過“復活”別人的親屬賺取流量，還有人利用AI“換臉”技術，惡搞造謠以滿足一己私欲，更有黑產團夥僞裝成他人的親朋好友榨取錢財。
今年315晚會，AI 擬聲/變臉詐騙被點名曝光。過去一年的相關詐騙案例中，AI所展現的擬聲、變臉技術已讓普通大衆真假難分。據央視報道，在某些網絡交易平台上，花 2 元錢就能买到上千張人臉照片。
更早之前，AI合成技術在色情地帶早已臭名昭著，合成換臉色情內容泛濫成災，不少名人影星都曾遭過毒手。但如今，隨着AI技術已進化至“換臉”、“換頭”，甚至能無中生有的階段，被偷臉、造黃謠等現象逐漸盯上了更多普通人。
AIGC繁榮發展的另一面，陰暗也在隨之蔓延叢生。
02丨界线
盡管人性才是造成一切禍水湧動的根源，但不能否認的是，不斷進化的AI生產力，確實讓一些界线劃分變得更加模糊不清，比如內容版權問題。
今年2月，全球首例生成式AI服務侵犯著作權判決在廣州互聯網法院生效，引發業內外廣泛關注。案件經過簡單來說是一位用戶在AIGC平台上，用AI畫出了奧特曼形象被訴侵權。
原告爲擁有奧特曼系列獨佔授權的動漫IP代理商上海新創華文化，被告並非用戶，而是爲會員用戶提供AI繪畫功能服務的一家AIGC網絡公司。
最終，這家公司被判定在提供算力服務過程中，侵犯了原告對案涉奧特曼作品所享有的復制權和改編權，並應承擔相關民事責任。
這一判決的意義已遠超普通的知識產權糾紛，亦可視爲AIGC被劃下法律界线的一次落筆。
事實上，自AIGC爆火出圈以來，關於它的洗稿、洗畫等侵權疑慮與糾紛就沒有停止過：去年1月，多名藝術家狀告“Stable Difussion”從網絡上採集近60億張圖像來訓練其AI侵犯了“數百萬藝術家”的權利；去年12月，《紐約時報》訴Open AI事件持續發酵，多家媒體加入反抗隊伍……
AIGC以強大的學習能力、理解能力和創造力顛覆行業過往的認知，但這些能力來自於背後海量數據的投喂與訓練。
在繪畫創作領域，僅輸入關鍵詞便能生成大量新鮮畫作的AIGC，無疑幫助缺乏足夠繪畫技能的廣大人群大幅降低了創作門檻。前提卻先要被投喂大量圖片、畫作，其中很大一部分抓取於互聯網上各類藝術家、畫家的作品，以這些作品爲養料生成新作品。
而在文本生成層面，AIGC已不單單涉及到侵權問題。不久前，有海外醫學研究團隊進行了一項用生成式AI制造虛假信息的測試，短短一個小時內，他們就制作出超過100篇誤導性的博客、20張欺騙性圖片，以及一段深度僞造視頻，聲稱有關健康的虛假信息。讓人哭笑不得的是，這段視頻還能輕松轉化成40多種語言。
AIGC當前最大的缺陷在於無法判斷“食物”的好壞以及進食的界线，這也讓一些深受其害的人找到了反擊空間。
美國芝加哥大學教授 Ben Zhao 領導开發團隊，开發出了一款名爲Nightshade的工具，通過用AI給AI“投毒”的方式，幫助藝術家防止作品風格被AI抄襲。
Nightshade利用生成式AI大肆進食的安全漏洞，訓練出有毒的“食物”樣本，一旦被AI模型抓取進食，毒素就會滲透整個模型集，導致用戶想用AI畫一只狗，最後卻生成一只貓，或者其他動物。
如今，這種方法被業內貼切形容爲“毒丸”，原本發起的反擊也演變成攻擊，被不少人惡意使用。
03丨博弈
人工智能概念自20世紀中葉誕生以來，就一直被視爲一把雙刃劍。《終結者》《黑客帝國》等許多早期經典科幻作品的創作，都投射出人們對於未來人工智能的恐懼情緒。毋庸置疑的是，過去七十余年裏，人工智能化身爲一個巨大生產力，在推動着人類文明不斷前進。
2015年首次出版的《未來簡史：從智人到智神》一書中，以色列歷史學家瓦爾·赫拉利以其獨特的視角，深入討論了人工智能的崛起將如何改變人們的生活和工作方式，又給社會帶來何種挑战。
這並非只是一部制造恐慌情緒的預言。相反，作者在書中同樣展現了科技發展所帶來的巨大機遇，還提出一系列富有挑战性的觀點，引導我們思考如何適應和引導科技的發展。
事實上，人類與人工智能的共生共存，本身就是一種博弈。這是一個關於人機交互和協作的問題，涉及到人工智能的可信度、可控性、可解釋性、倫理性等諸多方面。核心宗旨是讓人工智能更多的造福社會，服務於人。
但作爲受人掌控的智能體，人工智能顯然又陷入一種雙面性的矛盾中，這也導致每一次人工智能的進化，都會對社會文明帶來一種新的博弈和挑战。
當前，以ChatGPT代表的AIGC的誕生，無疑讓人們對人工智能風險的防備心日益加深。
去年年底，中國信息通信研究院發布了2023年人工智能風險管理體系。該體系將人工智能帶來的風險分爲兩類，即自身技術系統造成的風險和應用產生的風險，並參考我國現行網絡安全等級保護要求將人工智能風險劃分爲5個等級。
其中，最低層風險是指不會對個人、企業、組織造成權益傷害的產品，如專用於下棋領域的AlphaGo；最高層風險則是指對人類社會有一定顛覆性影響，如不受人控制的強人工智能。
法律界线的劃分無疑能人類在這場博弈中更加佔據主動權。過去幾年，全球都在積極探索人工智能層面的監管和治理路徑：
2019年4月，歐盟委員會發布《可信賴人工智能道德准則》，列出了可信賴人工智能系統應滿足的七項重要要求；同在這年通過的經合組織（OECD）《確定OECD的人工智能發展原則》報告，提出了人工智能的五項原則；2023年8月，我國公布的《生成式人工智能服務管理暫行辦法》正式施行，首次針對於當下爆火的AIGC產業進行規制。
就在不久前，歐洲議會全體會議通過《人工智能法案》，標志着歐盟掃清了立法監管人工智能的最後障礙。這是全球首部人工智能法案，也預示着2024年將迎來人工智能全球治理的“大年”。
如果說“沒有人類的文明毫無意義”，那么沒有科技的世界也將無法前進，我們與人工智能的博弈永遠不會結束。
原文標題 : “雙面”AIGC：變臉、界线與博弈
標題：“雙面”AIGC：變臉、界线與博弈
地址：https://www.utechfun.com/post/351492.html