新火種AI|用AI技術“復活”親人，是全新機遇還是倫理挑战？

2024-03-13 18:40:03 編輯： robot

導讀作者：小巖編輯：彩雲近日，著名音樂人包小柏用AI技術“復活”了已經去世的女兒，惹得全網熱議。因病去世了幾年的女兒忽然獲得了“數字生命”，鮮活的存在於電腦裏，她不僅可以唱歌，還能與家人進行對話。這...

作者：小巖

編輯：彩雲

近日，著名音樂人包小柏用AI技術“復活”了已經去世的女兒，惹得全網熱議。因病去世了幾年的女兒忽然獲得了“數字生命”，鮮活的存在於電腦裏，她不僅可以唱歌，還能與家人進行對話。這樣的狀況與《流浪地球2》中的情景幾乎毫無二致。也正因此，這條新聞無論是在技術層面，還是從情感層面，都給了大家極大的觸動。

當然，因此而引起的評論也呈現出了兩極化的趨勢。有人認爲，讓親人的音容笑貌得以延續，這恰恰是AI存在的偉大意義。也有人對“數字生命”持保留態度，生老病死是生命的普遍規律，很無奈，但沒有人可以阻止。通過技術不斷的“復原”逝者，只會是自欺欺人，給在世的親人帶來更大的痛苦。

關於道德與倫理方面的爭論還沒有一個確定的結果，可科技發展的車輪卻如此迅速，全然沒有要停下來的意思。

上海00後小夥用AIA技術“復活”奶奶：只是希望用AI技術彌補遺憾。

用AI技術“復活”親人的，遠不止包小柏一個人。

就在最近，上海的00後視覺設計師，B站UP主吳伍六用AI技術生成了去世奶奶的虛擬數字人，並和自己开展了對話。這段視頻在B站上引發了網友的廣泛關注。

吳伍六在接受媒體採訪時表示，之所以用AI“復活”奶奶，是因爲自己不能接受奶奶的突然離去。吳伍六平時從事AI工作，就想到了用AI技術“復活”奶奶。他導入了奶奶生前的照片，制作出了奶奶的動態頭像，又將奶奶生前的通話音頻導入AI，訓練AI模擬出奶奶的聲音和語氣。他這么做的初衷只是希望用AI技術彌補與奶奶沒有好好告別的遺憾，並希望大家珍惜當下，現實的陪伴永遠是最重要的。

值得一提的是，吳伍六還在視頻中分享了整個“AI奶奶”的制作流程，主要就是使用了最近大火的AI繪圖網站Midjourney以及AI語言模型ChatGPT等。其中的語音素材，源自吳伍六和奶奶連續兩年的手機通話錄音，他以此爲數據訓練AI模擬出奶奶的聲音和語氣。照片則是從殯儀館要來的，上傳到Midjourney進行優化，制作出了奶奶的動態頭像，然後在ChatGPT中輸入關於奶奶的信息，從而生成虛擬數字人。

打破真實和虛擬的邊界，用AI“復活”親人極有可能成爲未來的熱門賽道。

如果說博主吳伍六用AI“復活”奶奶是爲了寄托自己對逝去親人的思念，那么有些人則是因此窺見了商機，純純打起了生意經。

電商平台上就存在不少做AI“復活”生意的商家。在某電商平台，AI“復活”的商品標價從幾元，幾十元，到上百元乃至數千元不等。有的商家甚至掛出了“只需要52.1元，就能還原逝去親人的容貌並和ta聊天”的噱頭。

譬如一位網友認爲自己最大的遺憾就是身在異鄉，沒能見到父親的最後一面。他在辦完父親的身後事後，還是會止不住的思念父親，會把自己關在房間裏一遍又一遍的翻看自己和父親的聊天記錄。直到某一天，他在短視頻平台上刷到有商家提供AI“復活”親人的服務，他感覺自己好像是抓住了救命稻草，趕緊支付了200多元並提供了父親生前的錄音和照片。隨後，網友收到了一段短視頻。視頻裏，父親微笑着對他說着話，視頻只有短短幾十秒的時間。

想必大家都能意識到，說是用AI“復活”逝者，其實生成的內容與逝者本身一點關系都沒有。商家只是利用AI技術，將逝去親人的文字描述，圖片，視頻和聲音資料輸入AI算法模型，從而模擬生成一個數字形象，這個形象具備了逝者的某些典型特質（性格，聲音，容貌等），僅此而已。

就連“AI奶奶”的博主吳伍六都說，“這件事的本質就是要求AI當演員，去扮演一個人，如今的AI可以很好的去模仿一個人的相貌和聲音，但就目前的科學水平而言，它無法模仿一個人的靈魂”。很多想AI“復活”親人的網友，也不過是想謀求一個心理安慰。

全新技術引發爭議：緬懷固然重要，保護隱私謹防被騙也是要緊事。

一直以來，針對AI應用，特別是“AI復活” 應用的爭論就從未停止。即便現在，“AI復活”的技術已經突飛猛進，形成了井噴式的發展，也依然無法幫助其在倫理，道德以及法律方面找到一個足夠有力的支撐點。

一方面，“AI復活”這件事對於社會倫理和社會道德產生了不小的衝擊。很多人認爲人死不能復生，一味的沉湎於過去，只會讓自己更加痛苦。更重要的是，那個克隆出來的，所謂的“親人”與逝者是毫無關系的。

另一方面，盡管目前還沒有明確的法律法規對於“AI復活”的行爲進行明確規範，但制作方在利用數字技術行“復活”時，是需要承擔一些法律責任的，諸如“制作出來的形象與實際偏差太大”“侵害逝者名譽權，肖像權”等相關權益。

2023年7月，中國頒布了《生成式人工智能服務管理暫行辦法》，要求研發方要在生成式AI技術研發過程中進行數據標注的，提供者應當制定符合本辦法要求的清晰，具體，可操作的標注規則；开展數據標注質量評估，抽樣核驗標注內容的准確性；對標注人員進行必要培訓，提升守法意識，監督指導標注人員規範开展標注工作。誠然，這個法規可以對當下興起的“AI復活”技術起到一定的監管和威懾作用，但它畢竟不是專門監管“AI復活”的具體法案，無法做到面面俱到，百分百貼合。畢竟，立法都是略微滯後的，特別是在新技術領域。

不可否認，科技是把雙刃劍，AI也不例外。我們可以利用飛速發展的AI技術實現一系列的革新和突破，諸如人臉識別，語音識別，提高安防效果等。而備受關注的“AI復活”，還能夠彌補一些人沒能“好好和親人告個別”的遺憾。但是，一旦這些技術被壞人利用，就可能成爲滋生詐騙，邪惡，醜陋的溫牀。

歷史的每一次巨大革新和變革，總會伴隨着對於社會規則，道德和倫理方面的挑战。在不久的未來，如何去把握科技倫理與社會發展的邊界，在加速發展和審慎規範之間找到平衡點，這將會成爲全人類關注的焦點。