僅需一張照片和一段逝者錄音,就能在數字世界中讓逝者“永生”……清明節前後,此類AI“復活”廣告宣傳在各大電商和社交平台上日益活躍,甚至演變成一門新“生意”。技術的發展爲滿足人們的精神與情感需求提供了更多載體,與此同時,AI“復活”也引發強烈爭議。有專家提出,AI“復活”技術被濫用,或將帶來侵害個人權益、數據隱私安全、傳播虛假信息等問題。
市場
“復活”親人“商品”售價幾十元至幾百元不等
“大家好!其實我沒有真正離开這個世界……”不久前,已故藝人與公衆親切“打招呼”的視頻在社交平台上引發網民關注,也讓AI“復活”這一話題進入公衆視野。
利用AI技術將逝者“復活”,漸已發展成新“生意”。某電商平台的數據顯示,在平台經營AI“復活”相關業務的商家達1900余個。
在一家電商平台上,某商家稱,讓照片中的人物動起來20元,如果要配上“AI人聲”則需收費50元。數據顯示,該商家已達成超800次交易。在該電商平台上,“復活”親人的“商品”售價在幾十元至幾百元不等。
“有的‘復活’效果‘一眼假’,其實是過去‘照片活化’技術的延伸。有的‘復活’效果很逼真,多是採用‘深度合成’技術。”中國電子技術標准化研究院網安中心測評實驗室副主任何延哲認爲,當前市面上絕大部分的AI“復活”並非剛出現的“新技術”。
一些商家已开始兜售“AI‘復活’技術變現指南”。在某二手交易平台上,記者以19.9元的價格購买了一份“AI‘復活’技術教程”。除文字說明外,還有視頻講授如何制作“照片活化”的短視頻。
記者了解到,當前網絡上的AI“復活”工具主要分爲三種。
一種在手機應用商店中即可下載獲得,只要一張正臉照片就能根據應用中所提供的模板“活化”,可實現歌唱、“演電影”等場景轉化。
第二種是利用线上工具,由用戶提供正臉照片和相關音頻文件,經過系統自動編輯後,實現照片中人物“开口說話”的效果,該工具需要用戶支付一定費用。
第三種則是在开源社區中,由程序員編寫AI測試程序,在經過相關語料訓練後,將照片轉化爲能簡單對話互動的“數字人”。此類程序門檻較高,需要一定計算機知識基礎。
風險
技術使用不當或被利用實施詐騙等
AI“復活”的話題引發重重爭議。
有專家認爲,是否進入公共場域,是判斷AI“復活”是否侵權的重要分界线。
世輝律師事務所合夥人王新銳表示,個人利用AI“復活”親人、緬懷紀念,且在必要範圍內使用,無需過度幹預。而如果在公共平台擴散傳播,用於市場盈利,是否侵犯他人或社會公共利益就要特別考量。
“在未依法獲得逝者相關近親屬授權的情況下,擅自使用逝者面容將其‘復活’並進行商業推廣,涉嫌侵害逝者的肖像和名譽等權利。”北京康達(廈門)律師事務所高級合夥人張翼騰說,根據民法典相關規定,如未經許可,擅自使用逝者的姓名和面容用於“復活”,逝者的近親屬有權依法請求行爲人承擔民事責任。
一家社交平台相關負責人表示,平台認爲,未經逝者生前同意或逝者家屬授權,他人不應使用AI或任何技術手段“復活”逝者。該負責人稱,如果家屬投訴或侵權行爲被查實,平台將對侵權账號作出處罰。
AI“復活”還涉及“數字遺產”問題。張翼騰說,逝者生前的個人信息、聊天記錄等“數字遺產”能否繼承,目前沒有明確法律規定。對於誰有權使用、如何避免不當獲取、使用時應遵循何種規範等問題,仍需進一步明確。
此外,相關服務中,AI需要處理大量個人敏感數據,如面部表情、語音語調等;數據一旦被濫用或泄露,會對用戶隱私造成威脅。業內人士建議,开發者和使用者都應承擔責任,確保技術不會誤導用戶或影響人類情感;同時也要注意隱私保護和數據安全。
值得關注的是,AI“復活”技術使用不當,也可能成爲犯罪分子實施詐騙等犯罪活動的工具。
“服務提供者不會也沒有能力核實‘逝者’的身份信息,一些不法分子也可能以‘復活’之名行‘詐騙’之實。”中國科學技術大學網絡空間安全學院教授左曉棟說,面對新的電信網絡違法犯罪活動時,不熟悉網絡應用的中老年群體更易成爲受害者。
AI“復活”也可能衍生新型法律糾紛。“不排除有人會借AI‘復活’來僞造逝者遺囑或做出其他違背逝者意愿的事。”王新銳提出,如有近親屬利用這項技術僞造音視頻遺囑,或將耗費更多時間和人力成本來驗證真實性,甚至給司法鑑定帶來一定挑战。
建議
AI“復活”產品應加強內容“標識”
業內專家認爲,技術創新永無止境,其應用應有道德邊界和法律規範。應抓緊完善相關法律法規,警惕AI“復活”技術可能產生的社會風險。
首先,AI“復活”技術的應用,應嚴格遵守知情同意原則,在網絡傳播過程中不侵犯他人利益。
2022年,國家網信辦等三部門發布《互聯網信息服務深度合成管理規定》,對深度僞造等新技術應用進行了規範。規定明確,深度合成服務提供者和技術支持者提供人臉、人聲等生物識別信息編輯功能的,應當提示深度合成服務使用者依法告知被編輯的個人,並取得其單獨同意。業內人士認爲,如果被編輯人是逝者,理應取得有義務保護逝者肖像權的親屬的同意。
其次,不少專家提出,AI“復活”產品應恪守技術管理規範,加強內容“標識”。
左曉棟等專家表示,根據有關規定,相關技術服務提供者必須對“生成內容”進行“標識”;在已有原則性要求的背景下,可出台相關行業標准,要求相關技術服務提供者在生成式內容中添加“水印”,防止不法分子借用該技術實施違法犯罪活動。
另外,業內人士提出,在數據處理過程中,要更注重隱私保護和數據安全。
2023年,國家網信辦、國家發展改革委、教育部等七部門聯合發布《生成式人工智能服務管理暫行辦法》,進一步明確了生成式人工智能的行業發展規範。辦法規定,提供者應當依法承擔網絡信息內容生產者責任,履行網絡信息安全義務。涉及個人信息的,依法承擔個人信息處理者責任,履行個人信息保護義務。
專家還建議,要進一步落實相關平台的主體責任,處置借AI“復活”概念不當牟利的不法商家。
“不能放任AI‘復活’變成一門沒有規矩和底线的‘生意’,尤其要保護對新技術不敏感的中老年用戶群體。”中國法學會消費者權益保護法研究會副祕書長陳音江建議,有關平台要幫助中老年用戶群體辨別深度僞造技術,取締不當得利的違法違規商家,盡可能減少技術濫用帶來的社會風險。
法律界人士建議,有關部門對AI“復活”的需求和其衍生的產業鏈要保持關注、合理辨析,在現行法律法規基礎上做好數據保護、涉詐犯罪風險預防等方面的監管。
此外,普通群衆在面對諸如AI“復活”等新技術時,要提高警惕,一方面要避免掉入不法商家借新技術之名設下的虛假宣傳之坑,另一方面也要提防詐騙者運用深度僞造技術喬裝“親友”實施電詐行爲。
標題:AI“復活”逝者成清明節新生意
地址:https://www.utechfun.com/post/355379.html