AI“復活”親人成生意,哪些紅线待劃定?

2024-04-11 18:50:30    編輯: robot
導讀   閱讀提示   今年清明節前,利用AI技術“復活”親人成爲熱議話題。在電商平台,有店家提供這項收費服務,低至幾元錢就能“復活”親人。業內人士認爲,在推動這類AI應用時,要把握好創新、倫理以及法律之...

  閱讀提示

  今年清明節前,利用AI技術“復活”親人成爲熱議話題。在電商平台,有店家提供這項收費服務,低至幾元錢就能“復活”親人。業內人士認爲,在推動這類AI應用時,要把握好創新、倫理以及法律之間的平衡。

  “一位20多歲的女士,母親在6年前去世了,想讓我做一段‘復活’媽媽的視頻。”在南京從事短視頻工作的常明,半年前开始用AI技術幫一些人“復活”逝去的親人。3月29日,這位女士提供了一張媽媽生前的照片、一段10多秒的音頻,以及一段她想讓媽媽說的話。

  今年清明節前,每天都有十幾人找常明做此類視頻。此前,有人利用AI技術“復活”已故公衆人物,相關倫理和法律問題引發廣泛熱議。

  AI技術如何“復活”逝者?這一行爲背後是否涉及侵權違法的法律風險?

  低至幾元錢就能“復活”親人

  約半小時後,常明將制作完成的一分鐘視頻發給這位女士。畫面裏,一張泛黃的照片動了起來,照片中身穿藍色棉襖、面帶微笑的媽媽緩緩說道:“丫頭,我和你爸都很好,不要牽掛和想念……”

  常明說,那位女士收到媽媽的“復活”視頻後很开心,說看到視頻後會感覺媽媽就在身邊。

  記者在一些電商平台看到,制作一條1分鐘左右的“復活”視頻,有的標價幾元,有的上千元。常明告訴記者,依靠現在的技術,有10秒鐘或者一兩句話的音頻,基本就能還原一個人的聲音。“至於定價,制作過程本身技術含量不高,精細度可能是影響價格的原因,不排除一些人利用信息差故意擡高價格。”

  浙江某大學物理工程專業的大二學生小金,清明節前兩周在线上做AI“復活”親人的兼職。小金告訴記者,他在網上自學了幾天相關技術後,开始在线接單。每單定價37.9元,有時會根據視頻時長調整價格,完成一個單子大概要30分鐘左右,平均每單成本是10多元。

  在用AI技術“復活”親人的領域,與常明和小金主要做合成視頻不同,“超級頭腦”工作室創始人張澤偉,從去年3月起與團隊專注於數字陪伴、數字永生。“數字永生的核心是能交互和對話。”張澤偉表示,至今他的團隊已經爲1500多個家庭“復活”親人,其間一些殯葬行業機構也找到他,希望开展合作,推出逝者數字生命的訂制服務。

  “一位9歲的小女孩病逝後,捐獻了眼角膜等一些重要器官,她的媽媽想讓我們爲這個小女孩定制一個數字生命。我們用一周的時間制作了出來,現在這位媽媽能跟她的‘數字女兒’實時互動,而且隨着模型訓練不斷深入,這個智能體與女兒的思維習慣也會越來越像。”張澤偉告訴記者,他們團隊的訂單價格從上千元到上萬元不等,與去年3月相比,今年的訂單量增長了2倍左右。

  是情感療愈還是重揭傷疤

  對一些人來說,用AI技術“復活”親人,成爲一種新的情感寄托方式。2023年初,知名音樂人包小柏在朋友幫助下,利用大數據語言模型等技術還原了一個能實時響應對話的“數字女兒”。包小柏曾在接受媒體採訪時表示,就個人感受來說,如果不是這項技術,失去愛女的傷口會一直存在,是這項技術讓他可以有一個具象的緬懷。

  用AI技術“復活”逝者,也會涉及一些道德倫理和法律問題。此前,有網絡博主用AI技術“復活”已逝世公衆人物,並在網上傳播。有公衆人物的親屬表示,看到網上傳播开來的“復活”影像,感到不舒適。

  張澤偉告訴記者,他曾多次接到粉絲要求“復活”已逝明星的訂單,但因未經親屬同意,他都選擇了拒絕。

  AI“復活”親人行爲背後的法律底线在哪裏?北京郵電大學互聯網治理與法律研究中心執行主任謝永江表示,按常理講,死者近親屬提供死者的照片、音頻、視頻等個人信息,利用AI技術“復活”親人,只要無害於公序良俗和第三人合法權益,則無可厚非。

  “近親屬一般應是死者的配偶、子女、父母,如果死者生前明確不得使用AI技術對其‘復活’,則任何人均不得實施該行爲。”謝永江補充道,對於“復活”一些逝世的公衆人物,未經近親屬同意,粉絲或商業機構不得擅自利用技術“復活”。如果在利用AI技術“復活”公衆人物過程中,涉及信息非法泄露或交易,則構成違法。利用“復活”的死者形象進行詐騙或制作非法視頻,同樣構成違法。

  把握創新、倫理以及法律間的平衡

  一家深耕AI以及生成式AI領域內容社區的負責人表示,利用AI技術“復活”親人展示出AI技術在滿足人類情感需求方面具有巨大潛力,但同時也伴隨着倫理道德上的一些疑慮。此外,利用AI技術“復活”逝者,必然會用到逝者生前的一些數據,因此不可避免會觸及隱私問題。

  該負責人認爲,在推動這類AI應用時,要把握好創新、倫理以及法律之間的平衡,“既要防止濫用也不能因噎廢食,既要尊重逝者也要確保其使用方式對生者起到健康積極的作用。”

  墾丁律師事務所創始合夥人麻策律師表示,“復活”行爲是人工創造的“永生”,挑战了傳統生死觀念,應當進行倫理審查。從法律層面看,AI“復活”親人可能涉及隱私權和個人信息保護爭議。個人數據被用於訓練數字分身模型,涉及數據採集、使用的知情權和決策權問題。

  謝永江指出,《民法典》規定逝者人格利益受法律保護,不得侵害死者的姓名、肖像、名譽、榮譽、隱私等人格利益。如受到侵害,死者的配偶、子女、父母等近親屬有權依法請求行爲人承擔民事責任。

  “近親屬利用AI技術‘復活’逝者的行爲,屬於私人行爲,不應禁止,但是如果公开展示,則應注明是利用AI技術‘復活’的形象,以免引發社會公衆或利害關系人的誤解。”謝永江說,如果有多個近親屬,原則上應就“復活”行爲達成一致意見。

  “根據我國關於人工智能領域相關法規要求,提供生成式人工智能服務的須進行審查和備案,以確保安全可控,提供類似‘復活’服務也應當納入監管範疇,特別是當相關用戶可能利用該類功能進行詐騙、誤導等行爲時。”麻策認爲,數字永生是全新的社會發展問題,目前沒有明確規則,在此情況下,要加強立法、明確紅线。



標題:AI“復活”親人成生意,哪些紅线待劃定?

地址:https://www.utechfun.com/post/356923.html

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。

猜你喜歡