近日，一些短視頻平台湧現了大量某知名企業家吐槽的視頻。在視頻中，該企業家對堵車、調休、遊戲等熱門話題進行了調侃和銳評，甚至還有不雅詞匯穿插其間，引發網友熱議。

　　事實上，那些吐槽視頻並非該企業家本人在發聲，而是由網友利用AI軟件採集該企業家原音生成的配音，但逼真的效果讓不少人信以爲真。

　　AI的發展爲生活帶來了許多便利，但一些亂象也引發質疑。以AI語音合成技術爲例，只需要打开軟件、動動手指，一條以假亂真的配音視頻就能新鮮出爐。然而，有的視頻越過了开玩笑的邊界，“偷走”他人聲音進行惡搞、造謠，帶來了惡劣的社會影響。

　　20秒就能生成一條AI音頻

　　記者在社交軟件上檢索AI配音發現，不少用戶發布了相關視頻的生成教程。其中，大部分視頻的配音都源於某擬真語音大模型應用。

　　在該應用網站上，創作者上傳任意人物的一段音頻作爲訓練素材，隨後AI通過學習可克隆出一個聲音角色。網站中的其他用戶只需輸入文本，便可以使用該聲音生成內容。

　　按照該網站的使用指引，記者添加了上述知名企業家的聲音角色，輸入一段100字的文本，然後點擊“开始生成”，約20秒，一條與該企業家聲音相似度極高的AI音頻就生成了。記者發現，截至目前，該聲音角色已被使用79.9萬次，生成字符數達4455.5萬個。

　　被“偷走”聲音的公衆人物還有不少。今年9月底，一段據稱是某直播平台老板盧某某的酒後錄音在網絡上流傳，整體呈現出盧某某對於消費者的傲慢態度，以及對相關人士的不尊重表達，爲該平台招致了不小的爭議。後警方調查發現，音頻內容不實，系大模型僞造而成。

　　一位業內人士告訴記者，通過模仿音頻樣本的語調、語速、情感、口音、發聲方式等特徵，AI技術已經能夠高度還原音頻樣本的聲音，達到人耳和其他鑑定方式難以區分的程度。

　　“從早期的‘一眼假’到如今的‘真假難辨’，AI的發展進入了‘深度僞造’時代。”中國社會科學院大學法學院副教授、互聯網法治研究中心主任劉曉春向記者表示，在未經過授權、未進行標注的情況下，用他人聲音制作AI語音產品，尤其是“借用”公衆人物的聲音，很容易引起誤解，這不僅會侵害個人信息安全，還可能擾亂網絡空間生態秩序。

　　濫用他人聲音侵犯人格權

　　當前，不少網友在合成他人的AI音頻時，僅抱着娛樂心態，並沒有意識到背後隱藏的法律風險。記者注意到，在一條“AI配音教程”視頻的評論區，有學員提問“這樣不侵權嗎”？

　　博主回復稱：“大家都在做，如果提示違規，刪了就行了。”

　　對此，北京盈善律師事務所律師張清鑫分析稱，與“肖像”類似，自然人的聲音具有唯一性、獨特性，是自然人人格的重要組成部分，聲音權益是人格權的一種。制作並上傳他人AI音頻的行爲，無論是出於商業目的還是娛樂目的，都已構成對其人格權的侵犯。如果配音內容違法或違反公序良俗，可能侵犯他人的名譽權。

　　據了解，今年4月，北京互聯網法院一審开庭宣判了全國首例AI生成聲音人格權侵權案。該案中，配音師因認爲自身作品被短視頻平台利用AI生成語音產品，嚴重侵犯了自己的聲音權益，將短視頻平台及制作方等5家公司訴至法院，最終原告獲賠經濟損失25萬元。

　　在審理過程中，被告公司辯稱，人工智能合成後的聲音產品，與自然人聲音在人身權屬性上有所區別，目前技術都會對人工智能合成聲音進行水印標記，切斷了人工智能合成聲音與自然人聲音之間的聯系，不會產生對應自然人的人格屬性。而法院認爲，AI聲音與原告聲音具有高度一致性，能夠引起一般人產生與原告有關的思想或感情活動，能夠將該聲音聯系到原告本人。在具備可識別性的前提下，自然人聲音權益的保護範圍可及於AI生成聲音。

　　“該判決對於釐清和把握AI生成聲音的邊界具有指導意義。”劉曉春說。

　　治理手段要跟上科技步伐

　　清華大學新聞與傳播學院新媒體研究中心今年4月發布的一份研究報告顯示，近一年來，經濟與企業類AI謠言量增長99.91%。受訪專家表示，法律法規和治理手段要跟上科技發展的步伐，對AI技術的應用進行明確的約束，引導科技向善。

　　張清鑫認爲，AI語音應用工具提供方不能“置身事外”，而是要把好第一道關，強化對源頭素材的把控和對生成內容的監管，完善運營規則，並在出現問題時積極配合有關部門，追溯違法音頻的生成源頭。

　　今年9月，國家網信辦發布的《人工智能生成合成內容標識辦法（徵求意見稿）》提出，提供網絡信息內容傳播平台服務的服務提供者應當採取措施，規範生成合成內容傳播活動。包括提供必要的標識功能，並提醒用戶主動聲明發布內容中是否包含生成合成內容等。

　　“作爲內容傳播的服務提供者，短視頻等傳播平台應盡到相關義務。”劉曉春建議，除了提示用戶進行標識以外，平台也應對AI生成內容建立甄別和追蹤的機制。如果發現涉嫌僞造的內容或者接到相關投訴，應當要求內容發布者及時對僞造內容進行標識，在不標識的情況之下，可以根據平台規則刪除內容，造成嚴重後果的可以進行禁言、封號等處理。

標題：濫用公衆人物聲音惡搞，AI技術應用“玩過界”被質疑

地址：https://www.utechfun.com/post/438075.html