作者：小巖

編輯：彩雲

12月19日，抖音官方發布了一則重要公告，宣布將嚴厲打擊包括AIGC在內的6種新型違規行爲。所謂AIGC，指的就是當下發展勢頭正勁的生成式人工智能。之所以要打擊AIGC，其實是爲了重點打擊新型養號行爲。

抖音志在打擊黑灰產，而AIGC造假成了繞不過去的“路障”。

事實上，抖音此次重拳出擊的主要目的是打擊黑灰產業違規“漲粉養號”的行爲。因爲抖音在日常巡查中發現，很多黑灰產組織正視圖通過AIGC造假，盜取他人直播內容並加以剪輯，以官方名義公布培訓課程等方式，批量發布低質量的違法違規內容，並試圖以此達到快速漲粉，養號的目的。

其中，利用AIGC技術創建虛擬人物，使其冒充真人進行直播便是其中最典型，最常見的一個。如果你有刷短視頻的習慣，就一定曾刷到過虛擬人在直播或是在說話的內容。他們或是仿照真人主播一樣進行虛擬帶貨，或是在那裏大談特談情感雞湯，知識科普，理財致富等方面的內容。

相較於真人主播實打實的進行直播帶貨或者發布內容，用虛擬人來完成這些工作就顯得輕松許多。試想一下，真人主播很難進行時長爲8-10小時的直播，這個工作強度高負荷到難以想象，但虛擬人不存在無法適應高強度工作的問題。即便不進行流量投放，單靠拉長直播時長這一點，也足以完成養號漲粉，爲粉絲進行人群畫像，從而獲得更精准的新客的目的。即便虛擬人的直播實績沒有真人理想，即便虛擬人的直播間只有幾十人或十幾人，也依然不乏支付訂單和評論區留言的出現。

抖音曾出手堵AIGC的漏洞：顯著標識，後果自負。

事實上，這並非抖音第一次對AIGC提出規範和要求。

早在今年5月9日，抖音官方曾發布消息，首次對AIGC提出平台規範和行業倡議。敲重點來說，其中有兩方面的內容很關鍵，也格外引發關注。一是對AIGC內容的標注，二是虛擬人的注冊認證。

先來說說對AIGC的標注，簡單來說就是要“貼水印”。

抖音在相關規範裏明確表示，包括AI寫作，AI文字編輯，AI語音合成在內的，有可能造成混淆的深度合成服務，都要明確的打上水印，做出標注。不管你使用的是今年大火的ChatGPT，Midjourney，國內的文心一格，文心一言等文字和圖片生成產品，還是魔音工坊等語音生成類產品，都在“做標注”的範疇裏。對於標識方法，簡單來說，就是要在各類圖片和視頻文件的“左上角”打上“AI生成”的字樣，以及使用的生成工具的名稱與公司名水印。

對於抖音要求的“貼水印”，多數服務商的反應較爲樂觀，普遍覺得加上水印不會影響內容的傳播，反而能達到以正視聽，確保真實性的目的。很多人認爲“這是非常正確的決定”，也必將會在未來“成爲常態”。

相比於AIGC內容的標識，虛擬人的情況就復雜了許多。

彼時，抖音在公告中明確提出，支持虛擬人發展，但虛擬人需要認證，並且禁止完全無人的AI直播。根據用途，抖音上的虛擬人可爲兩類，一類是“娛樂型”的虛擬主播；一類則是功能型的虛擬人，最直觀的就是那些需要完成直播帶貨目標的虛擬人。

不過，對於虛擬人直播帶貨的行爲，用戶們並不算太买账。觀看直播的用戶們會覺得與真人主播相比，虛擬人的直播內容質量較差，語言木訥，毫無新意可言。對於廣大商家來說，利用虛擬人帶貨也並非上上籤的選擇，虛擬人不僅很難完成KPI，實現創收，還容易被平台判處違規。

事情的發展的確如此。時隔半年之後，抖音官方提高了門檻和要求，直接提出了“禁止AIGC造假”的要求，向AIGC亮出來了明牌。算是進一步明確了抖音官方的立場和屬性。

抖音率先雷霆出擊，或許會成爲行業的風向標。

ChatGPT打开了人工智能的新大門，讓我們見識到了人工智能的強大，與此同時，相應的潘多拉魔盒隨之开啓。

隨着技術的不斷成熟，AIGC逐步從概念階段走向實際落地階段，爭議和風險也就應運而生。一段時間以來，關於人工智能生成內容以假亂真，數據泄露以及侵權的案例頻頻出現，也就進一步放大了人工智能可能社會造成的危險。

如今的AIGC在短視頻賽道被廣泛應用，創作者，主播，用戶，商家，廣告主等平台生態參與者無一例外，都會涉及到AIGC。這也是抖音率先出擊，出台相應的行業規範的重要原因。

監管和創新技術，創新模式之間永遠存在着“跟”和“被跟”的關系。一定會先有技術，然後產生風險，繼而產生規範的必要。有了監管，行業的發展會朝着更有利的方向發展。

當然，規範的出台並不意味着一勞永逸。在執行監管的過程中，我們仍然會遇到實際上的問題。譬如該如何進行具體的責任界定？該如何進行取證？但無論如何，對於人工智能的監管已經提上日程了，這是十分值得欣慰的。

       原文標題 : 新火種AI|抖音對AIGC亮明牌！AI虛擬人帶貨或將面臨最大危機...

---

標題：抖音對AIGC亮明牌！AI虛擬人帶貨或將面臨最大危機...

地址：https://www.utechfun.com/post/310336.html