“AI洶湧”。
作者 | 張語格
編輯 | 趣解商業TMT組
隨着大模型飛速發展，AI應用也逐漸成熟。過去一年，在很多人還在琢磨能用AI來幹啥的時候，已經有不少人靠着AI產品和信息差賺到了“真金白銀”。
不過，在一個個看似“錢途光明”的項目裏，有些引發了倫理爭議，有些是利用噱頭炒作的“僞概念”，還有些，則是實打實的騙局。
01.“數字人”以假亂真，AI換臉成“生意”？
2024年，社媒平台上用AI制作的內容明顯增多。“小貓張嘴唱歌”“甄嬛機關槍掃射四郎”……AI生成內容成爲當下最火的自媒體賽道之一。
有些账號通過Stable Diffusion、midjourney、可靈或即夢生成動漫形象，配上文案，便可收獲大批粉絲關注，隨後通過商務推廣或櫥窗帶貨變現。例如最近迅速漲粉的“人間清醒柒奶奶”“寶藏羅奶奶”等各類奶奶，就成了很多網友的心靈導師和情緒樹洞。
圖源：小紅書截圖
值得一提的是，有的社媒平台檢測出內容是由AIGC生成，會給作品加上“疑似包含AI創作”的提示；然而由於識別難度越來越大，相當一部分AI作品和账號都能逃過檢測。
2024年下半年，有網友稱自己在小紅書上通過账號矩陣管理軟件同時操控1327個AI美女账號，沒有任何一個被平台識別出來。
圖源：微信截圖
如今，很多AI账號仍在受追捧。有用戶直言，“好看就可以了，難道那些真人博主就長得和照片一模一樣？既然都不真實，是不是AI又有什么所謂？”
於是，“AI數字人”成了很多人“牟利”的手段。有信息流從業者表示，自己通過數字人混剪+真人口播做成廣告素材，在各平台投放吸引用戶下單，廣告投放金額越高，帶來的收益也越高，不到四天，便有保健品的廣告素材投放突破了30萬元。
圖源：公衆號截圖
除了用“數字人”，還有人通過“AI換臉”技術冒充名人進行帶貨。國家傳染病醫學中心醫生張文宏此前曾表示，短視頻平台上有很多用AI合成自己臉和聲音的視頻，帶貨蛋白棒等醫藥保健類產品，自己多次向平台投訴，但仍然層出不窮。
AI換臉內容制作成本低，平台監管卻不容易。微信和抖音都曾對使用插件、AI等工具生成虛擬形象直播判定違規或封禁處理。資深產業經濟觀察家梁振鵬認爲，數字人直播帶貨以及數字人账號的監管難點，主要在於如何辨別這些數字人是否真實存在，以及它們所宣傳的產品是否真實可靠；此外，監管機構還需要考慮如何處理涉及名人的仿冒行爲，以及如何平衡保護消費者權益和促進創新之間的關系。
這些用AI合成的“詐騙視頻”瞄准的通常是辨識能力差、警惕性不高的中老年人。除了張文宏，靳東、雷軍等名人，也是經常被“AI換臉”的對象。前段時間，江西宜春一位老年女性就因“靳東”在網絡上向“借錢拍戲”，險些向對方轉過去200萬元。
圖源：微博截圖
2024年10月，香港警方還曾破獲一起AI換臉的“殺豬盤”，通過僞造條件優越的女性吸引男性轉账，涉案金額超過3.6億港元。
隨着視頻生成模型的發展，平台上的內容很可能會更加“真假難辨”。梁振鵬表示，這無疑會加大平台內容監管的難度；未來，監管機構需要不斷提高自身的技術水平，平台也需要積極履行社會責任，加強自我約束和自我管理。
值得一提的是，目前至少有60多個國家制定和實施了人工智能治理政策，我國《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》等規定的相繼落地，也讓剛性治理有了更多具體抓手。
02.智能家電、AI玩具...“沾上”AI就漲價？
2024年是大模型卷應用、卷落地的一年。學習機、眼鏡、玩具、甚至牀墊，都紛紛做起了“AI+”，強調自身的“智能化”和“陪伴感”。然而，限於技術的成熟度，過去一年大部分搭載AI的硬件或產品實際上並未帶來顛覆性的使用體驗。
此前，遠程控制、網絡連接、自動識別與控制是家居產品主打的智能化功能，AI概念火了後，家居產品爭相在AI上“整活”：牀墊內置AI算法，能根據不同的人體曲线調整高度；洗衣機集成AI智能投放系統，能根據衣物的重量與髒污程度，自動調整洗滌劑的用量……
然而，在很多消費者看來，這些家電的AI功能解決的並不是核心痛點，而且實際使用上也達不到宣傳中的智能。某品牌AI牀墊的用戶表示，護腰氣囊晚上間歇性打氣噪音不小，睡眠監測時間也不太准確，“感覺像是交了智商稅”。
圖源：微博截圖
家電行業分析師劉步塵表示，目前家電與AI的結合仍處於初級階段。“過去十幾年，家電產品基本上完成了從功能型家電向智能化家電的轉變，但家電產品功能需求的本質未變，對AI的要求沒有想象的那么緊迫，所以家電也很難成爲AI技術應用的典範。”
體驗升級不多，但不少融合AI概念產品的價格卻先漲了上來。有售賣卡薩帝AI冰箱的銷售人員對“搜狐財經”表示，目前AI其實和智能沒有什么區別，暫時還做不到幫助用戶識別食材、記錄保鮮、臨期提醒等等。然而，其店內兩款AI冰箱產品售價分別爲6.9萬元和10萬元，相比之下不帶智能大屏的同類型冰箱價格大約2萬到3萬；由此計算，“AI冰箱”的溢價能達到2至5倍左右。
圖源：微博截圖
除了家電，面向兒童、青少年群體的玩具、學習機等產品，結合AI概念後的價格也出現了明顯的上漲。
有AI玩具的從業者對新媒體“Tech星球”表示，毛絨AI玩具的硬件成本一般只佔到產品售價的十分之一，甚至更低，其搭載的AI方案才是這類玩具賣到幾百元、上千元的關鍵。
然而，玩具的AI對話功能也是“見仁見智”的地方。有家長表示，AI玩具能回答孩子的“十萬個爲什么”，很省心；但也有家長認爲，目前所謂的AI功能還配不上這個價格。Haivivi（躍然創新）的一款佩戴式AI玩具的評論區裏，有消費者表示，玩具的價格比天貓精靈還貴了不止一倍，但只有對話功能正常使用，播放音樂和講故事的功能都不能滿足孩子需求。
圖源：淘寶截圖
互聯網分析師張書樂曾對“貝殼財經”表示，目前的AI玩具的價值整體上仍然在對話上體現，AI玩具所能提供的教育能力依然還不足以達成真正的教育意義。盤古智庫高級研究院江瀚則認爲，AI玩具的優勢在於能夠結合玩具的趣味性和AI的交互性，未來要解決互動體驗和內容創新的問題，使AI玩具能夠更好地理解和回應兒童的指令和情感。
03.AI培訓課，“小白”最好“割”？
每次有新技術出現，比應用跑得更快的往往是“教你如何用”的培訓課程。2024年，AI相關的課程層出不窮，甚至有從業者直言，任何行業都可以用AI來做一遍知識付費。
AI付費課裏最熱門的，要屬以AI繪畫、視頻創作爲主的AI工具應用類課程。這類課程主要面向渴望提升工作技能和發展副業的年輕人，課程價格大多在千元以上，也是被吐槽“割韭菜”的重災區。
圖源：小紅書截圖
社交平台上很多網友都提到，付費課裏的知識、教程在B站和知乎等都能找到類似的免費內容，這些培訓機構大多只是將免費的素材和教程進行系統整合，其實賺的還是“信息差”的錢。
不擅長信息檢索、又很少體驗知識付費的“小白用戶”，很容易被包裝高大上的課程海報和話術吸引；有網友表示，想報AI課程的主要原因是覺得有老師能答疑，上課互動性更好。這類更習慣傳統教學方式的用戶，也是各類AI付費課程的主力。
小白們學習新技術的需求，養活了不少培訓機構。2024上半年，清華博士李一舟因爲違規售賣AI工具類培訓課程被封禁，如今仍有人在這一賽道悶聲賺錢。
“趣解商業”觀察到，如今仍有不少教AI制圖、視頻創作的課程宣稱結課後給學員提供商單幫助變現。例如，有機構的AI繪畫相關課程，價格高達5880元，助教表示，如果順利完成課業測試，學完後100%能接到商單。
圖源：微信截圖
“趣解商業”發現，商單包括室內設計、AI電商換裝圖等多種類型的需求，每單價格在20-30元左右；由此計算，要完成將近近200單需求才能回本學費。對有全職工作的學員而言，這顯然是件相當考驗耐力和興趣的“副業”；還有單親媽媽表示，其實並沒有想象中好學，除了AI工具，也要會用PS，課時和學習時間都比想象中要長，暫時還沒能力接單變現。
在“黑貓投訴”平台上，消費者投訴AI培訓機構的案例層出不窮，大部分均是針對交費後“老師找不到人”、被誘導付費後難退款、與承諾的效果不符等問題。
04.套殼AI騙融資，“熱錢”湧向大模型？
如果說AI知識付費只是“割韭菜”的初級手段，那用AI概念來圈錢、騙融資，絕對稱得上這一領域的“高級騙局”。
2024年，不止一家AI科技公司被曝出財務造假、業務注水。
近期，美國AI教育科技公司AllHere的創始人兼CEOJoanna Smith-Griffin因涉嫌證券欺詐、電匯欺詐和嚴重身份盜竊被批捕。該公司主推促進家校溝通的聊天機器人，自2020年11月啓動A輪融資以來，直至公司於2024年6月倒閉，其創始人一直向投資者傳遞虛假的財務信息，誤導他們對公司的收入、客戶群體以及現金儲備情況。
圖源：微博截圖
早在2024年6月，國內一家名爲“極目銀河”的AI領域明星創業公司“財務爆雷”，CEO陳群在自己租來的別墅中留下一封自白信後消失，信中寫道：“（我）是個詐騙犯......（公司）合計有62億的資金缺口”。根據“36氪”報道，這家公司套殼AI等多個數字科技業務以吸納融資，實際上，公司多年來一直都沒有成熟的產品和業務，項目逐漸無法通過融資獲利，最終整個公司走向破產。
圖源：微博截圖
隨着大模型賽道競爭日益激烈，不少創業公司都被“卷”進了牆角。有從業者表示，2024上半年，投資市場還在爲爭搶大模型創業公司的份額頭疼，到了年底，大模型投資人討論的話題已經變成了“如何賣掉部分手裏的大模型創業公司股份？”
有參與過大模型企業融資的投資人對新媒體“Tech星球”表示，比起過去投資看好技術、前景、團隊就入手的邏輯，不少機構的內部決策周期越來越長，還會反復計算、評估新錢投出去的回報率。2025年，大模型賽道的融資或許會更加嚴峻。
新技術帶來變革的同時，也會引發亂象和假象。從虛擬人引發的倫理與詐騙問題，到產品借AI之名的價格虛高，再到AI培訓課程的良莠不齊以及創業公司的騙融資行徑，都在提醒着從業者和消費者“AI洶湧”。比追逐浪潮更重要的，是保持清醒––不被短期的利益蒙蔽，也不被誘人的噱頭牽着走。
原文標題 : 2024年，多少人被AI“割韭菜”？
標題：2024年，多少人被AI“割韭菜”？
地址：https://www.utechfun.com/post/463652.html