不久前ChatGPT突然走紅，用戶量迅速增加，很多人驚呼“生成式AI”革命已經到來，但最近幾個月它的熱度似乎在下降，用戶量增速已經明顯放緩。

TheVerge撰文稱，生成式AI必然會在科技史上留下一筆，但它帶來的消極影響也的確值得我們重視。

什么消極影響呢？有人用ChatGPT生成垃圾網站，網上到處都是AI生成的垃圾；聊天機器人勾連在一起，引用彼此的誤導信息；Snapchat和Instagram等社媒都希望用機器人陪你聊天……

關鍵的是，舊網絡正在死亡，但新的網絡還在掙扎，還沒有出生。

網絡的死亡與重生

網絡一直在死亡中重生，比如APP改變了流量走向。2023年網絡再次走向死亡，這一次有了新元素參與，它就是AI。

多年前，網絡還是個體的天下，個體用戶制作主頁、論壇、郵件列表，金錢湧入，然後企業加入進來，創建功能豐富的平台，讓每一個人都可以加入進來。現在AI正在改變舊格局。

有了金錢和算力，AI系統可以輕松擴張。AI生成文本和圖片，很快將會制作音樂和視頻。以前我們依賴新聞、信息、娛樂，它們創造了海量內容，但很快AI創造的內容數量可能會遠遠超過它們。

可惜，目前的AI系統仍然不夠“聰明”，質量低劣，還是“寄生蟲”。訓練AI的數據來自舊時代，AI只是進行了再創造，這種創造還不完美。AI生成的內容不太可靠，系統還沒有成熟，AI就與之前的舊平台展开了用戶注意力的爭奪。

內容平台首鼠兩端

在美國，有些AI公司通過API獲取Reddit數據，導致Reddit准備提價，讓它們支付更多使用費。RedditCEOSteveHuffman說：“Reddit數據庫很有價值，我們不會將所有價值免費提供給一些大企業。”

Reddit准備今年年末上市，它想從平台中挖掘更多價值。AI企業瘋狂抓取數據，這是機會，也是威脅，有人擔心互聯網企業可能會重新思考平台的开放性問題。

以前谷歌抓取維基百科信息不用付錢，但現在要付費了。維基百科對AI內容持雙重看法，AI生成內容速度快，覆蓋範圍廣，這是優點，但它們往往存在誤導。

去年ChatGPT推出後沒多久，StackOverflow就給予“封殺”待遇。主要問題在於ChatGPT在一般情況下看起來很好，答案也容易生成，但出錯率太高，要給結果排序太費神了，所以幹脆禁止。

但後來StackOverflow又改變態度，擡高了用戶發布AI內容的門檻，讓他們承擔更多舉證責任，不再封殺。StackOverflow也准備向抓取數據的AI公司收費。版主認爲AI內容不可信，但StackOverflow高管覺得冒點險是值得的。

谷歌選擇至關重要

最值得的關注的可能還是谷歌的態度。谷歌搜索是現代網絡的支柱之一，它將注意力、金錢分散至龐大的網絡。看到必應AI和ChatGPT走紅，谷歌搜索感受到威脅，它正在做實驗，想在搜索結果中增加AI內容，如果計劃順利推廣，影響將是巨大的。

Tom’sHardware主編AvramPiltch認爲，谷歌新开發的系統從本質上講是一個“剽竊引擎”。AI生成的內容許多時候是從網絡一字不動抄襲的，谷歌有時將這些抄襲的內容放在源鏈接之上。

如果谷歌新引擎真的全面推廣，將會嚴重損害整個互聯網。未來那些財務欠佳的網站可能會倒閉，谷歌將耗盡人工生成內容，最終殺死創造價值的生態系統，或者以不可逆的方式改變生態系統，然後反受其害，威脅到自身生存。

綜上，如果我們放任AI內容肆意傳播將如何呢？從目前的證據看，網絡內容的質量會降低。AI雖然有能力重新組合文本，但創造底層數據的依然是人。

AI創造的內容有許多錯誤，這些錯誤很難被發現，它生成的誤導信息非常“狡猾”，這些信息並非依賴對真實世界的體驗生產，發現其中的錯誤需要時間，需要專業知識。

人類也會制造許多誤導信息，但人類專業知識生存的平台仍是積極力量，如果它們被AI系統擊潰，未來想糾正錯誤將會變得更加困難。

---

標題：銳評：如果任由低質AIGC內容泛濫 互聯網生態系統將會被摧毀

地址：https://www.utechfun.com/post/232919.html