資訊操弄不是新聞，但有 AI 輔助的資訊操弄，會讓情況愈來愈嚴重。據微軟，Facebook 最新發布報告驚爆，正值 2024 總統大選的台灣，也經歷著融入人工智慧科技的新型攻擊手法。我們該怎麼應對？

近期微軟和Facebook分別發布報告，分享兩間企業對資訊操弄（information operation）和網路攻擊（cyber attack）的觀察。

兩間科技巨頭不約而同提到中國，以及受到資訊與網路攻擊的台灣。盤點兩份報告，有幾個共同出現的趨勢值得參考。

第一，發布資訊操弄內容的平台不再侷限於主流社群媒體，Facebook、YouTube以外，規模較小的論壇和分眾網站例如Medium、Quora都有操弄者足跡。

第二，操弄者將資訊翻譯為更多語言、拓展到更多國家，擴大資訊操弄打擊面。

第三，資訊操弄者開始利用生成式AI產生高品質內容以假亂真，藉此在社群媒體上獲得流量。

微軟：生成式人工智慧AIGC成資訊操弄助力

微軟今年9月發表報告，以「」為題，點名中國和北韓採取的網路攻擊與資訊操弄。

就目標群眾來說，中國鎖定南海（South China Sea ）周邊國家與美國，前者以台灣所受侵擾最多。中國主要針對政府部門、軍事單位以及和重要基礎設施相關企業進行網路攻擊，尤其聚焦電信業者。報告中特別點名台灣被駭客組織Flax Typhoon與Charcoal Typhoon鎖定，前者瞄準電信通訊、教育、資訊科技和能源基礎建設，後者則強攻教育、能源以及高科技製造業，且兩者在2023年都對準與台灣軍方有關的太空實體展開攻勢。

以資訊操弄來看，微軟觀察，中國活動規模變得更大、效果變得更好，不僅觸及更多如你我一樣的真實帳號，且不斷向新平台與新語言擴張版圖。中國一邊在社群媒體散播資訊，一邊則以官媒宣傳，雙管齊下增進效果。

微軟報告中還提到，現在中國的資訊操弄者借力AI生成圖像，品質已經不再像之前那麼粗製濫造，在社群媒體上能夠獲得更多迴響，藉此影響受攻擊對象的輿論。此外，相同內容出現多語版本，側面反映出，隨著機器翻譯成本降低，不只有意進軍海外市場，同時方便惡意利用者更快傳送虛假訊息。

▲ 由中國操控一個機器人帳號上傳高品質的圖文後，不久後就被美國保守派分享。（Source：）

Facebook直指背後有中國執法人員

在Facebook發表的「惡意威脅」季度中，Facebook找出土耳其、俄羅斯和中國等不同群體的資訊操弄。其中，Facebook觀察，中國資訊操弄帳號展現出幾個特色：有明確中央指揮、從分眾小平台開始操作、作法與俄羅斯先前資訊操弄相似、聲量高但觸及率低，此外，Facebook直指背後為中國執法人員（law enforcement）。

報告中提到，資訊操弄帳號地理位置分布在中國全國各地，但展現出中央下令、四處互相配合的協調行動（coordinated behavior）。此外，就跟一般上班族一樣，每個小群體彼此有明顯輪班模式，北京時間上午和下午帳號會出來運作，午餐和晚餐時間還會暫時休息，晚餐後會再有一波高峰。

另外，因為主流平台如Facebook、YouTube都有針對自動發文帳號與異常行為設計反制偵測系統，讓帳號操弄變得困難，因此Facebook觀察到，資訊操弄者改從規模較小的平台與論壇開始發文，再到大平台上轉貼訊息。

▲ 敦促蔡英文投降書假訊息，中國資訊操弄遍及分眾平台，包含Quora、Medium和Pinterest，文內則有連結連自YouTube。（Source：）

不過，和微軟報告不同之處在於，中國的資訊操弄行為成效不彰，粉絲專頁的追蹤者大多都不是目標受眾，反而以巴西、孟加拉和越南為主，且這些追蹤者大多不是真實帳號，就連互動都是虛假的。根據Facebook統計，一共刪除7,000多個Facebook帳號、900多個粉絲專頁、15個社團，這些帳號共有約56萬追蹤者。Facebook猜測，這些粉專應該是從垃圾訊息營運商買來，因此成效不彰。

另外，Facebook認為這次操弄和先前就曾發現的垃圾訊息網絡「Spamouflage」是同一群人，操作手法上和俄羅斯資訊操弄者接近，而且「Spamouflage」背後有中國執法者的身影。

那麼，面對AI加劇資訊操弄挑戰，應該怎麼應對？喬治亞理工學院助理教授邱杜裏（Munmun de Choudhury），至少有幾件事情能做：確認圖像和影片當中是否有AI生成內容的常見謬誤、考慮訊息發布來源的權威性、額外花時間詳細查核。

不過，這些從閱聽人角度作出的努力，隨著生成式AI興起、相關工具向大眾開放以後，可以想見資訊操弄成本將會降低，且內容將會變得更加可信，因此從閱聽人角度來看必定會更難防範。微軟在報告結尾指出，中國不會停下腳步，會繼續利用網路間諜行為滿足其地緣政治目標，閱聽人必須保持高度警覺。

（本文由 授權轉載；首圖來源：sutterstock）