「媽媽救我!」30 秒錄音就能模擬人聲,你真的能識破 AI 詐騙嗎?

2023-09-11 08:00:00    編輯: 商業周刊
導讀 從 ChatGPT 興起的人工智慧熱潮,讓許多人大大感受到 AI 工具的便利。然而水能載舟亦能覆舟,AI 技術發展日益成熟,利用 AI 詐騙也層出不窮,更以「深偽技術」(Deepfake)詐騙最猖獗...


從 ChatGPT 興起的人工智慧熱潮,讓許多人大大感受到 AI 工具的便利。然而水能載舟亦能覆舟,AI 技術發展日益成熟,利用 AI 詐騙也層出不窮,更以「深偽技術」(Deepfake)詐騙最猖獗。

彭博最近專題報導Deepfake犯罪潮,這種能複製臉的AI技術效果逼真,消費者根本無從分辨,最近這波AI爆炸式成長使Deepfake詐騙又更上層樓,AI詐騙全球造成巨大財務損失,更引起監管機構、執法部門與金融產業注意。

AI擬聲連爸媽都騙倒

澳洲聯邦銀行(Commonwealth Bank of Australia)詐欺管理主管羅伯茨(James Roberts)表示,他為數500人的團隊曾花好幾天時間監聽詐騙集團,並蒐集到利用Deepfake技術犯罪的第一手資料。

模擬受害人的親朋好友聲音勒索已不新奇。羅伯茨透露,現在Deepfake技術複製小孩的聲音惟妙惟肖,犯罪集團會透過AI複製小孩聲音,再打給父母討錢,這種詐騙成功機率不但相當高,且技術成本也低。

社群平台還不盛行年代,普通電話詐騙相當容易識破,可如今大家都活在社群軟體,只要用點心,不難「肉搜」到受害者的親朋好友與同事。詐騙集團還能從Facebook、IG等平台知道你住哪、上班地點,以及讀過哪間學校。

羅伯茨透露,只要詐騙集團從社群平台短影音或語音簡訊「下載」一段聲音,最短只要30秒,就可用AI語音合成工具「複製」某人聲音,甚至產生各種內容,讓受害家屬根本察覺不出來。彭博警告,這種稱為「社交工程陷阱」(social engineering scams)的詐騙手法受AI技術加持後更防不勝防。

這波犯罪潮不只衝擊個人也影響金融體系,澳洲與德國銀行業者皆向彭博坦言,現在詐騙集團規模就像企業,甚至會花數月只為計劃一場詐騙。

為了防範這波AI詐騙,澳洲聯邦銀行與德意志銀行(Deutsche Bank)紛紛部署新軟體與AI模型工具,監控客戶線上交易,如果出現不尋常金流或任何可疑情形,就會特別注意。羅伯茨分享一項資料,讓大眾了解銀行業者面臨的挑戰。他表示,現在澳洲聯邦銀行追蹤的潛在詐騙事件約8,500萬件,澳洲人口只有2,600萬。

美國聯邦貿易委員會主席卡恩(Lina Khan)6月還示警執法機構,稱AI技術會被不肖業者「升級」詐騙手段,呼籲執法人員提高警惕。據統計,2022年美國消費者遭詐騙損失金額逼近88億美元,與2021年相較高44%,今年全球含詐騙的網路犯罪,損失成本更達8兆美元。

這數字有多誇張?彭博比喻,這數字超過日本GDP,研究機構Cybersecurity Ventures數據,到2025年更達10.5兆美元,與十年前相比,足足成長逾兩倍多。

希恩(Chris Sheehan)加入澳洲國民銀行前,曾在警察部隊工作近30年,負責調查詐騙事件,他表示,面對層出不窮的AI犯罪事件,即便有解方,但永遠無法完全解決問題。

Deepfake詐騙怎麼防?善用三招破解

有些公司會用更高階技術檢測工具防範Deepfake詐騙,合成數據平台提供商Synthesis AI執行長兼創辦人Yashar Behzadi表示,越來越多使用3D合成數據,開發更複雜的臉部驗證模型。這些模型使用3D、多感測器和動態面部資料辨識檢測。

只是無論政府或公司技術有多好,詐騙集團偽造技術也會跟著提高,可謂「道高一尺,魔高一丈」。詐騙橫行的時代,科技發展超出我們認知,因此更要懂得如何靠「觀察」分辨Deepfake詐騙。

美國資安公司Pindrop建議,消費者應謹慎對待任何要求個人資訊的電話,無論是否為親朋好友或上司,只要涉及金融交易,就必須再三確認電話來源為真。只要電話聲音出現三種跡象,很可能就是AI偽造的聲音,建議再三確認,盡早察覺破綻避免被騙:

  1. 有長時間停頓和聲音失真跡象。
  2. 出乎意料的轉帳要求。
  3. 要求對方提供更多資料佐證消息虛實。

(譯者:陳宜伶;本文由《》授權轉載;首圖來源:)

延伸閱讀:



關鍵字: , ,


標題:「媽媽救我!」30 秒錄音就能模擬人聲,你真的能識破 AI 詐騙嗎?

地址:https://www.utechfun.com/post/260946.html

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。

猜你喜歡