人工智慧時代 Deepfake 色情氾濫,女性受害深

2023-08-11 08:20:00    編輯: 中央廣播電台
導讀 人工智慧(Artificial Intelligence,AI)衍生的深度偽造(Deepfake)技術日趨成熟普及,簡便易得,可創作藝術品,協助設計,但也有黑暗面,如拿肖像做成色情圖片或影片,女性受...


人工智慧(Artificial Intelligence,AI)衍生的深度偽造(Deepfake)技術日趨成熟普及,簡便易得,可創作藝術品,協助設計,但也有黑暗面,如拿肖像做成色情圖片或影片,女性受害最深。

深偽色情助長性勒索

人工智慧技術越來越強大、機器學習不斷突破,「深度學習」(Deep Learning)加上「偽造」(Fake),造成「深度偽造」。AI專家警告,深度偽造技術日趨成熟,只要一台可上網電腦,隨時隨地都能「弄假成真」,做出難辨真假的動態畫面和聲音。

有些照片應用程式會以數位方式脫掉女性衣服,性化文字到圖像,創建「人工智慧女孩」(AI girls),並操縱圖像助長「性勒索」詐騙。

深偽通常與知名人士假病毒圖片有關,如白色羽絨衣的教宗方濟各(Pope Francis),以及美國前總統川普(Donald Trump)被捕照。但專家表示,深偽更廣泛用於產生摧毀普通生活、未經同意的色情內容。

人工智慧工具和應用程式免費提供,不需高深技術知識,使用者都能以數位方式剝掉照片的女性衣服,或將臉換入色情影片,女性特別容易成為目標。

賓州大學專門追蹤圖像性猥瑣的研究員馬多克斯(Sophie Maddocks)指出,「人工智慧產生的色情和深偽色情,使未經同意使用女性形象或肖像的行為更正常化。當社會幾乎可任意剝去任何女性的衣服時,我們同意發出了什麼訊息?」

超真實且幾可亂真

一支淚流滿面的影片,名叫「QTCinderella」的Twitch直播主,控訴自己成為深偽色情的受害者,道出對女性的「不斷剝削和物化」。Twitch是美國影片串流媒體服務平台。

這事件1月爆發。當時直播主尤因(Brandon Ewing)發現直播時觀看幾名女性的深偽性圖像,就包括QTCinderella。QTCinderella在Twitter(現改名X)發文,「這不僅像受侵犯那麼簡單。遠不只如此」,她說這段經歷毀了她。

網路深偽激增突顯人工智慧假訊息的威脅,可能損害聲譽並導致霸凌或騷擾。雖然知名歌手泰勒絲(Taylor Swift)和女演員艾瑪‧華森(Emma Watson)等一直是深偽色情片的受害者,但現在不是公眾人物的女性也成為目標。

美國和歐洲媒體常有女性第一手證詞,從學者到活動人士,震驚發現自己的臉出現在深偽色情片。荷蘭人工智慧公司「Sensity」2019年研究,約96%網路深偽影片是未經同意的色情內容,大部分描繪女性。

AI風險評估公司「Blackbird.AI」情報總監杜菲爾德(Roberta Duffield)指「以前發生在某人腦中幻想的私人行為,現在轉移到現實世界技術和內容創作者。容易取得和缺乏監管,加上該行業日益專業化,使這些技術鞏固成為剝削和弱化女性的新形式」。

法律監管應迎頭趕上

杜菲爾德說,由於技術進步,AI色情「不斷擴大成為家庭工業」,許多深偽創作者接受付費要求製作影像,可把任何人化為性幻想對象,或用科技傷害前伴侶。

美國聯邦調查局(FBI)6月公布「性勒索計畫」警告,詐騙者從社群媒體截取照片和影片,創造「性主題」深偽內容,然後勒索錢財,受害者甚至有未成年兒童。

人工智慧工具激增,超越當局監管能力。

人工智慧品牌保護公司「正義」(Ceartas)執行長兼創辦人普賽爾(Dan Purcell)指出,「這不是創造和共用圖像的網路黑暗角落……它就在我們眼皮底下。是的,法律需要迎頭趕上。」

英國政府提出新網路安全法案,把分享色情深偽內容定為刑事犯罪。美國加州和維吉尼亞州等四州禁止傳播深偽色情內容。但如果住在這些地區以外,受害者通常幾乎沒有法律追訴權。

5月美國國會議員提出「預防親密圖像深度偽造法案」(Preventing Deepfakes of Intimate Images Act),將把分享未經同意的深度偽造色情內容列為非法。Reddit等廣受歡迎的社群媒體,也試圖規範蓬勃發展的人工智慧色情愛好者。

普賽爾說:「網路是沒有國界的司法管轄區,需要有統一國際法,保護人們免受這種新形式剝削。」

(本文由 授權轉載;首圖來源:)

延伸閱讀:



關鍵字: , , , ,


標題:人工智慧時代 Deepfake 色情氾濫,女性受害深

地址:https://www.utechfun.com/post/248338.html

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。

猜你喜歡