洛杉磯華人資訊網綜合多家媒體報道隨着“AI換臉”技術的廣泛應用,涉及明星、博主和普通人的虛假色情內容制作現象頻發,引起了廣泛的社會關注和擔憂。不法分子將一些人物的面孔制作並嵌入色情照片或視頻後公然銷售,以謀取非法利益。
在面對網絡上與自己有關的僞造色情內容時,華裔女子劉微風(Breeze Liu,音譯)並未選擇沉默。她堅定地利用自己所學的知識進行勇敢反擊,希望幫助更多的受害者維權。
相關媒體報道截圖
媒體報道稱,2020年4月的一個下午,劉微風從一個朋友那裏得知有人在網上發布了她的“不雅視頻”,她很清楚知道這一定是假的, 並說:“這不是真的,一定是你弄錯了!”
然而,很快她就在一個被廣泛使用的成人網站上看到了這段用她的臉做成的剪輯視頻,這讓她有一種想嘔吐的衝動。
“我崩潰了,”她說,“我感到很丟臉、很孤獨。”
當時只有24歲的劉微風根本不敢相信自己所看到的東西。她甚至走到父母公寓的屋頂上,告訴自己再也沒有活下去的理由了。她回憶道:“我滿腦子想的都是:我死了會更好。”
但幸運的是,劉微風當天並沒有跳下去。相反,她給加州伯克利的警察打了電話,並提供了她懷疑制作色情視頻的人的名字——一名兩年前她從UCB畢業前就認識的學生。但她很快就了解到,警方在這類案件上無法提供有效的幫助。
她說:“他們沒有伸張正義,而是告訴我他們無能爲力。”
但劉微風沒有停止想讓壞人受到應有懲罰的念頭,恐慌讓她更想加快着手解決所謂的“深度僞造色情片(deepfake)”的技術噩夢。這種技術利用人工智能(AI)技術將另一個人的臉放入色情材料中,以模仿真實的視頻。
劉微風在加密貨幣領域工作了多年,爲了自己的清白,現在正在开發免費使用的面部識別軟件。該軟件將允許受害者識別虛假和濫用內容,然後將其刪除。
2022年,她用自己的積蓄在舊金山創辦了自己的公司Alecto AI,該公司採用面部識別技術,旨在幫助受害者識別並刪除那些被濫用和篡改的內容,然後與平台合作將其刪除。
X截圖
劉微風說:“除非我改變整個規則,否則我不可能得到正義。”
自2013年17歲時從中國移民到美國後,劉微風和其他deepfake受害者一樣,眼睜睜地看着自己的生活被這些被廣泛傳播的不實內容攪得天翻地覆。
而那個做視頻的人,雖然從第一個成人網站上刪除了這段僞造視頻,後來卻在其他數百個網站上分享了類似的內容。
在從得知這件“惡心事”开始的10天內,劉微風承受了巨大的壓力,瘦了12磅。
劉微風說:“我試着過正常的生活,但內心深處每一秒都在尖叫。看到每一個在街上從我身邊經過的人,我都會想,他們有沒有看過這個視頻?”
X截圖
她當面質問了嫌疑人爲什么要這樣做,對方的答案更是讓她無語至極——因爲劉微風拒絕了他的求愛,而他想“羞辱我”。
當劉微風向警方求助時,所發生的事情也讓她感到震驚。劉微風說:“他們問我是否曾經賣淫或用裸體視頻換取金錢。”劉微風還指出,警方的調查在3個月後結束。
劉微風最終發現了800多個僞造視頻的鏈接,但由於各方障礙,想要將這些視頻全部刪除幾乎不可能。
類似這樣的事件影響了成千上萬的人。
布法羅大學計算機科學家呂思維(Siwei Lyu,音譯)說:“(對受害者)造成的心理和情感創傷是巨大的。”目前,還沒有針對僞造色情作品制作和傳播的法律,而這類作品可以在幾分鐘內借助日益先進和方便的AI工具就制作出來。
劉微風說:“我無法控制國會或執法部門的行爲,但有一件事我們都應該能夠控制,那就是我們自己在網上的肖像權。我正在建立的是第一道防线,讓受害者重新獲得權利。我曾經花了很多時間想蜷縮起來、躲起來,但以後再也不會了。”
特別聲明:以上文章內容僅代表作者本人觀點,不代表新浪網觀點或立場。如有關於作品內容、版權或其它問題請於作品發表後的30日內與新浪網聯系。標題:加州華裔女生被男同學AI換臉成色情片女主,險輕生後發起絕地反擊
地址:https://www.utechfun.com/post/376942.html