上傳自己的照片,AI小程序就可以制作“數字分身”,做出的寫真照片妝容發型堪比照相館幾百上千元拍攝的效果。近日,一款AI換臉軟件火了。同時,該軟件用戶條款中“授予开發公司以任何形式使用上傳的內容”而被質疑“霸王條款”,一些用戶表示,“一次性至少要上傳21張自己各個角度的照片,不會泄露隱私嗎?”
體驗
至少上傳21張照片 付費制作“排隊”超4小時
7月24日,北青報記者進入某小程序嘗試制作AI照片,點擊“制作數字分身”後被要求上傳一張正面照與20張多個角度、表情的照片,北青報記者確認生成後應用跳轉至公衆號,付費9.9元小程序就开始制作照片了。所有操作完成後,小程序頁面顯示前面有2592人正在制作,預計需要4小時15分制作成功。此外,不少用戶還表示在使用這款AI應用時被系統告知服務器被擠爆了。
上述小程序是一款依據AI能力再度“生成”同一人照片的AIGC類應用,很多用戶表示這款軟件出圖效果“非常強大”。95後女生小佳是該軟件的一名用戶,她對北青報記者說:“這款軟件制作的照片和我平時出去拍的寫真幾乎沒有區別,出圖效果挺讓我意外的,裏面還有很多不同風格的模板可以使用,現在的AI換臉技術真是越來越厲害了。”
質疑
“授權使用照片”被指屬於霸王條款
北青報記者測試發現,這款小程序需要用戶至少上傳21張個人照片,包括1張“五官清晰的正面照片”和20張“多光线、多背景、多視角、多表情”的半身照,總共需要21張照片。對此,有用戶表示,使用這款小程序最擔心的就是自己的隱私安全,上傳這么多照片,如何儲存、使用,以及後期如何處理都待解決。
此前有用戶發現,該小程序的用戶協議中顯示:“爲了使我方能夠提供、確保和改進本服務(包括但不限於使用AI生成內容作爲再訓練數據等),並且僅根據適用的《隱私政策》,除了本條款授予我方的任何其他權利外,您特此授予我方在全世界(包括元宇宙等虛擬空間)範圍內享有永久的、不可撤銷的、可轉讓的、可轉授權的、免費的和非獨家的許可,使得我方可以任何形式、任何媒體或技術(無論現在已知或以後开發)使用您的內容。此處我方的‘使用’是指使用、托管、存儲、修改、交流、發布或任何我方認爲合適的使用方式。在您通過本服務向我方平台提交您的上傳內容之前,您將確保您有必要的權利來授予我方許可。”
網友狗頭學長表示,授權條款其實是霸王條款,雖然這類條款可以主張無效,但人臉信息數據泄露是不可逆的。網友catto也表示,用戶花費9.9元上傳的照片,很有可能被一些商家收集成“數據集”轉賣了,這就意味着商家可以隨意生成用戶的成人照片甚至視頻、3D建模,任意使用用戶的臉做廣告、做視頻,更可怕的是不法分子還可能拿着用戶的照片進行詐騙。
回應
換臉軟件稱用戶照片分身制作完成後自動刪除
對於用戶的質疑,7月20日某小程序官方表示已修改用戶協議:“已經收到用戶關於用戶協議的反饋,原協議內容有誤,我們第一時間根據實際情況進行了修改。並承諾,用戶上傳的照片只會用於數字分身制作,不會提取也不會用於識別和其他用途,且分身制作完成後自動刪除。”
雖然協議已更改,但部分網友還是表示對此有所擔憂。用戶“zzz”表示這款小程序很好用,但是用完以後她還是不放心,於是申請注銷账號了,怕哪天自己的隱私被泄露。此外,一些在內測期間以及協議修改之前使用過該應用的用戶提出質疑:“現在改了協議,那在協議未修改前上傳的照片安全嗎?之前收集的圖片信息是否已經被泄露出去了?”還有用戶擔憂在實際操作中無法保證圖片“自動刪除”。
此外,另一款可換臉的軟件“××”也曾一時風光,其因用戶協議存在巨大的法律風險而陷入輿論風波。根據此前的用戶協議第6條第1款規定:在您上傳及/或發布用戶內容以前,您同意或者確保實際權利人同意授予‘××’及其關聯公司以及‘××’用戶全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利,包括但不限於可以對用戶內容進行全部或部分的修改與編輯(如將短視頻中的人臉或者聲音換成另一個人的人臉或者聲音等)以及對修改前後的用戶內容進行信息網絡傳播以及著作權人享有的全部著作財產權利及鄰接權利。
知名互聯網學者劉興亮表示,這一軟件不光借此免費獲得了上傳資料中所包含肖像信息的使用權和轉授權,還將侵權的風險轉嫁給了用戶,雖然網絡上關於面部信息可用於刷臉支付屬於過度解讀,但也說明大數據時代人們的隱私保護意識在不斷增強。迫於輿論壓力,如今該軟件的用戶協議已經有了調整。
隱私保障
人工智能服務數據不得非法留存輸入信息
北青報記者了解到,7月13日,國家網信辦等七部門聯合公布《生成式人工智能服務管理暫行辦法》,其中提到,提供者應當依法承擔網絡信息內容生產者責任,履行網絡信息安全義務。涉及個人信息的,依法承擔個人信息處理者責任,履行個人信息保護義務;提供者對使用者的輸入信息和使用記錄應當依法履行保護義務,不得收集非必要個人信息,不得非法留存能夠識別使用者身份的輸入信息和使用記錄,不得非法向他人提供使用者的輸入信息和使用記錄;提供者應當依法及時受理和處理個人關於刪除等其個人信息等的請求。
國家互聯網信息辦公室有關負責人表示,出台《辦法》,旨在促進生成式人工智能健康發展和規範應用,維護國家安全和社會公共利益,保護公民、法人和其他組織的合法權益。
近年來,生成式人工智能技術快速發展,爲經濟社會發展帶來新機遇的同時,也產生了傳播虛假信息、侵害個人信息權益、數據安全和偏見歧視等問題,如何統籌生成式人工智能發展和安全引起各方關注。出台《辦法》,既是促進生成式人工智能健康發展的重要要求,也是防範生成式人工智能服務風險的現實需要。
陝西澤誠律師事務所的趙騰飛律師稱,國家互聯網信息辦公室、工業和信息化部、公安部、市場監管總局聯合制定的《APP違法違規收集使用個人信息行爲認定方法》中,此類應用若過度收集用戶信息問題,涉嫌違反必要原則。從上述文中相機最初版本用戶協議來看,用戶授權之後會給APP方極大權限使用自己的肖像等人身信息。由於用戶同意了這種授權,當此類應用將用戶照片用於營利或者其他商用,將會損害使用者權益。對於類似過度要求授權無關信息等行爲,可以向相關監管部門投訴舉報。
趙律師也表示,新協議相較原協議對用戶信息及隱私有了一定的保護,但是需要運營商嚴格遵守,不能用作其他用途,同時要及時刪除無關信息。如果運營商擅自使用,根據民法典人格權編的相關規定,構成侵犯他人肖像權。
本組文/本報記者 溫婧 實習生 張慧婧
統籌/池海波 供圖/視覺中國
標題:換臉軟件火了 用戶擔心隱私泄露
地址:https://www.utechfun.com/post/243249.html