新浪科技訊 北京時間5月29日上午消息，據報道，2022年末，負責打擊虛假信息的Meta工程師團隊准備推出一款歷時半年开發的事實核查工具。此前的一系列危機嚴重損害了Facebook和Instagram的信譽，也給監管機構創造了更多機會來打擊這些平台。面對這種現狀，這個工具得尤爲重要。
借助這款新工具，美聯社、路透社以及有信譽的專家等第三方事實核查者，便可在有問題的文章頂部添加評論，將此作爲確認其可信度的一種方式。
但知情人士透露，當Meta CEO馬克·扎克伯格（Mark Zuckerberg）宣布2023年爲“效率之年”後，這項野心勃勃的計劃也無疾而終。
Meta宣布的裁員計劃大約涉及2.1萬人，經過好幾輪落地實施後，Meta的信任和安全工作受到了極大影響。知情人士表示，這款事實核查工具初期已獲得了高管的認同，今年早些時候還處於測試階段，但卻因爲此次裁員而被徹底拋棄。
Meta發言人尚未對特定領域的裁員問題發表評論，但他通過電子郵件回應稱：“我們仍然專注於發展業界領先的誠信措施，並將繼續投資建設團隊和技術，爲我們的社區提供保護。”
放眼科技行業，隨着企業通過收緊支出和大舉裁員來應對宏觀經濟壓力和收入增速放緩，大批負責保護這些最受歡迎的“互聯網樂園”的人也紛紛遭到清退。然而，此時卻正值網絡暴力叢生（這導致越來越多的青少年出現自殘行爲）、虛假信息泛濫和暴力內容激增之際，而人工智能的爆發式應用更是令這些問題愈演愈烈。
在最近的財報電話會議上，科技高管紛紛強調了“少花錢，多辦事”的理念，希望通過更少的資源投入來提升效率。Meta、Alphabet、亞馬遜和微軟都在前幾年的大幅擴容之後實施了數以千計的裁員計劃。微軟CEO薩提亞·納德拉（Satya Nadella）最近還表示，他的公司將暫停全職員工的加薪計劃。
科技企業大幅壓縮負責信任、安全和人工智能倫理的團隊，充分說明，盡管2024年美國總統大選季還有幾個月就將拉开帷幕，網上的各種雜音勢必會增加，但企業還是更愿意迎合華爾街對效率的要求。在科技公司內部，人工智能倫理團隊與信任和安全團隊隸屬不同的部門，但他們的目標都是減少企業的產品和服務可能對現實世界構成的傷害。
“這是一場貓鼠遊戲，施虐者通常會走在前面。”阿瓊·納拉延（Arjun Narayan）說，他之前曾經在谷歌和字節跳動擔任信任和安全主管，目前在新聞聚合應用Smart News負責信任和安全業務，“你總是扮演追趕的角色。”
但目前看來，在科技公司眼中，無論是信任和安全團隊，還是人工智能倫理團隊，似乎都是應當壓縮的成本。
知情人士表示，Twitter去年11月實質上解散了人工智能倫理團隊，僅保留一名員工，同時還對信任和安全部門裁員15%。今年2月，谷歌對一個旨在應對錯誤信息、激進情緒、有毒內容的部門裁員三分之一。據報道，Meta也在1月初與大約200名內容審核解除了合同。根據提交給美國勞工部的數據，該公司還對Instagram的健康上網部門至少裁員16人，同時削減了信任、誠信和責任部門的100多個崗位。
今年3月，亞馬遜壓縮了人工智能責任團隊的規模，微軟也對整個倫理和社會團隊進行裁員——據悉，這兩輪裁員將該團隊的人數從30人縮減到零。亞馬遜並未對此置評，微軟則提供了有關裁員的官方博文。
在亞馬遜流媒體遊戲部門Twitch，員工是在3月才從公司CEO安迪·賈西（Andy Jassy）不合時宜的內部帖子中得知了自己的命運。
賈西當時宣布在全公司裁員9000人，包括400名Twitch員工。知情人士表示，在這400名員工中，約有50人負責監控網絡暴力、非法或有害行爲。
亞馬遜的信任和安全團隊損失了大約15%的員工，而此時正值內容審核空前重要之際。
Twich CEO丹·科朗西（Dan Clancy）在發給員工的郵件中並沒有特意提到信任和安全團隊，但卻確認了更大範圍的裁員計劃。事實上，他本人當時也是剛剛從賈西的帖子中得知裁員消息的。
科朗西在郵件中寫道：“我很遺憾，竟然以這種方式跟大家溝通這種消息，而沒能提前與受此影響的員工進行直接溝通。”
重獲信任困難重重
一位Twitch信任和安全團隊的負責人表示，該部門剩余的員工感覺受到了“鞭笞”，並對第二輪裁員憂心忡忡。此人透露，裁員對團隊構成重大打擊，而負責人身威脅、暴力、恐怖主義團體和自殘的Twitch執法響應團隊也大幅縮減。
Twitch發言人尚未對此置評，只是提供了3月宣布裁員的一篇官方博文。該博文並未提及信任和安全或內容審核團隊。
Smart News的納拉延表示，由於大企業對安全問題的投資不足，導致他們難以應對層出不窮的惡意活動。隨着不良內容越來越多，“信任侵蝕”也成爲他們不得不面對的問題。
“從長期來看，重獲消費者信任真的困難重重。”納拉延補充道。
Meta和亞馬遜的裁員是爲應對投資者的要求和營收及股價的大幅下滑，而Twitter則是因爲公司易主。
幾乎就在埃隆·馬斯克（Elon Musk）去年10月完成對Twitter 440億美元的收購後，他便开始進行大規模裁員。曾經擔任Twitter機器學習倫理、透明度和問責團隊總監的拉曼·喬杜裏（Rumman Chowdhury）表示，原本擁有17人的Twitter人工智能倫理團隊在裁員後僅剩1人。
喬杜裏表示，該團隊的成員是在他們的筆記本電腦遭到遠程關閉後才了解到自己的處境。幾小時後，他們就收到了公司的郵件通知。
“我當時才开始清點人手，組建我們的人工智能紅色團隊，這樣就能從倫理角度對抗我們的模型，並加以落實。”喬杜裏說，“感覺就好像我們都在昂首闊步時，腳底下的毯子卻被人抽走了。”
喬杜裏表示，他們的計劃包括开發“算法放大監控機制”，通過跟蹤選舉和政黨動態來了解“內容是否被以不當方式放大了”。
喬杜裏提到了2021年7月的一個項目，Twitter的人工智能團隊當時領導了業界首個算法偏見賞金競賽。他們邀請外部人士對平台進行偏見審核，並將結果公之於衆。
喬杜裏擔心馬斯克“目前正在積極拋棄我們所做的一切”。
“現在沒有內部問責制。”她說，“我們之前服務於兩個產品團隊，確保幕後工作能夠公平對待平台上的用戶。”
Twitter尚未對此置評。
廣告主也在撤離那些聲譽風險日益加大的地方。
根據Sensor Tower的數據，在Twitter上投入金額最大的10類美國廣告客戶中，有6類都在今年第一季度同比縮減了支出，合計縮減幅度達到53%。該網站最近也因爲允許暴力圖片和視頻傳播而引發爭議。
聊天機器人的熱度激增導致問題更加復雜。這些類似於ChatGPT的人工智能模型使得不法分子很容易用各種內容制作虛假帳號。艾倫人工智能研究所、普林斯頓大學和佐治亞理工學院的研究人員對ChatGPT的API（應用編程接口）進行測試後發現，內容“毒性”最高可以增加6倍，具體取決於企業分配給聊天機器人的功能定位，比如究竟是客戶服務代表還是虛擬助手。
監管者也在密切關注人工智能不斷擴大的影響，以及企業對人工智能倫理及信任和安全團隊的縮減措施。美國聯邦貿易委員會（FTC）律師邁克爾·阿特爾森（Michael Atleson）本月早些時候在一篇博文中指出了這種悖論。
“鑑於人們對使用新型人工智能工具的擔憂，現在或許並不是企業建立或部署這類工具來取代人工智能倫理團隊的最佳時期。”阿特爾森寫道，“如果FTC打來電話詢問此事，而你希望讓我們相信你已經充分評估了風險並減輕了傷害，那么這些壓縮措施或許並不明智。”
風向標Meta
多年以來，科技行業享受了一輪超長牛市，爲頂尖互聯網平台帶來了大量資金，而Meta則借機成爲許多專家眼中的倫理和安全領導者。
該公司花費多年時間招募了信任和安全團隊，其中有許多具備社會科學背景。他們希望以此避免重蹈2016年美國總統大選的覆轍。當時，Facebook就出現了大量的虛假信息，並在2018年“劍橋分析”醜聞達到頂峰。那起醜聞曝光了第三方如何非法使用Facebook的用戶數據。
但2022年，這一切卻急轉直下：在Meta的廣告業務和股價慘遭打擊後，扎克伯格進入了緊縮模式，令原先抱怨該公司過於臃腫的投資者歡呼不已。
除了事實核查項目，裁員還對研究人員、工程師、用戶設計專家和其他從事社會問題相關工作的員工造成了衝擊。4位Meta前員工表示，專門負責應對虛假信息的團隊遭到大幅裁員。
在Meta去年11月的第一輪裁員之前，該公司已經着手將誠信團隊整合爲一個部門。據前員工透露，去年9月，Meta將中央誠信團隊與商業誠信團隊合並，前者負責處理社會問題，後者負責處理廣告和垃圾郵件、虛假帳號等商業問題。
Meta信任和安全團隊的前員工表示，在隨後幾個月裏，隨着更廣泛的緊縮計劃席卷整個公司，他們的許多同事都生活在裁員的陰影中，而管理人員也沒有看出他們的工作對Meta的利潤產生了怎樣的影響。
例如，改進垃圾郵件過濾器這種不需要太多資源的項目可以獲批，而以改變政策爲目標的長期項目則很難獲得支持，比如涉及虛假信息的項目。在這樣的制度下，員工更愿意從事易於管理的任務，這樣就能在6個月的績效評估中展示自己的成果。
在裁員前離職的Meta前項目經理拉維·艾耶（Ravi Iyer）表示，他認識的許多人原本在設計和政策變化方面扮演關鍵角色，但他們同樣在此次裁員中失去工作，這比內容審核團隊的裁員更令人懊惱。
“我不認爲我們應該想當然地認爲，信任和安全團隊縮編一定會令平台變得更糟。”目前擔任南加州大學科技心理學研究所主任的艾耶說，“但我發現，許多被解僱的人都是在反思這些平台的基礎設計方面最有見地的人。如果平台不打算投資調整已經被證明有害的設計，那才是我們都應該擔心的事情。”
Meta發言人之前就曾弱化裁員對虛假信息部門的影響：“該該團隊被整合進更廣泛的內容誠信團隊，他們的規模要大得多，重點是整個公司的誠信工作。”
但知情人士表示，裁員之後，負責處理虛假信息的Meta員工的確減少了。
對於人工智能、誠信和安全以及內容審核領域的專業人士而言，就業前景似乎非常渺茫。
剛剛被社交媒體公司裁員的人表示，隨着相關企業繼續緊縮开支，他們可以申請的職位並不多。一位Meta前員工稱，當他面試了微軟和谷歌的信任和安全職位後，這些職位卻突然之間被砍掉了。
一位Meta前員工表示，該公司在信任和安全方面的收縮，可能會對規模較小的同行和初創公司產生影響，他們似乎會“在裁員方面追隨Meta”。
Twitter前人工智能倫理負責人喬杜裏表示，這些類型的工作肯定會成爲削減的對象，因爲“他們不能提高產品利潤”。
“我認爲這是一種完全錯誤的框架。”她說，“但如果你的價值體現在公司沒有被起訴，或者別人沒有受到傷害，那就很難證明你的價值。當我們的工作結束後，沒有鮮花和掌聲，但卻可以創造一個安全無虞的社區。這可以創造長期的財務價值，但從每個季度的財報來看，確實很難衡量這背後的意義。”
一位Twtich前員工透露，該公司的信任和安全團隊中有些人知道在哪裏能發現危險活動。這對遊戲行業至關重要，因爲遊戲本身就是一個“獨特的野獸”。
而現在，很少有人去查看這些“黑暗、可怕的地方”，那裏是犯罪分子藏身的地方，也是網暴活動泛濫的地方。
更重要的是，沒有人知道情況究竟會有多糟。
炒股开戶享福利，送投顧服務60天體驗權，一對一指導服務！
海量資訊、精准解讀，盡在新浪財經APP
責任編輯：鄭卓
標題：美國科技行業大裁員背後：內容審核團隊收縮，平台危機隱現
地址：https://www.utechfun.com/post/219264.html