導讀 一群 OpenAI 和 Google DeepMind 前員工發表標題為「」公開信，呼籲所有 AI 公司應遵守原則，允許員工提出對 AI 風險的擔憂，同時不必擔心因此遭到公司報復。 簽署者認為，儘管...
一群 OpenAI 和 Google DeepMind 前員工發表標題為「」公開信，呼籲所有 AI 公司應遵守原則，允許員工提出對 AI 風險的擔憂，同時不必擔心因此遭到公司報復。
簽署者認為，儘管 AI 具有潛力為人類帶來福祉，但也存在嚴重風險，包括進一步加劇現有不平等、操弄錯誤資訊、自主 AI 系統失去控制恐怕導致人類滅絕，世界各國政府和 AI 專家承認存在這些風險。
他們聲稱，AI 公司保留大量有關系統功能、侷限性及風險等資訊，未向社會大眾公開，僅向政府機關義務分享部分資訊。
面對 AI 風險，他們呼籲 AI 公司應遵守 4 項關鍵原則：不對員工執行任何禁止批評和貶低公司的協議、促進員工向高層提出問題的匿名程序、支持公開批評的企業文化、以及不對現任和前任員工進行事後報復。
目前共有 13 人簽署這封公開信，多數為 OpenAI 前員工，也有 Google DeepMind 現任員工，還有多人因為在職身分不願曝光，選擇匿名簽署。
這封公開信獲得多名傑出 AI 專家支持，包括 Yoshua Bengio、Geoffrey Hinton 及 Stuart J. Russell。值得關注的是，其他 AI 專家如 Meta 首席 AI 科學家楊立昆（Yann LeCun）， 對 AI 構成人類生存風險的說法有異議，認為 AI 接管人類的話題分散大眾注意力，關注重點應擺在產生偏見、幻覺等 AI 危害上。
（首圖來源：Image by ）
關鍵字: , , ,
標題：OpenAI 前員工簽署公開信，籲 AI 公司允許員工質疑風險
地址：https://www.utechfun.com/post/380998.html