導讀 一群現任和前任OpenAI員工周二發表了一封公开信，表達對人工智能行業快速發展的擔憂，並指出其缺乏監督，也缺乏對那些希望發聲者的舉報人保護。 公开信中寫道：“人工智能公司有很強的財務動機來避...
一群現任和前任OpenAI員工周二發表了一封公开信，表達對人工智能行業快速發展的擔憂，並指出其缺乏監督，也缺乏對那些希望發聲者的舉報人保護。
公开信中寫道：“人工智能公司有很強的財務動機來避免有效的監督，我們認爲公司治理的定制結構不足以改變這一點。”
預計生成式人工智能市場在10年內收入將超過1萬億美元。OpenAI、谷歌、微軟、Meta及其他公司正在主宰生成式人工智能軍備競賽，因爲似乎每個公司都急於擁有自己的人工智能驅動的聊天機器人和代理，以避免被競爭對手甩在後面。
OpenAI的現任和前任員工在公开信中寫道，人工智能公司擁有“大量非公开信息”，包括他們的技術可以做什么，他們採取的安全措施的程度以及技術對不同類型傷害的風險水平。
“我們也理解這些技術帶來的嚴重風險，”他們寫道，並補充說，這些公司“目前只有微弱的義務與政府分享其中一些信息，而沒有與民間社會分享。我們認爲不能依靠他們自愿分享它。”
這封信還詳細說明了現任和前任員工對人工智能行業舉報人保護不足的擔憂，並指出，如果沒有有效的政府監督，員工在追究公司責任方面處於相對獨特的地位。
公开信稱：“寬泛的保密協議阻止我們表達我們的擔憂，除非是那些可能未能解決這些問題的公司，”籤署者寫道。“普通的舉報人保護是不夠的，因爲它們側重於非法活動，而我們擔心的許多風險尚未受到監管。”
股市回暖，抄底炒股先开戶！智能定投、條件單、個股雷達……送給你>>
海量資訊、精准解讀，盡在新浪財經APP
責任編輯：張俊 SF065
標題：OpenAI員工警告：AI缺乏監督，存在“嚴重風險”
地址：https://www.utechfun.com/post/380497.html