AI 發展迅速，也可能帶來安全威脅。OpenAI 高層認為，這個世界需要一個類似於國際原子能總署（International Atomic Energy Agency，IAEA）作用的權威機構，針對 AI 發展進行監管。
身為 OpenAI 共同創辦人，包括執行長奧特曼（Sam Altman）、董事長布洛克曼（Greg Brockman）以及首席科學家蘇茨克維（Ilya Sutskever）透過官方部落格文章發聲，認為 AI 創新發展的步伐如此之快，以至於人們不能指望政府當局能夠充分控制這項技術。
OpenAI 推出 ChatGPT 後引爆新一波 AI 熱潮，不只 OpenAI 備受關注，其他投入 AI 領域如微軟、Google、Meta、亞馬遜等大型科技公司也是。新興技術代表無價的資產，同時也可能帶來獨特的威脅，於是 3 人共同提出，最終需要像國際原子能總署的權威機構加以約束，包括檢查系統、要求審查、測試是否符合安全標準、限制部署程度和安全級別等等。
國際原子能機構是自 1957 年起由 18 個創始會員成立的聯合國附屬組織，致力於和平發展核能的獨立組織，可以像其他類似組織一樣針對國際核能問題予以監管、施加壓力。
建立在這種模式上的 AI 監管機構可能無法直接介入並控制不肖之徒，但它可以建立國際標準和協議，至少對 AI 監管是一個重要起點。
OpenAI 文章也指出，目前追蹤專門用於 AI 研究的運算能力和能源使用情況是相對少見，但可望做為其中一項客觀措施。人們目前很難定義 AI 應該或不應該用於哪件事，但像特定產業一樣監控和審核專門用於 AI 運算的資源是可行的。
不只如此，AI 公司需要在領先的開發工作之間進行一定程度的協調，以確保這種超級智慧的發展方式使人們能夠保持安全，並幫助 AI 系統與社會順利整合。
儘管 OpenAI 高層表示他們支持 AI 監管，呼籲政府和產業在治理方面採取行動，並期望開啟對話，但 OpenAI 目前還沒有具體配合計畫，因為他們不想放棄「以 AI 改善人們社會」的巨大潛力。
（首圖來源：）
標題：呼籲 AI 監管，OpenAI：需要類似原能總署的權威機構
地址：https://www.utechfun.com/post/215920.html