生成式 AI 應用 ChatGPT 創建者 OpenAI 5 日表示，計劃投入大量資源，建立新研究團隊，以確保 AI 安全，最終用 AI 監督自己。
路透社報導，OpenAI 聯合創辦人 Ilya Sutskever 和聯合負責人 Jan Leike 撰文，超級 AI 的巨大力量可能導致人類喪失權力，甚至導致人類滅絕。我們還沒有解決方案引導或控制潛在超級 AI，並防止其失控。
作者還預測，超級 AI 將比人類更智慧，10 年內就會出現。人類需要比現階段更全面的技術，以控制超級 AI，需在所謂一致性研究取得突破，以確保 AI 對人類有益。
報導引用文章，微軟與 OpenAI 四年內投入 20% 運算力解決問題，也組織 Superalignment 新團隊，目標是創建類人 AI，然後透過大量運算力擴展。OpenAI 表示，將使用人類反應訓練 AI 系統，輔助人類評估，最後訓練 AI 實際平行研究。
AI 安全倡導者 Connor Leahy 表示，此計畫有根本性缺陷，因最初具人類水準的 AI 被迫解決 AI 安全問題前，可能會失控並造成嚴重破壞。構建人類水準的 AI 前，必須解決一致性問題，否則預設將無法控制 AI。他個人認為不是很好或安全的計畫。
AI 潛在危險性一直是 AI 研究人員和大眾最關心的問題。4 月 AI 產業領袖和專家聯署呼籲暫停開發比 OpenAI GPT-4 更強大的系統 6 個月，理由是對社會有潛在風險。路透社 5 月民意調查顯示 66% 美國人擔心 AI 可能有負面影響，61% 認為會威脅人類文明。
(首圖來源：shutterstock)
標題：調查 66% 美國人擔心 AI 負面影響，OpenAI：投入資源解決
地址：https://www.utechfun.com/post/233895.html