ChatGPT 開發商 OpenAI 是否開發出一種日後足以威脅人類的 AI 技術?我們不得而知,但這引起專家和學者提出不同看法。
《路透社》日前獨家報導 OpenAI 研究人員發信警告董事會,宣稱公司內部一項 AI 新專案「」(唸做 Q-Star)有重大突破,恐怕威脅人類,同時演變成董事會解僱執行長奧特曼(Sam Altman)的其一催化劑。
OpenAI 及其董事會並未證實是否有收到來自研究人員的信,國外媒體 The Verge 引述知情人士的消息指出,他們並沒有收到信。
然而拋開前述 Q* 爭論,這項傳聞的 AI 新專案實際上可能不具威脅性,甚至不是什麼新鮮事。包括 Meta 首席 AI 科學家楊立昆(Yann LeCun)等 AI 研究人員,紛紛質疑 Q* 只不過是 OpenAI 及其研究室現有工作延伸,並非日後可能威脅人類的嶄新技術。
討論大型語言模型和機器學習的自媒體 Coding with Intelligence 作者 Rick Lamers 也在一篇文章提到,OpenAI 共同創辦人 John Schulman 7 年前麻省理工學院講座曾談道一個名為 Q* 的數學函數。
Please ignore the deluge of complete nonsense about Q*.
One of the main challenges to improve LLM reliability is to replace Auto-Regressive token prediction with planning.Pretty much every top lab (FAIR, DeepMind, OpenAI etc) is working on that and some have already published…
— Yann LeCun (@ylecun)
▲ 楊立昆對 Q* 傳聞提出質疑。
一些 AI 研究人員認為,Q* 的 Q 字可能指「Q-learning」,是一種 AI 技術,透過採取特定的正確行動並獲得獎勵,可幫助 AI 模型學習和改進特定任務。此外,* 可能引用自「A*」,A* 是一種用於檢查組成圖表的節點並探索這些節點之間路線的演算法。
2014 年,Google DeepMind 應用 Q-learning 建構一種能以人類水準玩雅達利 2600(Atari 2600)遊戲主機的 AI 演算法。至於 A* 起源於 1968 年發表的一篇學術文章,幾年前美國加州大學爾灣分校研究人員嘗試以 Q-learning 改進 A*,這可能正是 OpenAI 現階段追求的目標。
艾倫人工智慧研究所(Allen Institute for AI)科學家 Nathan Lambert 認為,與 AI 方法相關的 Q* 主要用於研究高中數學問題,而不是毀滅人類,喬治亞理工學院電腦科學教授 Mark Riedl 也批評外媒對 Q* 報導過於誇大。兩位學者皆沒有猜測 Q* 是否需要 Q-learning 或 A*,無論涉及其中一項,抑或兩者結合,都符合目前 AI 研究趨勢。
專家和學者認為,無論 Q* 本身和它所能解決的數學方程式出現什麼結果,都不至於對人類帶來厄運,現階段擔心電影中的「天網」快要到來恐怕還太早。經歷與董事會意見分歧的一連串紛爭,奧特曼(Sam Altman)等人已經重返公司領導團隊,未來仍期待這家掀起 AI 熱潮的公司如何繼續推進技術發展。
(首圖來源:)
延伸閱讀:
標題:AI 專家和學者看 OpenAI「Q*」傳聞:不會對人類帶來威脅
地址:https://www.utechfun.com/post/296526.html