馬斯克聘用OpenAI泄密者,他們的梁子着實越結越深...

2024-05-09 18:40:13    編輯: robot
導讀 作者:小巖 編輯:彩雲 就在最近,昔日就職於OpenAI的工程師Pavel Izmailov正式加入了馬斯克的AI團隊,他還在自己的推特上大張旗鼓的做着宣傳:研究院@xai。 AI工程師的跳槽本不值...

作者:小巖

編輯:彩雲

就在最近,昔日就職於OpenAI的工程師Pavel Izmailov正式加入了馬斯克的AI團隊,他還在自己的推特上大張旗鼓的做着宣傳:研究院@xai。

AI工程師的跳槽本不值得驚訝,但Pavel的跳槽卻在行業內引起了不小的熱議。就在半年前,Pavel因被指疑似泄露Q*的相關機密而被OpenAI开除。至此,馬斯克和OpenAI 的梁子算是越結越深了。

馬斯克公开聘請“泄密者”,業內對此褒貶不一。

最近馬斯克旗下的xAI發展迅速,聘用了不少新員工,其中最爲神祕,也最惹人矚目的,當屬Pavel Izmailov。畢竟,就在半個月以前,他主頁還寫着“在OpenAI搞搞大模型推理”的介紹。

圖片

圖片

翻看Pavel的簡歷,會發現他的成長經歷很不一般。他是紐約大學CILVR小組成員(本人還透露即將在2025年秋加入紐約大學 Tandon CSE和Courant CS 擔任助理教授) 。此前,他一直服務於超級對齊團隊。超級對齊發布的第一篇論文的作者,也是Pavel。

超級對齊團隊成立於去年 7 月份,是OpenAI爲應對不同時間尺度上大模型可能會產生的安全問題,所成立的三大安全團隊之一。概括說來,超級對齊團隊負責的是遙遠的未來,給超越人類的超級智能安全性奠定基礎。超級對齊團隊由Ilya Sutskever和Jan Leike領導。

圖片

對於外部,OpenAI十分重視安全問題和保密問題,但其內部對 AI 的安全开發卻存在着很大的爭議和分歧,這儼然成爲了公开的祕密。甚至有人猜測,這種分歧是去年 11 月OpenAI 董事會宮鬥大戲發生的最主要原因。

網傳技術主導者 Ilya Sutskever 成爲 “政變 ”帶頭人,究其原因,是因爲看到了一些東西讓他內心不安。在Ilya 帶領的超級對齊團隊裏,很多成員站在 Ilya 這邊。宮鬥事件最終以Sam Altman重回董事會爲結束的標志,從某種程度上說,Ilya是此次宮鬥的失敗者。在此之後,他仿佛從OpenAI 蒸發了一般,惹得外界流言四起,但他再也沒有公开露面過,甚至都沒在網上進行澄清或闢謠。

Pavel作爲超級對齊團隊成員,Ilya的部下,被認爲是Ilya的支持者。他的“被开除”,也被很多網友猜測是在被Sam Altman秋後算账。

有着復雜背景的Pavel前腳剛被开除,後腳就被馬斯克聘用。對於馬斯克這樣的行爲,有人認爲他是把握住了人才,搶佔了先機;但也有人對此嗤之以鼻,認爲“僱傭泄密的人的行爲就像是在撿垃圾”,無疑是自掘墳墓。

有新仇更有舊恨:馬斯克與OpenAI之間的“相愛相殺”...

事實上,“聘用泄密員工”並不是馬斯克第一次“得罪”OpenAI。

今年2月29日,馬斯克對於ChatGPT 主體 OpenAI發起起訴,稱其違反了他在2015年幫助創建OpenAI時同意的原則,同時被起訴的還有OpenAI的CEO Sam Altman。

圖片

馬斯克的訴訟文件長達46頁,共計1.4萬字,包括一些曾不爲人知的內幕細節。馬斯克在起訴中表示,OpenAI已經背離了其最初非營利及开源的使命,即开發技術以造福人類而不是利潤。如今的它並沒有像它成立時那樣試圖“造福人類”,反而專注於爲主要投資者微軟“實現利潤最大化”。由於微軟大量資金投入OpenAI,使得OpenAI似乎成了微軟的私有开源產品。

當然,不排除馬斯克這樣做是有私心的,當年早早的離开OpenAI董事會,以至於現在沒有了話語權,而且馬斯克當年給OpenAI的捐助,在其後來成立盈利子公司時沒有轉化成相應的股份回報。加上去年3月,馬斯克創辦了自己的人工智能公司 xAI,與OpenAI形成了競爭關系。如今,馬斯克又選擇僱用明顯有錯的OpenAI離巢員工,顯然會讓彼此之間的競爭變得更加激烈。

人才濟濟的xAI,馬斯克是准備在AI賽道放大招了嗎?

當然,最近馬斯克的xAI所網羅到的人才,遠不止Pavel自己。

圖片

盡管外界還不知道Q*的真實面貌是怎樣的,但就目前釋放出的信息,以下的優勢Q*是一定具備的:可以將大模型與強化學習和搜索算法等有機結合結合起來;增強 AI 推理能力等。

所以,馬斯克麾下新招攬的幾名員工的研究方向,多多少少是與之有關的。

圖片

Qian Huang,目前還是斯坦福大學的一名博士生。去年夏天开始,Qian Huang 在 Google DeepMind 工作,但目前,她在推特上已經明確注明了@xai。盡管我們還不知道她在xAI具體擔任的職務是什么,但從 GitHub 個人主頁可以看到,她的研究方向是將機器推理與人類推理結合起來,特別是新知識的合理性,可解釋性和可擴展性方面的研究。

Eric Zelikman,斯坦福博士在讀生,推特上寫明 “study why @xai”。之前,他先後在 Google 研究院和微軟研究院待過一段時間。他在個人主頁上說:“我對算法如何(以及是否)能夠學習有意義的表示和推理很着迷,我正在 xAI 研究這回事兒。”

Aman Madaan,卡內基梅隆大學語言技術研究所博士在讀生。他的研究領域包括大型語言模型,反饋驅動的生成以及代碼生成和自然語言推理的交叉領域,研究的首要主題是使用推理時間計算(Inference-Time Compute)來增強推理能力(Reasoning) 。攻讀博士學位期間,Aman 曾擔任 Google 大腦和艾倫人工智能研究所的學生研究員和合作者;更早以前,他還是 Oracle 的主要技術人員。

通過分析馬斯克新招人員的履歷,我們可以發現,新員工主要還是集中於谷歌,斯坦福,Meta,OpenAI,微軟等機構。他們都有名校背景,擁有豐富的大模型訓練經驗,諸如GPT 系列,谷歌Meta 相關大模型等。

如果加上 Pavel Izmailov 在內的幾位新員工,自此馬斯克的技術人才版圖已擴增至 34 人(不包括馬斯克本人),相比於最开始 12 人的創始團隊增長了約 2 倍。

可以看出,在人才爭奪战上,馬斯克做好了十足的准備。

       原文標題 : 新火種AI|馬斯克聘用OpenAI泄密者,他們的梁子着實越結越深...



標題:馬斯克聘用OpenAI泄密者,他們的梁子着實越結越深...

地址:https://www.utechfun.com/post/368855.html

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。

猜你喜歡