GPT將死!Meta發布“類人”模型,能夠理解世界

2023-06-15 18:40:29    編輯: robot
導讀 全世界現在正陷入一場AI的狂歡。每天都有大模型誕生,給人一種AI即將統治世界的錯覺。 AI確實正在經歷有史以來最快的發展時期,但是有人卻覺得這一切都是表象。 在前不久結束的智源“AI春晚”大會上,深...

全世界現在正陷入一場AI的狂歡。每天都有大模型誕生,給人一種AI即將統治世界的錯覺。

AI確實正在經歷有史以來最快的發展時期,但是有人卻覺得這一切都是表象。

在前不久結束的智源“AI春晚”大會上,深度學習巨頭之一、Meta首席科學家Yann LeCun(楊立昆)語出驚人:現有的GPT模型活不過5年!

他言辭犀利地對目前類GPT模型發出批評,根據概率生成自回歸的大模型,根本無法破除幻覺難題。在輸入文本增大的時候,錯誤的幾率也會成指數增加。

LeCun不認爲現階段的大模型可以最終通向AGI(通用人工智能),所以他提出了自己的構想——“世界模型”。

現在,他的構想有了初步的實現。Meta剛剛宣布推出一種“類人”模型,聲稱可以理解世界。

GPT不好使,“世界模型”才是未來

Yann LeCun對於 AI 發展所持的態度是深度學習三巨頭裏最爲樂觀的。此前在馬斯克提出“人工智能給人類文明帶來了潛在風險”時,LeCun 曾公开反駁,認爲人工智能遠未發展到給人類構成威脅的程度。

AI 的能力距離人類與動物的能力,還有差距——差距主要體現在邏輯推理和規劃,大模型目前只能“本能反應”。

基於這個立場,LeCun一直在探索如何讓模型“讀懂世界,理解世界”。爲此,他創建了可以實現類人推理的世界模型。

LeCun提到,人類和動物能夠通過觀察,簡單的交互,以及無監督的方式學習世界知識,因此可以假設,這裏面蕴含的潛在能力構成了常識的基礎。

世界模型需要融合不同的學科的觀點,包括但不限於認知科學、系統神經科學、最優控制、強化學習以及 "傳統 "人工智能。

作爲Meta的首席科學家,LeCun帶領一個團隊專注研究他的世界模型。直到今天,Meta宣布將向研究人員提供一種新型“類人”人工智能模型組件——I-JEPA(圖像聯合嵌入預測架構)。

官方介紹,I-JEPA可以利用對世界的背景知識來填補圖像中缺失的部分,而不是像其他生成式人工智能模型那樣,只根據附近的像素進行推斷。

有關注過AI圖像生成的人會發現,剛开始讓AI作圖,畫面一旦出現人物,就會有多一根手指,手部扭曲等問題。這是由於現階段的AI模型會過於關注不相幹的細節,而不是捕捉更高級的可預測的概念。

I-JEPA可以解決這一點,I-JEPA試圖通過捕捉這個世界的常識的背景知識,並將其編碼爲以後可以訪問的數字表示,從而模仿這種學習方式,讓其擁有LeCun一直夢想的“理解世界”的能力。

AGI將是最終歸宿

Yann LeCun一直將推動AI走向AGI作爲畢生的目標。基於他構想建立的I-JEPA展示了架構在學習現成圖像表徵方面的潛力,而且還不需通過人工制作的知識作爲額外的輔助。

I-JEPA可以自我監督,不需要人類。Meta AI的團隊表示,I-JEPA可以直接從圖像或聲音等未標記的數據中學習,擺脫人工組裝的標記數據。

在較高的層次上,JEPA旨在通過相同輸入的其他部分的表示來預測輸入部分(如圖像或文本)的表示。因爲它不涉及將圖像的多個視圖/增強表示折疊到單個點,所以希望JEPA能夠避免與另一種廣泛使用的稱爲基於不變性的預訓練的方法相關的偏差和問題。

Meta表示,I-JEPA在多個計算機視覺基准測試中表現出非常強大的性能,它學到的表示也可以用於其他應用,而無需進行大量的微調。I-JEPA學習的表示也可以用於許多不同的應用程序,而不需要進行大量的微調。

开源,將是I-JEPA未來得到更大發展的必由之路。Meta的研究團隊表示,期待着將JEPA方法擴展到其他領域,如圖像-文本配對數據和視頻數據。

Meta CEO扎克伯格表示,與其他研究者分享 Meta 公司开發的模型可以幫助該公司促進創新、發現安全漏洞和降低成本。

他今年 4 月對投資者說:“對我們來說,如果行業對我們正在使用的基本工具進行標准化,那么我們就可以從他人的改進中受益。”

Yann LeCun此前也指出,“獲勝的平台將是开放平台”,並稱谷歌和OpenAI越來越封閉是一個錯誤的決定。

對於質疑,LeCun稱,“你無法阻止人們制造有害信息,但你可以切斷這類信息的傳播。”

目前,訓練代碼和模型已經开源。相關論文將在下周舉辦的人工智能頂級盛會CVPR 2023上宣讀討論。



標題:GPT將死!Meta發布“類人”模型,能夠理解世界

地址:https://www.utechfun.com/post/225752.html

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。

猜你喜歡