還未开放 Sora怎么就震驚了互聯網圈？

2024-02-22 18:10:58 編輯： robot

導讀　　來源：元宇宙日爆　　還未开放公衆測試，Open AI憑借文本生成視頻模型Sora 制作的預告片，就把科技圈、互聯網、社交媒體圈給震驚了。　　根據Open AI官方發布的視頻，Sora能夠根據...

　　來源：元宇宙日爆

　　還未开放公衆測試，Open AI憑借文本生成視頻模型Sora 制作的預告片，就把科技圈、互聯網、社交媒體圈給震驚了。

　　根據Open AI官方發布的視頻，Sora能夠根據用戶提供的文本信息，生成長達1分鐘的復雜場景“超視頻”，不僅畫面細節逼真，這個模型還會模擬鏡頭運動感。

　　從已釋出的視頻效果看，業內興奮的正是 Sora 體現出的理解真實世界的能力。相較其他文本到視頻的大模型，Sora 在對語義理解、畫面呈現、視覺連貫性和時長上都顯示出優勢。

　　Open AI 直接稱它爲“世界模擬器”，宣告它能夠模擬物理世界中的人、動物和環境的特徵。但該公司也承認，目前Sora的還不完美，依然存在理解不到位和潛在的安全問題。

　　因此，Sora僅對非常少數的人开放測試，Open AI 尚未公布 Sora何時會向大衆开放，但它帶來的震撼足以讓研發同類模型的公司看到差距。

　　Open AI文本生成視頻模型Sora一出，國內又現“震驚體”評價。

　　自媒體驚呼“現實不存在了”，互聯網大佬也吹爆了Sora的能力。360創始人周鴻禕稱，Sora的誕生意味着AGI的實現可能從10年縮短至兩年左右。短短幾天，Sora的谷歌搜索指數迅速拉升，熱度直逼ChatGPT。

　　Sora的爆火源於Open AI 發布的48段視頻，其中時長最長的爲1分鐘。這不僅打破了此前文生視頻模型Gen2、Runway生成視頻的時長極限，而且畫面清晰，甚至它還學會了鏡頭語言。

　　1分鐘視頻中，一位身着紅裙的女性走在霓虹燈林立的街頭，風格寫實，畫面流暢，最令人驚豔的是女主角的特寫，連臉部的毛孔、斑點、痘印都模擬了出來，卡粉脫妝效果堪比直播關掉美顏濾鏡，脖子上的頸紋甚至精准“泄露”了年齡，與臉部狀態做到了完美統一。

　　除了對人物寫實，Sora還能夠模擬現實中的動物與環境。一段視頻維多利亞冠鴿的多角度特寫，超清呈現了這只鳥全身至冠的藍色羽毛，甚至細微到紅色眼珠的動態和呼吸頻率，讓人很難分清這到底是AI生成的還是人類拍攝的。

　　對於非寫實的創意動畫，Sora的生成效果也達到了迪士尼動畫電影的畫面感，讓網友擔憂起動畫師的飯碗。

　　而Sora爲文本生成視頻模型帶來的改進不僅在視頻時長與畫面效果上，它還能模擬鏡頭與拍攝的運動軌跡，遊戲的第一人稱視角，航拍視角，甚至是電影裏的一鏡到底。

　　看完Open AI放出的精彩視頻，你就能理解互聯網圈、社交媒體輿論爲什么會爲Sora感到震驚，而這些只是預告片。

　　那么，Sora是如何實現模擬能力的？

　　按照Open AI發布的Sora技術報告，這個模型正在超越先前圖像數據生成模型的限制。

　　以往的文本生成視覺畫面的研究採用過各種方法，包括循環網絡、生成對抗網絡（GAN）、自回歸變換器和擴散模型，但共性是集中在較少的視覺數據類別、較短的視頻或固定尺寸的視頻上。

　　Sora採用了一種基於Transformer的擴散模型，生圖過程可以分爲正向過程和反向過程兩個階段，以實現Sora能沿時間线向前或向後擴展視頻的能力。

　　正向過程階段模擬了從真實圖像到純噪點圖像的擴散過程。具體來說，模型會逐步地向圖像中添加噪點，直到圖像完全變成噪點。而反向過程是正向過程的逆過程，模型會從噪點圖像逐步恢復出原始圖像。一正一反，虛實來回，Open AI以這種方式讓機器Sora理解視覺的形成。

從全噪點到清晰圖的過程

　　當然，這個過程需要反復地訓練學習，模型會學習如何逐步去除噪聲並恢復圖像的細節。通過這兩個階段的迭代，Sora的擴散模型能夠生成高質量的圖像。這種模型在圖像生成、圖像編輯、超分辨率等領域表現出了優秀的性能。

　　上述過程解釋了Sora能做到高清、超細節的原因。但從靜態的圖像到動態的視頻，仍需要模型進一步積累數據，訓練學習。

　　在擴散模型的基礎上，Open AI將視頻和圖像等所有類型的視覺數據轉換爲統一表示，以此來對Sora做大規模的生成訓練。Sora 使用的表示方式被Open AI定義爲“視覺補丁（patches）”，即一種更小數據單元的集合，類似於GPT中的文本集合。

　　研究者首先將視頻壓縮到一個低維潛空間中，隨後把這種表徵分解爲時空patch，這是一種高度可擴展的表徵形式，方便實現從視頻到patch的轉換，也正適用於訓練處理多種類型視頻和圖片的生成模型。

將視覺數據轉化爲patches

　　爲了用更少的信息與計算量訓練Sora，Open AI 开發了一個視頻壓縮網絡，把視頻先降維到像素級別的地低維潛空間，然後再去拿壓縮過的視頻數據去生成 patches，這樣就能使輸入的信息變少，從而減少計算壓力。同時，Open AI還訓練了相應的解碼器模型，將壓縮後的信息映射回像素空間。

　　基於視覺補丁的表示方式，研究者能對Sora針對不同分辨率、持續時間和長寬比的視頻/圖像進行訓練。進入推理階段，Sora能通過在適當大小的網格中排列隨機初始化的patches來判斷視頻邏輯、控制生成視頻的大小。

　　Open AI報告，在大規模訓練時，視頻模型就表現出令人興奮的功能，包括Sora 能夠真實模擬現實世界中的人、動物和環境，生成高保真的視頻，同時實現3D一致性、時間一致性，從而真實模擬物理世界。

　　從結果到研發過程，Sora顯示着強大的能力，但普通用戶還無從體驗，目前只能寫好提示詞，在X上@Open AI創始人Sam Altman，由他作爲二傳手，幫網友們在Sora上生成視頻後放出來給公衆看效果。

　　這也不免令人懷疑Sora是否真的如Open AI官方展示得那么牛。

　　對此，Open AI直言，目前模型還存在一些問題。如同早期的GPT一樣，現在的Sora也有“幻覺”，這種錯誤表示在以視覺爲主的視頻結果上顯示地更爲具象。

　　例如，它不能准確地模擬許多基本相互作用的物理過程，例如跑步機履帶與人的運動關系，玻璃杯破碎與杯內液體流出的時序邏輯等等。

　　在下面這個“考古工作者們挖掘出一個塑料椅”的視頻片段裏，塑料椅直接從沙子裏“飄”了出來。

　　還有憑空出現的小狼崽，被網友戲稱爲“狼的有絲分裂”。

　　它有時也分不清前後左右。

　　這些動態畫面中存在的紕漏似乎都在證明，Sora仍需要對物理世界運動的邏輯去做更多的理解和訓練。此外，相比ChatGPT的風險，給人直觀視覺體驗的Sora存在的道德、安全風險更甚。

　　此前，文生圖模型Midjourney已經告訴人類 “有圖不見得有真相”，人工智能生成的以假亂真的圖片开始成爲謠言要素。身份驗證公司 iProov 的首席科學官紐維爾博士就表示，Sora能讓“惡意行爲者更容易生成高質量的假視頻。”

　　可想而知，如果Sora生成的視頻被惡意濫用，搞在欺詐和誹謗、傳播暴力和色情上，造成的後果也難以估量，這也是Sora讓人在震驚之余還會害怕的原因。

　　Open AI也考慮到了Sora可能帶來的安全問題，這大概也是Sora僅對非常少數人以邀請制开放測試的原因。何時會大衆开放？Open AI沒有給出時間表，而從官方釋出的視頻看，其他公司追趕Sora模型的時間不多了。