NVIDIA Instant NeRF將圖像變爲 3D 場景

2024-04-20 18:33:23    編輯: robot
導讀 編者注:本文屬於《解碼 AI》系列欄目,該系列的目的是讓技術更加簡單易懂,從而解密 AI,同時向 RTXPC 用戶展示全新硬件、軟件、工具和加速特性。 想象一幅風光旖旎的畫面,比如水畔的懸崖峭壁。即...

編者注:本文屬於《解碼 AI》系列欄目,該系列的目的是讓技術更加簡單易懂,從而解密 AI,同時向 RTXPC 用戶展示全新硬件、軟件、工具和加速特性。

想象一幅風光旖旎的畫面,比如水畔的懸崖峭壁。即便只是2D圖像,如此美景依舊令人心馳神往。如果同一畫面能以3D效果展現,那么無需跋涉就能身臨其境。

NVIDIARTX 技術驅動的AI恰恰能讓我們得償所愿。創作者運用 InstantNeRF 便能在短短數秒之間將多組靜態圖像變爲3D數字場景。

簡單好用的輻射場

AI模型NeRF全稱爲“神經輻射場”,可通過輸入表現某個場景的2D圖像並在其間執行插值,渲染完整的3D場景。NeRF以神經網絡的形式運行,後者是一種復制大腦組織形式的模型,常用於需要模式識別的任務。

NeRF在運用空間位置和體積渲染的基礎上,通過圖像的相機位姿對場景的3D迭代進行渲染。這類模型的計算量往往很大,因此對渲染能力的要求很高,耗時也較久。

NVIDIA近日的AI研究項目帶來了破局之策。

InstantNeRF 使NeRF全面升級:通過AI加速的逆渲染,對光的現實表現形式進行估計,幫助研究人員運用從不同角度拍攝的2D 圖像構建3D場景。現在只需幾秒即可生成場景,而且3D渲染成品的精細程度與NeRF模型的訓練時長成正比。

在2022 年的SIGGRAPH計算機圖形會議上,NVIDIA的研究人員發布了四個神經圖形基礎樣例(以及預訓練數據集,均屬於 Instant-NGP 訓練工具集)。人們可以借此用自己的數據創建NeRF。這些研究人員憑借該項成果獲得了最佳論文獎,《時代》周刊也將InstantNeRF 評爲了 2022年度最佳發明。

InstantNeRF 不僅能夠加快NeRF渲染,還可通過NVIDIARTX 和GeForceRTX 台式電腦和筆記本電腦的GPU完成整個圖像重建過程。雖然場景渲染時長取決於數據集規模、圖像和視頻源內容等多種因素,但AI訓練並不需要服務器級或基於雲的硬件。

NVIDIARTX 工作站和GeForceRTX PC 是滿足NeRF渲染計算需求的理想之選。NVIDIARTX 和GeForceRTX GPU 配備專用的AI 硬件加速器TensorCore,可爲在本地運行生成式AI提供強大動力。

各就各位,整裝待發,強勢出擊

开啓InstantNeRF 探索之旅,了解輻射場並以全新方式體驗畫面之美。

开發者和技術發燒友可以下載源代碼庫進行編譯。非技術用戶也可以從GitHub上下載 Instant-NGP軟件的Windows安裝程序。

雖然此安裝程序適用於多種RTXGPU,但擁有最新架構的 GeForceRTX 40 系列和 NVIDIARTX Ada Generation GPU 才能充分發揮它的實力。

https://images.nvidia.cn/cn/youtube-replicates/3TWxO1PftMc.mp4

《InstantNeRF 入門》指南在介紹功能的同時,也將引導用戶完成全程操作,包括加載“NeRFFox”等單個基礎樣例,以便了解可實現的效果。詳細說明和類似上文的視頻演示針對如何使用自定義數據創建NeRF進行了講解,包括獲取優質輸入圖像的方式、基於源代碼編譯代碼庫的技巧等。該指南也針對InstantNeRF 圖形用戶界面的使用、場景參數優化、基於場景創建動畫等內容進行了說明。

此外,NeRF社區也分享了很多幫助用戶入門的技巧和竅門,例如下方的直播和這篇技術博文。

https://images.nvidia.cn/cn/youtube-replicates/z3-fjYzd0BA.mp4

展示與講述

數字藝術家運用NVIDIAInstant NeRF 創作賞心悅目的場景,講述耳目一新的故事。InstantNeRF 圖庫展示的視頻片段都是獨出心裁且引人入勝的典型範例,在任何網絡瀏覽器上都能觀看。

其中包括:

Throughthe Looking Glass,作者:KarenX. Cheng 和JamesPerlman

一位鋼琴家如往常一樣正在練琴,但隨後的畫面卻打破了平凡的日常。觀衆凝視着鏡中的虛擬世界,只可遠觀卻無法進入其中。除非採用非常手段,否則無法踏入一步。當觀衆跨過入口就會發現,這面鏡子其實是一扇窗,連接着一個顛倒的現實世界,可以進入其中探索。哪邊的世界才是真的呢?

https://blogs.nvidia.cn/wp-content/uploads/2024/04/studio-ai-decoded-karenx-v9-1280x680-1.mp4

Meditation,作者:FrancLucent

NicoSantucci 的宅邸中有很多房間,當Lucent一行人走進其中一間之時,他就決定用那裏構建NeRF。編輯池塘的動態範圍和反射引領這位藝術家踏上了未知的探索之旅。他們喜歡那種柔光和NeRF爲房間營造夢幻氛圍的方式,爲冥想开闢了一片理想空間。與照片或視頻相比,NeRF定格的瞬間在沉浸感方面更勝一籌。

https://blogs.nvidia.cn/wp-content/uploads/2024/04/studio-ai-decoded-franc-lucent-meditation-1280x680-1.mp4

Zeus,作者:HuguesBruyère

Bruyère此前通過傳統攝影測量(包括使用無反數碼相機、智能手機、360度相機和無人機)獲得的數據是InstantNeRF 渲染這些3D場景的基礎。在InstantNeRF 強大性能的加持之下,他通過在线圖書館、博物館、虛擬現實體驗和遺產保護項目等渠道參與文化遺產的保護和分享。這一NeRF 是用iPhone拍攝的皇家安大略博物館的照片數據集訓練而成的。

https://blogs.nvidia.cn/wp-content/uploads/2024/04/studio-ai-decoded-hugues-zeus-1280x680-1.mp4

圖像、視頻、現實的層層遞進

借助AI 將圖像變爲3D場景已令人驚嘆,但更神奇的是進行3D 創作。

從InstantNeRF 的一項最近更新开始,用戶可以基於靜態圖像進行場景渲染,模擬置身虛擬環境之中,在3D空間裏自由移動。用戶只要在虛擬現實(VR)環境中戴上頭顯設備,就將完全置身新的世界,感受身臨其境的體驗。

其中蕴藏的潛力幾乎是無窮無盡的。

舉例而言,房屋中介可以創建並分享3D房產模型,升級虛擬看房體驗;零售商可以通過一組圖像和RTX GPU上運行的AI在網店中展示產品。這些AI模型能驅動創造力,讓其他行業也能利用身臨其境的3D 體驗。

使用InstantNeRF 即可在VR中輕松清理場景,降低了高品質NeRF的創建難度。點擊了解有關在VR中應用InstantNeRF 空間的更多信息。

下載Instant-NGP开始創作之旅。您可在社交媒體上添加#InstantNeRF標籤來發布作品。

生成式AI正改變各類遊戲、視頻會議和互動體驗。請訂閱《解碼AI》時事通訊,我們每周都會將新鮮資訊直接投遞到您的收件箱。



標題:NVIDIA Instant NeRF將圖像變爲 3D 場景

地址:https://www.utechfun.com/post/360599.html

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。

猜你喜歡