AI正在快速發展，其動力不僅來源於持續的技術進步，還來自各個行業的需求和要求。隨着大型語言模型（LLM）和生成式AI的激增，行業正在努力解決這些基於雲的AI應用處理大數據以及訓練和部署高級AI模型所需的密集計算能力。如今AI被應用於各種客戶端設備中，包括PC和智能手機，以及汽車和工業設備（如機器人和醫療設備）的網絡邊緣應用中，這些設備在網絡邊緣較小的語言模型上運行。

萊迪思團隊最近與TECHnalysis Research總裁兼首席分析師Bob O'Donnell舉辦了一場小組討論，探討了網絡邊緣AI時代的到來，以及基於FPGA的解決方案在加速各行業網絡邊緣AI普及方面的作用。繼續閱讀本文探索FPGA在推動網絡邊緣AI創新方面的重要作用。

網絡邊緣AI如何推動創新

雖然基於雲的AI提供了更強大的計算能力和存儲容量，但它需要極強的處理能力、能耗、網絡帶寬要求更高，並導致延遲增加。通過將處理任務分擔到本地設備，網絡邊緣AI減輕了集中式服務器的負擔並降低了運營成本。通過優化資源利用率和最大限度地減少數據傳輸可以提高能效。網絡邊緣AI還能確保數據的本地化，減少傳輸或存儲過程中的風險暴露，從而更好地控制數據，實現隱私和數據保護。

網絡邊緣AI在工業市場變革方面發揮着關鍵作用，在智能工廠和機器人等自動化功能至關重要的物聯網應用中，邊緣AI 是實現實時預測和數據處理的關鍵推動因素。例如，在制造工廠中，自動化機器必須每次都能夠以相同的精度和速度執行任務。這些應用和環境要求實時網絡連接和精准定時功能，便於大量傳感器和其他外設能夠快速交換和處理數據，以全面了解其所在環境。

然而，盡管網絡邊緣AI的需求及其潛力巨大，但有效實施仍然充滿挑战。資源限制、能效和可擴展性等難題都可能阻礙人們利用網絡邊緣AI的優勢來取得重大的業務成果。爲了解決這些障礙，組織越來越多地利用FPGA技術，因爲這些器件具備優秀的靈活性、低功耗、並行處理功能和安全性。

FPGA在網絡邊緣AI中的作用

隨着網絡邊緣AI的需求和優勢不斷增長，开發人員和組織正在尋求AI模型運用到他們的應用中——同時考慮到速度、靈活性和效率。FPGA具有低功耗傳感器融合處理和橋接功能，是完成這項任務的理想選擇。

萊迪思FPGA對於實現可擴展的網絡邊緣AI應用至關重要，因爲它們具備以下特性：

• 適應性：FPGA可以配置執行特定的AI任務，進一步幫助开發人員根據其獨特需求定制應用。通過確保網絡邊緣AI應用最大的效能優化，提高其性能可靠性。

• 可擴展性：相比於功能固定的處理器，FPGA擁有無可比擬的靈活性，可以在部署後進行修改和更新，確保網絡邊緣AI設備即使在需求發生變化時也能保持相關性和有效性。

• 互連：FPGA的可定制I/O接口支持在各種環境中連接到各種邊緣AI應用（例如，攝像頭、激光雷達、雷達、環境傳感器）。這有助於降低利用多個不同傳感器和SoC的復雜性，實現更高性能、自適應接口以及橋接和傳感器融合處理。

• 低延遲/高性能：FPGA顯著減少了傳感器數據採集和處理之間的延遲，從而實現更快的響應和更高的系統性能。通過在FPGA上執行預處理任務和數據聚合，網絡邊緣AI設備的計算引擎可以專注於更復雜的任務，提高整體系統效率，同時簡化主SoC工作負載，降低主處理器的功耗和復雜性。

不斷增長的邊緣 AI 實施行業生態系統

隨着組織越來越多地使用系統級方法執行處理，萊迪思也與NVIDIA建立合作，幫助客戶加速網絡邊緣AI的實施。去年，我們宣布建立了合作夥伴關系，並推出了一款全新的集成解決方案，將萊迪思的低功耗FPGA與NVIDIA Jetson Orin和IGX Orin平台結合在一款开源參考板上。它旨在滿足开發人員在設計高性能網絡邊緣AI應用時對可定制性、可擴展性、連接性和低延遲的需求。

該解決方案幫助开發人員快速設計從傳感器到計算的互連橋接應用，同時簡化和加速部署需要不同傳感器輸入接口和協議的智能網絡邊緣系統。

這個基於FPGA的傳感器橋接參考設計是在萊迪思CertusPro™-NX傳感器-以太網橋接板上實現的，它支持低延遲、靈活的傳感器配置和接口，以及以太網打包器。該設計可與英偉達Holoscan傳感器橋接軟件無縫結合，提供易於編程的系統控制、隨時可用的可配置FPGA IP，以及利用英偉達IGX Orin和Orin AGX Holoscan進行數據採集和處理的全棧解決方案。該方案可用於實際場景，助力要求並行處理和精確定時的高效傳感器融合，以及需要態勢感知和對象檢測功能的激光雷達和雷達技術。

使用FPGA實現低功耗AI

萊迪思FPGA技術的集成對於推進網絡邊緣低功耗AI至關重要。隨着AI的不斷發展，對高效、可擴展和適應性強的解決方案的需求變得越來越重要。FPGA提供低功耗、並行處理能力和靈活性，這一獨特的功能組合使其成爲網絡邊緣AI應用的理想選擇。

各行各業都可以通過萊迪思FPGA克服資源限制、能效和可擴展性方面的挑战。這些可編程器件支持實時數據處理和預測，這對於工業設備、醫療設備、汽車和機器人領域的應用至關重要。FPGA的適應性可以幫助用戶量身定制AI解決方案，以滿足各種環境的特定需求，確保最佳性能和可靠性。

隨着萊迪思的持續發展，FPGA在提供低功耗AI方面的作用將繼續擴大，爲开發人員提供充分利用網絡邊緣AI潛力所需的工具。

       原文標題 : 加速發展網絡邊緣人工智能

標題：加速發展網絡邊緣人工智能

地址：https://www.utechfun.com/post/435899.html