在無數科幻遊戲、科幻電影以及小說中，當科技爆發到了一定階段，總少不了AI的身影。它們不喫不喝，卻又無所不知，扮演着人類身邊“完美搭檔”的角色。
微軟遊戲《光環》中角色——科塔娜（圖源網絡）
正如一切幻想都需要建立在認知之上，人們對於AI的終極思考和幻想，無論如何也是繞不开現實世界的。
實際上，盡管人工智能代表了最前沿科學技術，但它距離我們並不遙遠，對大部分人來說，日常用到AI的次數，其實遠比大家想象中多得多。
AI，隨處可見
眼下談及AI，大家會想到以ChatGPT代表的衆多生成式AI應用。它們可以自動生成文本、摘要、翻譯、對話，也可以用於生成逼真的圖像、視頻和動畫，甚至協助用戶創作音樂，幫助开發者撰寫代碼等等。
AI能做的事情遠不止這些，只不過ChatGPT的到來，讓人們對於AI能做什么有了切實體驗。
手機人臉識別
其實在日常生活中，AI應用隨處可見，比如在AI視覺方面，小區的門禁系統，手機的人臉解鎖，超市的人臉支付等等都用到了AI人臉識別技術。
還有每個人都離不开的智能手機，同樣應用了大量的AI技術。最典型的就是影像場景，手機以遠不及相機的光學素質卻能拍出媲美專業設備的夜景照片和視頻，AI在其中起到了決定性的作用。
以最新的驍龍8Gen2第二代驍龍8旗艦手機爲例，高通給第二代驍龍8移動平台注入了強悍的AI“靈魂”，使得智能手機的拍照體驗得到了進一步的提升。高通在驍龍平台打造了業內首個“認知ISP”，由此還實現了一種叫“實時語義分割”的技術，該技術有點類似PS中的圖像分層，可針對圖像中的不同區域進行獨立優化，大到背景，小到面部細節，都能進行獨立優化。
具體來說，大家平時拍照時用到的背景虛化，或者更換風格化背景圖案，以及針對人像用到的一些美顏、美膚處理等等，借助實時語義分割實現起來將變得更加輕松。
這是AI在移動影像中的簡單用例，但透過這個例子，不難發現今天的智能手機早已和AI深深綁定。事實上，除了OCR掃描、智能語音助手、圖庫分類、屏幕識別、面部識別這類比較常見的手機AI應用外，AI還在網絡連接、音頻、遊戲、續航方方方面發揮着重要作用，比如上網時，合理分配網絡，讓蜂窩信號、Wi-Fi更穩定；玩遊戲時，智能調用系統資源，讓畫面更流暢等等。
終端側算力大漲，AI大模型下沉
和智能手機一樣，AI在汽車、XRP、PC、物聯網領域同樣有着廣泛的應用，也正是基於這種“AI+”的形式，從而湧現出了更多創新的應用場景，進一步豐富用戶體驗。
無論是手機還是汽車，作爲獨立的終端產品，與AI相結合確實有那么點天作之合的意思。但必須承認，盡管此前業界討論AI的聲量很大，但距離大模型AI真正落地終端側，還是有一段距離的。
不同於雲端AI，在終端側部署AI不是說想做就能輕易實現的，比如算力問題。和雲端可以提供的算力相比，終端側所能提供的算力就很有限了，像目前比較火的一些大模型，過去就很難在智能手機這樣的終端產品上運行。這就意味着，想要AIGC應用在智能手機上有個很好的體驗，其實很不容易，正如在雲端生成一張AI圖片可能只需要十幾秒，但在手機上可能就要幾分鐘甚至更久，體驗可以說是大打折扣。
不過“有難度”並不代表“沒可能”。其實早在今年2月份，高通就已經發布了全球首個運行在Android手機上的Stable Diffusion終端側演示，Stable Diffusion本身就是一個基於輸入的文本生成圖片的AI模型，它的參數超過10億，這樣的參數規模過去只能在雲端計算集群內運行，現如今也終於可以在終端側運行了。
很顯然，沒有強力的算力作爲支撐，實現這樣的“壯舉”幾乎是不可能的。而高通之所以可以首個實現，這裏不得不說到驍龍移動平台。
以最新的第二代驍龍8移動平台爲例，這款芯片的AI計算能力已經是天花板級別的了。
根據全球知名的AI基准測試網站AI-Benchmark排名統計，我們發現在前十位的智能手機中，搭載第二代驍龍8移動平台的機型就佔據了八席，其中就包括第一到第七名。
事實上，第二代驍龍8移動平台能夠在AI計算方面大殺四方並不令人感到意外，它搭載最新的高通AI引擎，全新升級了Hexagon處理器，支持更高規格的張量加速器，並且增加硬件加速，從而可以快速高效地運行Transformer網絡，這也使得第二代驍龍8在自然語言處理應用上有着更突出的優勢。
除此之外，驍龍移動平台一向具備出色的可拓展性，大部分驍龍移動平台通常都有一個Hexagon處理器，但如果面向的對象對AI計算量需求更高，比如汽車，則會使用兩個甚至多個Hexagon處理器來提高算力，這無疑爲在更多元的終端設備上部署AI提供了強大的算力支持。
高通AI軟件棧，跨終端部署利器
借助第二代驍龍8移動平台，讓我們看到了高通在硬件方面的一些優勢，其實在推動終端側AI部署過程中，高通在軟件方面所提供的技術，同樣起到至關重要的作用。
此前高通發布了可使AI由單一終端較容易地擴展到其他各種終端的高通AI軟件棧(Qualcomm AI Stack)，它爲OEM廠商和开發者提供一套完整的AI解決方案，這套方案是集成所有AI框架、开發者庫、操作系統的整合平台，也同時具備了“一次开發，多終端使用”的特點，簡單來說，用戶只需要开發一次模型，就能在不同的高通產品創建、優化和部署其AI應用，充分利用高通AI引擎的性能。
前面我們提到了高通AI Research利用高通AI軟件棧執行全棧AI優化，這一全棧優化最終讓Stable Diffusion能夠在智能手機上運行，在15秒內執行20步推理，生成一張512x512像素的圖像。
而在智能手機上運行Stable Diffusion只是开始。目前，高通已經能夠實現在搭載驍龍計算平台的筆記本電腦上運行Stable Diffusion，憑借行業領先的高通AI引擎，基於驍龍計算平台的筆記本電腦在MLCommons V3.0上率先實現了出色的MLPerf基准測試結果。在終端側運行如此大規模AI用例，高通再一次走在了行業前面。
最後：
作爲終端側AI的重要推動者，高通已經成爲推動終端側AI規模化發展的關鍵力量，相關技術正在賦能數十億的終端產品。如今看來，無論是單一產品優秀的性能功耗表現，還是規模化成果，以及跨AI應用、模型、硬件與軟件的全棧終端側AI優化，高通都存在着顯著優勢。
很顯然，在AI即將迎來“質變”的關鍵時刻，高通正扮演着愈發關鍵的角色。甚至就在不久前，高通正式發布《混合AI是AI的未來》白皮書，明確提出了雲邊一體混合AI發展路徑。從架構設計來看，混合AI適用於幾乎所有生成式AI應用和終端領域，而且具備低成本、高效率、低能耗、運行穩定、隱私性強等優勢，對开發者，對用戶，都可以說是非常值得期待的。
無論如何，AI發展的終極目標還是更好服務於人，這個過程肯定艱難的，不過也正因爲有了更多人的努力，才讓目標離我們越來越近，直至觸手可及。
標題：AI走向終端，掌上“萬能助手”離我們還遙遠嗎？
地址：https://www.utechfun.com/post/230767.html