嘗試這個簡單的練習：與親人或同事坐下來，詢問他們明年夏天的度假計劃，但同意他們在你提出每個問題後，會保持沉默等待兩到十秒，然後再說任何話。結果將是尷尬、緩慢、不自然的對話；一點也不闲聊或吸引人。

接下來，去 ChatGPT 詢問你明年夏天想去度假的任何特定地方。你會得到類似的體驗。你的每個問題和你得到的答案之間偶爾會有不自然的延遲，偶爾還會有錯誤的答案。如果你在商業中使用 ChatGPT 或大多數其他 AI 平台，你就會大規模地獲得這種體驗，而且你爲此付出了高昂的代價。根據埃森哲的估計，超過一半的公司難以讓他們的聊天機器人識別個人背景，這一限制可能會導致業務流失。

更自然的人性化、更少人工智能的體驗將需要更具互動性、更具吸引力的體驗，並且不會超出預算。

爲什么要等待？

正如 Nvidia 的股價所示，人工智能已經投入了大量的計算能力來解決這個問題。是的，隨着摩爾定律效應和 GPU 架構的不斷增強，人工智能將會有所改進，但它們只能以合理的成本解決部分問題。當今的人工智能面臨兩個基本問題：

鄰近性 - 人工智能服務位於大型遠程數據中心，導致傳播、序列化和路由延遲。根據麥肯錫的數據，大約 70% 的新數據中心需求是由人工智能推動的，但並非所有數據中心都位於城市中心。

處理 - 爲了盡可能正確，人工智能會深入思考每個答案，自己掃描數據庫和網絡以尋找關鍵數據來得出結論。

人類智能是如何做到這一點的？

我們的大腦在局部範圍內面臨同樣的問題。瞬間反應和適應能力使我們成爲幸存者，並使我們登上食物鏈的頂端，並使我們成爲優秀的溝通者，這來自於我們大腦的工作結構，在行爲科學界被稱爲系統 1 和系統 2。

丹尼爾·卡尼曼和阿莫斯·特沃斯基在 2011 年獲得諾貝爾獎的研究和隨後的著作《思考，快與慢》中介紹了這一概念，該書徹底改變了行爲經濟學，他們將人類大腦從根本上劃分爲系統 1，這是一個快速思考的系統，使用簡化的“啓發式”進行大多數決策，以及系統 2，這是一個緩慢的深度思考系統，用於推理和概念开發。

我們的感官可以快速訪問系統 1，我們在那裏做出超過 95% 的決策。我們盡量避免使用系統 2，因爲它是一種有限的資源，一次只能處理一件事。系統 1 的啓發式方法包括本能、技能，以及偏見，這暗示了未來人工智能架構中將要單獨討論的一個問題。會話西班牙語和流利程度之間的區別在於它是在系統 1 中還是在系統 2 中。還記得學开車有多難嗎？你是在系統 2 中學的，而你的大腦討厭使用它。知道你支持哪支足球隊嗎？立刻知道。你已經把它存儲在系統 1 的偏見中。

簡而言之，人工智能在變得不那么人工化方面的一個根本限制是它完全是系統 2。

邊緣人工智能

邊緣有助於回答人工智能面臨的一個問題，鄰近性。它不會在用戶I/O和“感知”之間引入延遲。正如Gartner在關於邊緣計算的五大驅動因素的報告中所詳述的那樣，它還比本地數據中心更可靠，更X、更Y、更z。

在處理方面，邊緣至少在有限的規模上與雲一樣具有成本效益，並且更具動態性，使用 Wasm（WebAssembly），這是一種針對效率進行了優化的二進制指令格式，並且與 C、C++ 和 Rust 等高級語言兼容編譯。然而，邊緣無法與雲相媲美，無法成爲處理深度思考任務的地方。從大腦的角度來看，邊緣是系統 1 的地方，而雲是系統 2 的地方。

有早期跡象表明 AI 架構正在朝這個方向發展。2024 年 8 月，我們在 Fastly 宣布了一項名爲“AI Accelerator”的功能，使用了一種名爲語義緩存的新功能。從根本上講，語義緩存會“記住”對 AI 的詢問的答案，重復回答語義相似的問題，而無需重新詢問 AI 核心。在聊天機器人示例中，這可以減少回答時間和核心 AI 成本，這些成本是根據使用情況計量的。

下一步呢？

AI 开發的下一步顯然是讓邊緣應用程序創建更多類似系統 1 的功能：本地技能和本地行爲以類似於本能。局部近似？嗯，有時快速給出的正確答案比緩慢給出的完美答案要好。AI 需要更好地理解什么時候哪種方式更可取。

無論如何，邊緣計算將是邁出下一步的關鍵，這樣 AI 就可以對上下文做出最佳猜測，並進行更順暢、更自然的對話，而不會產生與機器人交談的尷尬、事務性的感覺。今天的 AI 正在過度思考許多簡單的任務。這種情況必須隨着時間的推移而改變，AI 才能擴展到我們所有人。

作者：彼得·亞歷山大（Peter Alexander）

標題：邊緣計算讓人工智能更加人性化

地址：https://www.utechfun.com/post/448726.html