未來幾年，人工智能將成爲網絡威脅和公司應對這些威脅的主要因素。以下是應對這些新威脅以及決定如何將人工智能融入網絡安全運營時需要牢記的一些主要趨勢。

人工智能極大地加快了網絡威脅形勢的變化速度。它大大降低了全球網絡犯罪分子的進入門檻，從廣泛使用的強大社交工程工具（如大型語言模型(LLM)和深度僞造）到人工智能驅動的監控和數據分析。與此同時，企業越來越多地使用人工智能通過漏洞評估、補救和自動化安全任務來加強其網絡防御。

趨勢一：人工智能將推動新一波社會工程攻擊

LLM和深度僞造的出現將使社會工程變得更加有效。根據《2024年數據泄露調查報告》，68%的泄露事件涉及人爲因素。這就是爲什么網絡犯罪分子利用其武器庫中的新AI武器來欺騙和操縱員工以滲透網絡、竊取敏感信息並竊取資金。

例如，網絡犯罪分子正在使用LLM大量制作高度個性化且令人信服的網絡釣魚信息，受害者更有可能點擊這些信息。谷歌報告稱，公司應該預料到LLM會被“用於網絡釣魚、短信和其他社會工程操作”。與此同時，微軟已經觀察到全球主要網絡犯罪組織廣泛使用LLM。

網絡犯罪分子還利用深度僞造發起復雜的多層次網絡攻擊。例如，受害者收到網絡釣魚信息後，可能會打電話確認，最終與深度僞造的對話者交談。

趨勢二：人工智能將迫使企業重新評估現有的網絡安全流程

雖然人工智能爲企業提供了比以往更廣泛的網絡安全工具，但該技術的快速發展也引發了一場人工智能軍備競賽——隨着防御能力的提高，入侵方法也在不斷改進。這意味着首席信息安全官和其他安全領導者將不得不重新評估幾種主要的網絡安全機制。

例如，深度僞造將使生物特徵身份驗證變得不那么有效，最新研究發現，到2026年，30%的企業將不再認爲這些“身份驗證解決方案單獨來看是可靠的”。各家企業正在建立支持人工智能的“身份威脅檢測和響應”工具，例如根據內容、發件人憑證和電子郵件標頭信息分析消息的網絡釣魚防御。但網絡犯罪分子也在借助LLM和其他人工智能工具开發變通方法，而網絡釣魚仍然是最常見且成本第二高的初始攻擊媒介。

預計到2025年，人工智能將要求企業在應用和數據安全方面的支出至少增加15%。這與其他研究一致，例如普華永道最近的一份報告發現，79%的高管將在2024年增加網絡支出，高於2023年的64%。首席信息安全官和其他安全領導者必須確定如何盡可能有效地進行這些投資。

趨勢三：人工智能將對供應鏈網絡安全產生重大影響

供應鏈泄露是最具破壞性的網絡攻擊之一。SolarWinds黑客攻擊是有史以來最大的入侵事件之一，該企業發現“最有可能的攻擊媒介是通過第三方應用獲取憑證和/或訪問。”根據Verizon的最新數據，2023年至2024年間，涉及泄露的“供應鏈互連”數量增加了68%。

預計到2025年，全球45%的組織將遭受針對其軟件供應鏈的網絡攻擊，這一數字比2021年增加了三倍。供應鏈網絡攻擊的新時代已經到來。IBM報告稱，2023年27%的總違規行爲可歸因於對軟件或業務合作夥伴供應鏈的攻擊。

企業可以使用人工智能來運行模擬，以反映潛在的供應鏈攻擊，檢測欺詐和惡意網絡活動，並幫助企業在發生違規時縮短響應時間。但人工智能也允許網絡犯罪分子探測供應鏈中潛在的薄弱環節，並發起社會工程攻擊，讓他們立足於關鍵接入點。這些提醒我們，在整個供應鏈中實施正確的安全協議至關重要，從人工智能識別和響應系統到高質量的網絡安全意識培訓。

趨勢四：人工智能時代，全面的網絡安全至關重要

人工智能軍備競賽愈演愈烈，企業不能再等待最新的網絡安全技術發布。在社交工程仍然是大多數網絡攻擊的首選策略的時代，安全領導者必須確保在企業的各個層面培養網絡安全文化，並爲員工提供保護組織所需的資源。

IBM表示，員工培訓是數據泄露總體成本中最重要的緩解因素之一，其作用超過了保險、加密、人工智能驅動的洞察力和其他資源。人工智能和網絡安全培訓應該相輔相成。預計到2028年，威脅檢測和事件響應中的多智能體人工智能佔人工智能實施的比例將從5%上升到70%，主要用於增強員工能力，而不是取代員工。

網絡安全意識培訓必須不斷發展以滿足人工智能時代的需求。這不僅僅意味着培訓員工識別復雜的LLM生成的網絡釣魚消息和深度僞造。它還意味着利用人工智能生成預測行爲檔案，通過定制幹預措施解決員工的特定弱點，並在員工不再信任自己的眼睛和耳朵的時代賦予員工阻止網絡攻擊的能力。企業必須優先投資於人工智能增強員工隊伍，而不僅僅是任務自動化。爲GenAI帶來的短期支出增加和長期技能需求變化做好准備。

近90%的組織仍在研究或試用生成式人工智能，因此很難預測哪些技術和應用會隨着炒作周期而消退，哪些技術和應用會繼續存在。但企業可以通過制定全面的網絡安全战略來應對未來的任何情況，該战略既能利用人工智能的力量，又能讓員工做好准備，抵御這項革命性技術帶來的快速演變的威脅。

---

標題：2024年重塑網絡安全的主要人工智能趨勢

地址：https://www.utechfun.com/post/419391.html