一項新調查揭示了企業面臨的五大新興風險，對人工智能（AI）增強型惡意攻擊的擔憂在2024年第一季度的新興風險排名中位居榜首。

人工智能輔助工具引發惡意行爲的前景令全球風險領導者感到擔憂。語音和圖像生成等人工智能輔助工具相對易於使用且質量高，增強了實施惡意攻擊的能力，並帶來廣泛後果。

今年第一季度，Gartner對345名高級企業風險主管進行了調查，以捕捉和評估他們面臨的20大新興風險，並讓領導者了解這些風險的原因和潛在後果。

在2024年第一季度的調查中，與人工智能相關的風險佔據了前兩位，其中人工智能增強型惡意攻擊被列爲最大的新興風險，人工智能輔助的虛假信息也引起了人們的擔憂。

人工智能攻擊和錯誤信息的原因

人工智能攻擊和虛假信息的主要驅動因素之一是其能力的快速擴展。人工智能增強可以提供惡意代碼，並促進網絡釣魚和社會工程，從而實現更精准的入侵、更高的可信度和更具破壞性的攻擊。

低成本和快速增長也讓用戶接觸到了這項技術，而他們卻不太清楚如何識別人工智能工具提供的信息是有效信息，還是虛假或歪曲的信息。

需要緩解的潛在後果

人工智能增強型攻擊和錯誤信息的潛在影響是深遠的，會對聲譽、生產力和組織的響應能力產生重大影響。違規行爲和披露要求的增加可能會削弱客戶、消費者和合作夥伴對組織和品牌的信任。

人工智能增強型攻擊和錯誤信息的速度和質量，也阻礙了信息安全團隊應對和適應新安全形勢的能力，進一步放大了其漏洞。

以下是AI攻擊成爲企業面臨的新主要風險的一些關鍵原因：

自動化攻擊手段：

AI技術可以用於自動化網絡攻擊，例如自動化的釣魚攻擊（phishing）和分布式拒絕服務攻擊（DDoS）。這些攻擊可以以更高效、更大規模進行，難以被傳統防御手段快速檢測和阻止。

智能化惡意軟件：

AI驅動的惡意軟件能夠學習並適應防御系統，變得更加隱蔽和難以檢測。例如，AI可以幫助惡意軟件不斷修改自身代碼以避免被防病毒軟件發現。

社會工程攻擊：

AI技術可以通過分析社交媒體和其他公开數據，生成更爲逼真的社會工程攻擊。例如，使用AI生成的語音或視頻，可以模仿企業高層，實施詐騙行爲（如CEO欺詐）。

數據泄露和隱私風險：

AI技術能夠更快地處理和分析大量數據，這使得一旦數據被不法分子獲取，他們可以更快速地識別並利用敏感信息，導致更嚴重的數據泄露和隱私侵害。

對抗性攻擊：

AI模型本身也成爲攻擊目標。攻擊者可以通過對抗性樣本（adversarialexamples）來欺騙AI系統，使其做出錯誤判斷。這在自動駕駛、金融交易等高風險應用中尤其危險。

深度僞造技術：

深度僞造（Deepfake）技術可以生成高度逼真的假視頻和音頻，這不僅威脅到個人隱私和聲譽，也可能被用來傳播虛假信息，影響公共輿論和企業聲譽。

供應鏈攻擊：

AI可以用於識別並攻擊企業供應鏈中的薄弱環節，導致整個供應鏈的安全風險增加。例如，攻擊者可以通過AI分析找到最易受攻擊的供應商進行入侵，然後通過供應商網絡進入目標企業系統。

企業應當採取多種措施來應對AI帶來的安全威脅，包括：

加強網絡安全防護：採用先進的安全技術和策略，如零信任架構、多因素認證和持續監控。
員工培訓和意識提升：提高員工對AI相關安全威脅的認知，培養其防範社會工程攻擊的能力。
引入AI安全技術：利用AI技術增強安全防護，例如威脅檢測和響應系統、異常行爲分析等。
制定應急響應計劃：確保企業具備快速應對和恢復的能力，以減少潛在攻擊的影響。

通過這些措施，企業可以更好地應對AI技術帶來的新型安全挑战，保護自身免受攻擊。

---

標題：人工智能攻擊成爲企業面臨的新主要風險｜觀點

地址：https://www.utechfun.com/post/379915.html