去年，生成式人工智能的採用率急劇上升。雖然該技術有望實現創新和生產力，但數據安全和泄露的風險卻困擾着組織。與生成式人工智能相關的一些風險包括數據濫用、數據泄露和數據中毒。這是因爲生成式人工智能是一種大型語言模型(LLM)，它依賴於大量數據來產生輸出。隨着人工智能的日益普及和發展，理解和減輕固有風險對組織來說變得越來越重要。

與人工智能相關的三大風險

大多數生成式人工智能風險源於用戶如何提出提示以及工具如何收集、存儲和處理信息。以下是與生成式人工智能工具相關的三個主要風險。

數據泄露風險

生成式人工智能系統通過大型數據集和用戶提供的提示來學習和改進。提示用於立即分析，並且通常保留在人工智能的後端中，以供將來的訓練和模型優化。它們也經常由人類操作員進行分析。這帶來了無意中暴露敏感信息的潛在風險。

與此類人工智能工具交互的員工，可能會在不知不覺中在提示中泄露機密或敏感細節。例如，最近發生的一起事件顯示，三星員工將機密代碼上傳到ChatGPT，從而暴露了企業最敏感的信息。他們還使用ChatGPT創建會議記錄和總結業務報告，無意中泄露了機密信息。

雖然這只是一個例子，但在很多情況下，員工在不知情的情況下將敏感信息上傳到人工智能軟件，使企業的數據面臨風險。

人工智能工具中的漏洞

與任何軟件一樣，生成式人工智能工具也不能免受安全漏洞的影響。這些漏洞可能會給用戶數據和更廣泛的系統安全帶來重大風險。一些潛在的違規行爲包括：

數據泄露：人工智能系統存儲大量信息數據集，如果黑客利用漏洞，並滲透托管生成人工智能工具的計算機系統或網絡，這些信息可能會面臨風險。這樣，黑客就可以訪問敏感數據，包括用戶生成的提示、企業內部文檔等。

模型操縱：惡意行爲者可能操縱人工智能模型，可能導致有偏見或不准確的輸出、錯誤信息活動或有害內容。

數據中毒或竊取

生成式人工智能模型嚴重依賴的數據集通常可以從互聯網上抓取，從而使數據容易受到數據中毒和竊取。

數據中毒是指惡意威脅行爲者將誤導性或錯誤的數據注入現有的訓練集中，從而破壞或操縱人工智能的學習過程。這可能會導致有偏見、不准確甚至有害的用戶輸出。

當人工智能組織缺乏足夠的數據存儲和安全措施時，可能會發生數據竊取，從而可能暴露敏感的用戶信息或專有知識產權。這些被盜數據可用於各種惡意目的，例如身份盜竊。

使用生成式人工智能帶來的另一個困境是黑客利用該技術進行威脅。黑客使用生成式人工智能發起高度復雜的網絡釣魚攻擊，用戶無法區分合法電子郵件和黑客編寫的電子郵件，從而導致網絡攻擊。威脅行爲者還利用人工智能進行深度虛假攻擊，利用合法機構的面部表情、聲音或音頻來操縱目標採取某些行動或泄露敏感信息。

如何降低生成式人工智能風險？

組織可以通過以下幾種方式減輕生成式人工智能風險並安全地利用該技術。

教育員工：最關鍵的一步是教育員工了解使用人工智能工具的潛在風險。對收集、處理和存儲信息的教育可以使他們正確地進行提示。組織可以通過制定人工智能使用指南並提及該行業所需的合規性或監管指南來防止數據泄露和其他相關攻擊。

進行法律審查：每個人工智能工具都有其規定。這些需要由組織的法律部門進行審查，以確保它們保持一致。對於金融服務或醫療保健等受到嚴格監管的行業來說，這一點更爲重要。法律團隊可以就數據收集、存儲和使用條款和條件向公司發出警告，並查看它們是否與公司一致。

保護用於訓練人工智能的數據和數據集：數據安全應該是構建自己的生成人工智能工具的組織的首要任務。他們必須優先考慮符合預期目的的數據，並避免在數據選擇時引入偏見或敏感信息。匿名信息也至關重要，因爲它可以最大限度地降低識別個人的風險，同時保留人工智能模型的數據實用性。組織還應通過建立明確的數據治理策略和訪問控制機制來優先考慮數據安全措施，以限制只有授權人員才能訪問敏感數據。

建立零信任系統：組織可以通過採用零信任安全模型，僅向需要執行任務的特定員工授予對敏感數據和信息的訪問權限。這種精細控制顯着減少了整體攻擊面，並防止了心懷不滿的員工或意外錯誤可能導致操作人工智能工具時數據泄露或盜用的情況。

結論

生成式人工智能憑借其自動化任務、生成獨特內容和個性化用戶體驗的能力，有可能徹底改變行業。然而，它也伴隨着固有的風險。其中包括數據隱私問題、偏見和濫用的可能性。

通過預防措施來應對風險，而不是阻止生成式人工智能的使用，將使組織能夠充分利用這項技術。通過實施強有力的安全措施、促進負責任的數據治理實踐和優先考慮用戶教育，可以減輕這些風險。

---

標題：企業如何管理生成式人工智能風險？

地址：https://www.utechfun.com/post/339073.html