大模型產業落地，安全運營能否迎來“自動駕駛”時刻？

2024-03-06 18:40:22 編輯： robot

導讀通過一段文字描述，就能生成60秒堪比大片的視頻，來自大模型Sora的出色表現，讓全球都爲之震撼。無論是ChatGPT還是Sora，都只是大模型走出實驗室的第一步，大模型如何在產業中落地，爲具體的行...

通過一段文字描述，就能生成60秒堪比大片的視頻，來自大模型Sora的出色表現，讓全球都爲之震撼。

無論是ChatGPT還是Sora，都只是大模型走出實驗室的第一步，大模型如何在產業中落地，爲具體的行業和場景帶來價值飛躍，才是業內最關心的問題。

隨着百模大战如火如荼，大模型向千行百業垂直領域下沉，安全成爲大模型在B端市場落地最具可行性的行業之一。

全球多家雲和安全廠商如：微軟、谷歌、PA、Crowdstrike、奇安信、騰訊安全都推出了自己的安全大模型。

IDC在《大模型在網絡安全領域的應用市場洞察，2023：破土萌芽，未來充滿無限想象》報告中指出，大模型技術在安全運營、威脅情報、威脅檢測與分析、應用程序安全、數據分類分級等應用場景初露崢嶸。

隨着大模型技術的快速發展，將有更多的網絡安全工具因爲大模型的加入帶來能力、效率和可用性等方面的跨越式發展。

那么，安全大模型能否像Sora一樣，爲安全行業帶來顛覆性的影響？大模型如何在安全運營中發揮作用？又將如何全面走向行業落地？

安全大模型帶來 “效率”革命

近年來AI技術的快速發展，使得網絡安全防護在分析、檢測、策略制定等方面有了很大的提升。盡管AI在攻防對抗中已嶄露頭角，但效果的提升依然緩慢。

“這些年安全行業要解決的問題沒有本質上的變化，無非是黑客打進來，我們要防住。但在防守的環節中，對安全技術的理解、以及對安全工具使用的熟練程度，都會影響防守者的效率。所以，我們一直在思考，這個過程中，攻防的效率有沒有可能出現極大的提升？”騰訊安全副總經理董文輝在採訪中談道。

直到AI大模型的出現，讓整個技術圈都爲之震撼——龐大的規模和深度，使得大模型能夠處理和理解復雜的文本、圖像、聲音，其性能表現超越了傳統的機器學習模型，同時還展現出強大的學習和泛化能力，仿佛展現了人類般的智慧。

“大模型讓安全行業看到了更多提效的可能性”，董文輝表示。

以騰訊安全爲例，2023年底，騰訊安全在混元大模型基礎上，投喂安全知識語料庫二次訓練出安全行業大模型，並且基於安全行業大模型打造了一款騰訊雲AI安全助手，覆蓋告警解釋、漏洞修復、日志處理、智能客服等四大能力。

比如漏洞修復，過去一旦發生漏洞安全事件，安全運營人員不僅要具備豐富的漏洞知識，還需要快速查閱各類漏洞通告和資料，去了解最新漏洞的類型、影響面以及處置方案，整個過程至少需要2-3天、20多次操作。

但是現在有了安全大模型的加持，漏洞修復可以交給騰訊雲AI Copilot來進行輔助，3次對話、5次操作就能走完從發現到處置的閉環。

再比如告警處置，過去發生攻擊時，安全運營人員面對幾十萬乃至上百萬的告警，很難判斷到底發生了什么，以及如何做。

現在通過騰訊雲AI Copilot，安全人員只需要用自然語言對話，就可以清楚地了解告警發生了什么，並讓AI Copilot自動化處置告警。

同時，AI Copilot還能拓展檢測和處置的範圍，用人的語言告訴安全人員，是否在其他地方有類似的問題、還可以做什么來阻斷風險等。

在事件溯源分析時，AI Copilot可以自動化生成報告，也可以讓安全人員通過對話的形式，來完成日志檢索、資產剖析、安全性評估、SOAR劇本生成等操作。

例如，“我要查詢近一個月攻擊過我某資產的所有攻擊者IP”，而不用像以前一樣通過手動操作來查詢。

這種安全服務的自動化，讓安全廠商的客戶成功、售後和工單處理效率大幅提升，“（騰訊雲安全）從每人服務5個客戶提升到了10余人”，騰訊安全副總經理龍海表示。

不難發現，在安全防護的“事前、事中、事後”全生命周期裏，大模型都在爲安全提速——不僅提升了安全產品的體驗和交互效率，也提升了安全廠商服務的效率。

不僅如此，大模型還在安全能力的提升上有着令人驚嘆的表現。

比如，攻擊者通常會通過樣本的快速變種繞過安全產品的防護，AI Copilot則可以快速生成規則，提升樣本的檢出率、准確率，同時相關率也在大幅提升。

盡管這種“水下”的安全能力，不能被用戶直接感知，但大模型技術的加入，的確將安全的水位一次次拉高，爲安全能力的提升帶來了無限的可能性。

安全大模型更需務實

正如風靡技術圈的一句話：“所有行業都值得用大模型重做一遍”，安全行業亦是如此。不過隨着安全廠商蜂擁而上爭做大模型，其整體表現並沒有想象中的那么驚豔，部分安全產品僅僅停留在類似ChatGPT問答對話框的形式改進上，沒有帶來跨越式的效果提升。

如何讓大模型在安全運營中發揮出革命性的作用，其實與安全行業大模型的能力息息相關。

目前，通用大模型對於各個行業的理解還有局限性，因此各大廠商着力在訓練針對行業的垂直大模型。

安全行業大模型就像是安全領域的專家，掌握着更全面的安全知識，具備安全行業的通識和常識，以及在安全領域特有問題上的邏輯推理能力，能夠更精准地解決安全領域內的問題。

爲了進一步提升安全行業大模型的效果，在其之上訓練安全場景模型也必不可少，從而能夠更好地完成一個或多個場景中的任務。

據騰訊安全副總經理龍海表示，騰訊雲的安全行業大模型，就是在騰訊自研的“混元”通用模型基礎上，投喂安全知識語料庫（全部安全數據和日志），訓練成具備安全知識的語言模型，通過3B安全知識庫（未來會擴充至100B）訓練了7B和13B安全基礎模型。

同時，騰訊雲還訓練了多個安全場景模型，以適配雲安全中的多種場景，如：漏洞檢測和分析，告警研判和處置；威脅情報研判和生產等。

事實上，訓練大模型是一個長期投入並不斷調優的過程，這種高投入對廠商的實力要求很高，同時也要求廠商務實地打磨產品，而不是短期追逐熱點。

一方面，是技術實力。

訓練安全行業大模型，既需要通用大模型作爲“底座”打基礎，也需要行業數據作爲“養料”進行投喂。

目前業內已有不少开源大模型，能夠在短時間內拉低大模型的入場門檻，但是缺乏大模型的自研能力，廠商就會受制於开源模型本身的效果，在大模型爲人所詬病的“幻覺”、“可解釋性”等方面無法進一步突破。

同時，從GPT的實驗可以看到，隨着模型參數量的增加，模型性能均得到不同程度的提高，而來自人類反饋的強化學習（RLHF）生成的模型效果更好。這表明高質量的數據，是提升大模型效果的關鍵要素。

以騰訊爲例，其通用大模型“混元”擁有超千億參數規模，預訓練語料超2萬億Tokens。

純自研的“混元”，採用了在預訓練階段優化目標函數的“探真”技術方法，與目前市場上常見的开源大模型相比，該方法能有效降低幻覺30%至50%。

這種能力也同樣體現在騰訊安全行業大模型上，讓用戶能夠更加信任其給出的安全解決方案。

在效果提升上，騰訊雲安全AI Copilot之所以能夠展現出安全效率和能力的質的提升，和騰訊雲安全行業大模型可以充分利用自身獨有的數據積累密不可分。

過去多年來，騰訊安全科恩實驗室、大數據實驗室、玄武實驗室等，在安全和AI領域有大量的創新研究成果，擁有業內領先的人工智能技術，積累了獨有的安全行業數據。在安全和AI領域有大量的創新研究成果，擁有業內領先的人工智能技術，積累了獨有的安全行業數據。

海量非公开的安全領域知識、專業經驗，包括安全日志、文檔、知識庫、情報類數據，以及豐富的實战攻防和重保經驗等，對於調優安全大模型、落地安全場景應用，起到了關鍵作用。

除此之外，雲作爲大模型背後的底座，爲大模型長期訓練提供堅實基礎。

去年4月以來，騰訊雲發布一系列面向大模型訓練的基礎設施，從自研的星星海服務器，到新一代HCC高性能計算集群，無疑都爲其訓練大模型擴充了軍備。

另一方面，是商業化能力。

安全大模型想要長期發展，就必須深入到行業場景中去驗證自己的價值，並通過商業化來保持正向的發展。

盡管目前多家廠商已推出安全大模型，但暫時還沒有出現比較好的商業化安全產品，其中很重要的原因在於缺乏閉環場景的落地驗證。

在多雲、混合雲架構逐漸普及的當下，企業內部往往涉及多個部門和多個安全工具，安全運營團隊需要同時對接多個雲的安全體系，很難實現安全協同，這在一定程度上阻礙了大模型的效果。

騰訊雲安全產品負責人周荃認爲，在未來，安全應該是一體的、統一的、標准的，這種一體化體現在針對公有雲、混合雲、自研雲的多雲統一管理，以及橫跨生產網、辦公網、互聯網的三位一體防護，即是“全域安全”。

有了“全域一體化”的安全產品，安全大模型才能夠在場景閉環中更好地發揮出“質”的提升效果，也能進一步驗證其商業化路徑，最終走向主流市場。

總的來說，基礎大模型+安全數據積累+閉環場景驗證，構成了安全大模型的核心競爭力。

從長期來看，大模型的競爭肯定會很激烈，也很容易出現贏家通喫的現象，但保有核心競爭力的安全大模型，最終用戶會用腳投票。

“自動駕駛”的安全智能體

業界常說，一項新技術出現後，市場往往高估了它的短期效益，而低估了長期的影響。這句話也同樣適用於大模型。目前安全大模型的應用，只是安全產業發展中的一個階段，但肯定不會是最終形態。

在龍海看來，安全大模型的終局是以大模型的能力重構安全產品的交互方式和安全核心能力，進入安全的“自動駕駛”階段，實現安全運營的全自動化階段。

龍海將安全大模型的演進路徑比喻爲自動駕駛的三個階段：

“油轉電”階段：大模型天然適合做自然語言交互的輸入和輸出，這部分工作比較明確，對模型的精確度要求不高，這是現階段安全大模型普遍能達到的能力。

“輔助駕駛”階段：同步研究安全基礎模型和安全場景模型，選擇一些能力場景輔助原有的安全體系提升安全能力。目前，騰訊雲安全力爭在80%的安全產品上都達到這一能力。

“自動駕駛”階段：改造傳統的交互方式和基於規則、特徵和人工運營的能力模式，進入安全的全自動駕駛階段。這是安全運營的理想形態，也是安全大模型無限逼近的未來。

在這個過程中，安全廠商正在探索從“輔助駕駛”到“自動駕駛”的多種可能性，AI Agent就是一個被業內廣泛認可的方向。

騰訊安全科恩實驗室高級安全研究員唐祺壹表示，如果說目前的AI Copilot更多是扮演“安全助手”角色，讓人能夠以自然語言與計算機進行交互，那么未來的AI Copilot則是一個“安全AI Agent（智能體）”，能夠接受復雜形態的數據輸入，獨立決策並自主完成復雜任務，一定程度上取代人的工作。

比如在情報研判工作中，過去需要收集多方情報來源，結合各方面信息綜合考慮，並不斷積累經驗，由安全專家參與研判。

但是安全大模型本身有海量的安全知識儲備，以及“舉一反三”的能力，使得情報研判“智能體”能夠理解情報研判人員日常工作所接收到的所有信息，使用情報研判人員日常工作所使用的所有工具，具備情報研判人員所具條的知識和常識，最終正確決策，完成情報研判任務。

而在情報研判過程中，會有多個AI Agent，以自然語言對話的形式，互相之間不斷對話。之後，綜合研判Agent會匯總各子任務的研判結論和論據，自主決策形成最終研判結論，並形成報告。

整個過程就如同安全專家开展討論一樣，只是再也不用人類坐在桌前了。

結語

大模型的出現，猶如一股強大的變革之力，正在重塑人們對安全運營的認知和體驗。盡管大模型在安全領域的應用還有很長的路要走，但是它所展示的安全“自動駕駛”的未來，讓人無限向往。到那時，安全將如水電一樣觸手可得。

相關閱讀

AI Agent：大模型的下一個高地

大模型的陰面：無法忽視的安全隱憂

AI時代，對構建雲安全提出了哪些新要求？