大模型最重要與核心的安全問題，也因爲360的入局與破局，走入了新的歷史階段。
如果你是一個足夠關注行業新聞的科技從業者，大概率會發現這樣一件事——近一年來，無論是作爲“KOL”的周鴻禕，還是作爲行業安全大模型從業者的周鴻禕，在社交媒體“刷臉”的頻率，幾乎呈指數級增加。
最近的一次，是在4月19日。周鴻禕在社交媒體宣布，要賣掉陪伴自己多年的邁巴赫S600，換成幾十萬的國產智能新能源汽車。當然，重點是在下一句——他還公开表示，“國內做車的友商們誰愿意借這個機會，爲他提供一輛體驗用車，自己也來者不拒。”
效果自然也是立竿見影，各路新能源汽車廠商無論是公开還是非公开，都跟周鴻禕“交起了朋友”，速度最快的小鵬，在當晚就把車送到了360公司的樓下。
憑周鴻禕的實力與名望，想私下裏拿到任何一款新能源汽車，都是舉手之勞，那么何必在社交媒體上做“顯眼包”？很顯然，這裏同樣有公司战略層面的考量。
如今的新能源汽車，其智能車機系統搭載生成式AI大模型，已經不再是“做與不做”的問題，而是一個時間問題，而搭載大模型的智能車機，無論是數據還是系統本身，安全問題是順利上线與運營的根本前提。很顯然，這是屬於360的機會。
事實上，在過去一年的時間裏，360已經通過生成式AI深度改造了自己的業務流程與產品的功能服務流程，在其中盡可能多的環節，通過生成式AI增效與賦能。關於這一點，在剛剛發布的財報中已然體現。
這不僅歸功於AI重塑了360的產品形態——躬身入局安全模型領域之後，對於國內外最炙手可熱的大模型廠商，360端到端的安全解決方案，其意義也日漸明朗。與之相對，大模型最重要與核心的安全問題，也因爲360的入局與破局，走入了新的歷史階段。
怎樣才能“降本增效”？
4月19日，三六零集團發布2023年度報告。財報數據顯示，報告期內，公司實現營收90.55億元，主營業務毛利率60.35%，同比提升1.76%。此外，歸屬於上市公司股東的淨利潤-4.92億元，較2022年大幅減虧77.65%。
相對於“紙面富貴”的營業收入而言，經營性現金流更能體現一個公司實際收入的質量變化。如果從這一點考量，360的發展可能比營收更能說明問題。報告期內，公司經營性現金流淨額9.24億元，較去年同比提升65.84%，近兩年復合增速達136.26%。
這部分現金流的增加，一部分被360“廣積糧”。截至報告期末，公司貨幣資金爲261.05億元，較上一報告期末增加33.24億元；另一部分，則用作人工智能人才和算力方面的相關投入——報告期內，公司研發費用爲31.04億元，營收佔比達34.28%。
如果用兩個關鍵詞概括，“人工智能”和“數字安全”無疑是過去一年360發展的兩個“主线任務”。在人工智能業務方面，360推出自研千億參數認知型通用大模型“360智腦”，並首批通過備案而向公衆开放。此外，作爲大模型國家隊，360同樣參與了行業標准的制定，並在近期开源了360智腦7B參數版本。
數字安全方面，基於自身的“360智腦”，360同樣從近 20 年積累的攻防技战術、漏洞庫、病毒庫等安全大數據中提取高質量的語料進行訓練，以大數據、高算力、強算法打造國內首個實現AI 實战應用的安全行業大模型——360 安全大模型。
從功能實現層面來說，在搭載生成式AI之後，它不僅能高效便捷地完成安全問題咨詢，還具備傳統網安解決方案的態勢指標分析、安全事件處理、攻擊威脅溯源等傳統能力。
但在互聯網跑步進入生成式AI時代以來，針對大模型的安全問題，已經不能再用傳統的網安思路去解決。即便成功通過有關部門的合規檢測，得以備案和上线，但模型本身及其搭載產品的安全性，隨着參數量和訓練數據的不斷迭代升級，也在發生變化。
不過，相對於傳統網安問題，大模型安全幾乎是另外一個獨立問題。
舉例來說，以GPT-4爲代表的語言大模型及其衍生產品，其固有的缺陷之一，是生成結果的“幻覺”問題。體現在用戶所能直接體驗的前端，則是對於確定的輸入prompt，模型最終輸出的不一樣乃至相反的結果，俗稱“一本正經地胡說八道。”
接入模型的API安全性問題，同樣值得重視。從數據統計層面來看，多數web程序受到的網絡攻擊均針對API，它是模型能力最主要的交付通道。也因此，對各種協議是否許可，許可到什么程度，中間的安全性差異可謂巨大。
由此可見，大模型本身的安全問題，隨着行業的飛速發展，已經成爲一個獨立課題——前述原生的大模型安全問題，在大模型安全領域的比重，幾乎超過80%。如果是對大模型不甚了解的網絡安全企業，或者是僅僅停留在硬件層面的網安企業，很難真正去解決大模型原生問題。
相對於其他大模型廠商，通用能力層面並非360的主战場。但到了“大模型+安全”領域，已經开始着手解決相關問題，並取得了初步成果。
大模型安全爲何重要？
不過，關注大模型安全問題，只是網安企業的 “應然”，躬身入局並嘗試解決，才是“實然”。想要在大模型安全領域，提供有效的解決方案，也具備一系列先決條件。
在此前召开的360安全大模型3.0發布會上，360高級副總裁李博認爲，如果要有效解決大模型內部的安全問題，首先要非常了解大模型，正如解決其他業務安全問題，首先需要了解業務特性一樣。因此，只有躬身入局大模型研發，才有能力解決大模型安全問題。
此外，不做大模型的傳統安全企業，同樣難以實現原生的大模型安全能力。因爲相當比例的安全問題，都需要在大模型內部深入耦合原生安全機制進行對應解決，如果網安企業沒有自己的大模型“打樣”，一些安全機制很難適應大模型的環境，最終變成“空中樓閣”。
但從現實層面看，多數互聯網企業往往將發展作爲第一要務，至於業務安全，相較於業務發展往往相對滯後。在李博看來，這在行業早期並無大礙。但當業務結束發展高峰期，一旦存量業務數據受到攻擊或發生問題，損失往往在億級以上。
有基於此，在360眼中，想要保障大模型的安全，大模型的可靠性首當其衝——網絡環境和數據安全，這在相當程度上，影響和決定了大模型的穩定性和響應速度。
其次，大模型本身輸出的內容，需要一定的可信度。這不僅包括內容的完整可用，內容可信同樣重要。
建立在內容可信之上，大模型向善和可控同樣重要。它的內容不僅需要符合主流價值觀和社會規範，其行爲也同樣需要穩定和可控。
有基於此，在最新的安全大模型3.0版本中，360將傳統網安大腦體系，與原生大模型安全能力相結合，進而形成了綜合性安全能力框架，即AISF。
基礎架構層面，360安全框架體系通過探針採集、平台運營、AI技術的應用，構建了專家服務和安全數據支撐能力。同時，基於十多年的網絡安全經驗，360積累了數據泄露預警、數據清洗、數據保護等數據安全能力，這些能力共同構成了360安全雲的核心。
原生大模型安全能力方面，360構建了一個框架、兩個平台和三組套件，旨在從基礎、可信、向善、可控、效果五大方向提供保障。例如，向善能力套件包括內容護欄、數字水印和風控大模型，用以防範注入攻擊，確保內容的安全性和向善性。
鑑於大模型訓練和維護成本高昂，多數廠商依賴公有雲，這增加了系統漏洞、網絡攻擊、數據竊取的風險。360安全雲通過安全即服務的形式，提供監測、分析、響應、防護和漏洞修復，這些風險得到有效規避。
這些流程不僅在大模型運行階段需要執行，訓練階段同樣需要。通過數據檢測清洗和算法矯正加密來增強安全性。在輸出內容階段，風控大模型能夠進行敏感內容檢測和識別，提升推理准確性，減少模型輸出的“幻覺”問題。
此外，通過首創的大模型紅藍對抗靶場，360通過定期攻防對抗模擬，保持安防系統的高战備狀態，確保大模型的常態化安全。
基於上述安全體系的不斷迭代優化，也使得大模型的核心安全能力得到持續增強。
一條難而正確的路
當然，方案歸方案，產品歸產品， 360 對於 AI 安全的諸多理解、框架與解決方案，在最終對外輸出的產品形態上，最終變成了大模型安全管家，一如當年 PC 端的 360 安全衛士，與手機上的 360 手機衛士。
跟前兩者一樣，這不僅僅停留在B端，而是通過大模型在C端用戶場景的不斷延伸，進而被更多的用戶注意並重視。對於“網安老炮”360來說，這可能是不亞於移動互聯網的巨大風口。
一方面，就發展軌跡而言，生成式AI已經走到了商業化的“深水區”。安全與合規，是其商業化順利進行的充要條件，在這方面，360具備相當強的“不可替代性”。
當然，網絡安全是一個通過實踐積累經驗的領域，沒有經過長期的網絡安全攻防實战，就無360如今的行業地位。也因此，如果360希望在大模型安全領域取得成就，那么深入參與大模型的實踐是一條必經之路。
另一方面，藉由生成式AI“飛入尋常百姓家”，其討論的全民化，讓360逐漸從移動互聯網時代的“隱身幕後”，通過周鴻禕持續“布道”而逐步回歸台前。這與360業績的回暖幾乎同步發生。
不過，這並非是讓大模型行業都去使用360的安全大模型，而是通過360自身的身體力行，讓更多在大模型行業奮战的企業，意識到大模型原生安全問題的重要性。這不僅停留在周鴻禕的嘴上和社交媒體上，360同樣也落實到了行動上。
歸根到底，生成式AI的大潮已然不可阻擋，商業化的徵程同樣呼之欲出，在此過程中，不僅需要底層大模型和應用層廠商的不斷努力，也同樣需要相關網安企業持續保駕護航。或許有一天，大模型及其安全領域，或許真如周鴻禕當年所言，不僅是“一錘子买賣”，更是細水長流的“安全即服務”。
原文標題 : 360何以成爲大模型廠商的“安全閥門”？
標題：360何以成爲大模型廠商的“安全閥門”？
地址：https://www.utechfun.com/post/361452.html