360何以成爲大模型廠商的“安全閥門”?

2024-04-22 18:40:14    編輯: robot
導讀 大模型最重要與核心的安全問題,也因爲360的入局與破局,走入了新的歷史階段。 ‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍如果你是一個足夠關注行業新聞的科技從業者,大概率會發現這樣一件事——近一年來,無論...

大模型最重要與核心的安全問題,也因爲360的入局與破局,走入了新的歷史階段。

‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍如果你是一個足夠關注行業新聞的科技從業者,大概率會發現這樣一件事——近一年來,無論是作爲“KOL”的周鴻禕,還是作爲行業安全大模型從業者的周鴻禕,在社交媒體“刷臉”的頻率,幾乎呈指數級增加。

最近的一次,是在4月19日。周鴻禕在社交媒體宣布,要賣掉陪伴自己多年的邁巴赫S600,換成幾十萬的國產智能新能源汽車。當然,重點是在下一句——他還公开表示,“國內做車的友商們誰愿意借這個機會,爲他提供一輛體驗用車,自己也來者不拒。”

效果自然也是立竿見影,各路新能源汽車廠商無論是公开還是非公开,都跟周鴻禕“交起了朋友”,速度最快的小鵬,在當晚就把車送到了360公司的樓下。

憑周鴻禕的實力與名望,想私下裏拿到任何一款新能源汽車,都是舉手之勞,那么何必在社交媒體上做“顯眼包”?很顯然,這裏同樣有公司战略層面的考量。

如今的新能源汽車,其智能車機系統搭載生成式AI大模型,已經不再是“做與不做”的問題,而是一個時間問題,而搭載大模型的智能車機,無論是數據還是系統本身,安全問題是順利上线與運營的根本前提。很顯然,這是屬於360的機會。

事實上,在過去一年的時間裏,360已經通過生成式AI深度改造了自己的業務流程與產品的功能服務流程,在其中盡可能多的環節,通過生成式AI增效與賦能。關於這一點,在剛剛發布的財報中已然體現。

這不僅歸功於AI重塑了360的產品形態——躬身入局安全模型領域之後,對於國內外最炙手可熱的大模型廠商,360端到端的安全解決方案,其意義也日漸明朗。與之相對,大模型最重要與核心的安全問題,也因爲360的入局與破局,走入了新的歷史階段。

怎樣才能“降本增效”?

4月19日,三六零集團發布2023年度報告。財報數據顯示,報告期內,公司實現營收90.55億元,主營業務毛利率60.35%,同比提升1.76%。此外,歸屬於上市公司股東的淨利潤-4.92億元,較2022年大幅減虧77.65%。

相對於“紙面富貴”的營業收入而言,經營性現金流更能體現一個公司實際收入的質量變化。如果從這一點考量,360的發展可能比營收更能說明問題。報告期內,公司經營性現金流淨額9.24億元,較去年同比提升65.84%,近兩年復合增速達136.26%。

這部分現金流的增加,一部分被360“廣積糧”。截至報告期末,公司貨幣資金爲261.05億元,較上一報告期末增加33.24億元;另一部分,則用作人工智能人才和算力方面的相關投入——報告期內,公司研發費用爲31.04億元,營收佔比達34.28%。

如果用兩個關鍵詞概括,“人工智能”和“數字安全”無疑是過去一年360發展的兩個“主线任務”。在人工智能業務方面,360推出自研千億參數認知型通用大模型“360智腦”,並首批通過備案而向公衆开放。此外,作爲大模型國家隊,360同樣參與了行業標准的制定,並在近期开源了360智腦7B參數版本。

數字安全方面,基於自身的“360智腦”,360同樣從近 20 年積累的攻防技战術、漏洞庫、病毒庫等安全大數據中提取高質量的語料進行訓練,以大數據、高算力、強算法打造國內首個實現AI 實战應用的安全行業大模型——360 安全大模型。

從功能實現層面來說,在搭載生成式AI之後,它不僅能高效便捷地完成安全問題咨詢,還具備傳統網安解決方案的態勢指標分析、安全事件處理、攻擊威脅溯源等傳統能力。

但在互聯網跑步進入生成式AI時代以來,針對大模型的安全問題,已經不能再用傳統的網安思路去解決。即便成功通過有關部門的合規檢測,得以備案和上线,但模型本身及其搭載產品的安全性,隨着參數量和訓練數據的不斷迭代升級,也在發生變化。

不過,相對於傳統網安問題,大模型安全幾乎是另外一個獨立問題。

舉例來說,以GPT-4爲代表的語言大模型及其衍生產品,其固有的缺陷之一,是生成結果的“幻覺”問題。體現在用戶所能直接體驗的前端,則是對於確定的輸入prompt,模型最終輸出的不一樣乃至相反的結果,俗稱“一本正經地胡說八道。”

接入模型的API安全性問題,同樣值得重視。從數據統計層面來看,多數web程序受到的網絡攻擊均針對API,它是模型能力最主要的交付通道。也因此,對各種協議是否許可,許可到什么程度,中間的安全性差異可謂巨大。

由此可見,大模型本身的安全問題,隨着行業的飛速發展,已經成爲一個獨立課題——前述原生的大模型安全問題,在大模型安全領域的比重,幾乎超過80%。如果是對大模型不甚了解的網絡安全企業,或者是僅僅停留在硬件層面的網安企業,很難真正去解決大模型原生問題。

相對於其他大模型廠商,通用能力層面並非360的主战場。但到了“大模型+安全”領域,已經开始着手解決相關問題,並取得了初步成果。

大模型安全爲何重要?

不過,關注大模型安全問題,只是網安企業的 “應然”,躬身入局並嘗試解決,才是“實然”。想要在大模型安全領域,提供有效的解決方案,也具備一系列先決條件。 

在此前召开的360安全大模型3.0發布會上,360高級副總裁李博認爲,如果要有效解決大模型內部的安全問題,首先要非常了解大模型,正如解決其他業務安全問題,首先需要了解業務特性一樣。因此,只有躬身入局大模型研發,才有能力解決大模型安全問題。

此外,不做大模型的傳統安全企業,同樣難以實現原生的大模型安全能力。因爲相當比例的安全問題,都需要在大模型內部深入耦合原生安全機制進行對應解決,如果網安企業沒有自己的大模型“打樣”,一些安全機制很難適應大模型的環境,最終變成“空中樓閣”。

但從現實層面看,多數互聯網企業往往將發展作爲第一要務,至於業務安全,相較於業務發展往往相對滯後。在李博看來,這在行業早期並無大礙。但當業務結束發展高峰期,一旦存量業務數據受到攻擊或發生問題,損失往往在億級以上。

有基於此,在360眼中,想要保障大模型的安全,大模型的可靠性首當其衝——網絡環境和數據安全,這在相當程度上,影響和決定了大模型的穩定性和響應速度。

其次,大模型本身輸出的內容,需要一定的可信度。這不僅包括內容的完整可用,內容可信同樣重要。

建立在內容可信之上,大模型向善和可控同樣重要。它的內容不僅需要符合主流價值觀和社會規範,其行爲也同樣需要穩定和可控。

有基於此,在最新的安全大模型3.0版本中,360將傳統網安大腦體系,與原生大模型安全能力相結合,進而形成了綜合性安全能力框架,即AISF。

基礎架構層面,360安全框架體系通過探針採集、平台運營、AI技術的應用,構建了專家服務和安全數據支撐能力。同時,基於十多年的網絡安全經驗,360積累了數據泄露預警、數據清洗、數據保護等數據安全能力,這些能力共同構成了360安全雲的核心。

原生大模型安全能力方面,360構建了一個框架、兩個平台和三組套件,旨在從基礎、可信、向善、可控、效果五大方向提供保障。例如,向善能力套件包括內容護欄、數字水印和風控大模型,用以防範注入攻擊,確保內容的安全性和向善性。

鑑於大模型訓練和維護成本高昂,多數廠商依賴公有雲,這增加了系統漏洞、網絡攻擊、數據竊取的風險。360安全雲通過安全即服務的形式,提供監測、分析、響應、防護和漏洞修復,這些風險得到有效規避。

這些流程不僅在大模型運行階段需要執行,訓練階段同樣需要。通過數據檢測清洗和算法矯正加密來增強安全性。在輸出內容階段,風控大模型能夠進行敏感內容檢測和識別,提升推理准確性,減少模型輸出的“幻覺”問題。

此外,通過首創的大模型紅藍對抗靶場,360通過定期攻防對抗模擬,保持安防系統的高战備狀態,確保大模型的常態化安全。

基於上述安全體系的不斷迭代優化,也使得大模型的核心安全能力得到持續增強。

一條難而正確的路

當然,方案歸方案,產品歸產品, 360 對於 AI 安全的諸多理解、框架與解決方案,在最終對外輸出的產品形態上,最終變成了大模型安全管家,一如當年 PC 端的 360 安全衛士,與手機上的 360 手機衛士。 

跟前兩者一樣,這不僅僅停留在B端,而是通過大模型在C端用戶場景的不斷延伸,進而被更多的用戶注意並重視。對於“網安老炮”360來說,這可能是不亞於移動互聯網的巨大風口。

一方面,就發展軌跡而言,生成式AI已經走到了商業化的“深水區”。安全與合規,是其商業化順利進行的充要條件,在這方面,360具備相當強的“不可替代性”。

當然,網絡安全是一個通過實踐積累經驗的領域,沒有經過長期的網絡安全攻防實战,就無360如今的行業地位。也因此,如果360希望在大模型安全領域取得成就,那么深入參與大模型的實踐是一條必經之路。

另一方面,藉由生成式AI“飛入尋常百姓家”,其討論的全民化,讓360逐漸從移動互聯網時代的“隱身幕後”,通過周鴻禕持續“布道”而逐步回歸台前。這與360業績的回暖幾乎同步發生。

不過,這並非是讓大模型行業都去使用360的安全大模型,而是通過360自身的身體力行,讓更多在大模型行業奮战的企業,意識到大模型原生安全問題的重要性。這不僅停留在周鴻禕的嘴上和社交媒體上,360同樣也落實到了行動上。

歸根到底,生成式AI的大潮已然不可阻擋,商業化的徵程同樣呼之欲出,在此過程中,不僅需要底層大模型和應用層廠商的不斷努力,也同樣需要相關網安企業持續保駕護航。或許有一天,大模型及其安全領域,或許真如周鴻禕當年所言,不僅是“一錘子买賣”,更是細水長流的“安全即服務”。

       原文標題 : 360何以成爲大模型廠商的“安全閥門”?



標題:360何以成爲大模型廠商的“安全閥門”?

地址:https://www.utechfun.com/post/361452.html

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。

猜你喜歡