2024年2月29日，信安標委正式發布《生成式人工智能服務安全基本要求》（以下簡稱“《基本要求》”）。

《基本要求》規定了生成式人工智能服務在安全方面的基本要求，包括語料安全、模型安全、安全措施、安全評估等，並給出了適用範圍。適用於服務提供者开展安全評估、提高安全水平，也可爲相關主管部門評判生成式人工智能服務安全水平提供參考。

其中，語料安全，通俗一點講就是大模型訓練所引用的的數據，《基本要求》對這種訓練語料來源的安全性提出了可操作的指引。比如，語料內容中含違法不良信息超過5%的，不應採集該來源語料等。

對於其他模型安全、安全措施、安全評估等內容，這裏不做過多闡述。總體而言，《基本要求》的發布將有助於建立更安全、透明和有序的生成式人工智能服務生態系統。

另外，有市場人士表示，《基本要求》的發布在某種意義上是呼應2月15日美巨頭OpenAI發布首個視頻生成模型“Sora”。畢竟對比2023年ChatGPT推出之後，市場對生成式人工智能技術的興趣激增，各種不合規的現象不間斷湧現。

至於目前生成式人工智能生態現狀、發展趨勢如何？看如下簡要介紹！

產業成新質生產力？

衆所周知，當前生成式AI行業正處於快速發展階段，目前在教育、娛樂、媒體、設計、科研、廣告等多個行業都產生深遠影響，並逐步滲透至商業決策、產品开發、客戶服務等諸多業務場景。

在市場規模方面，據彭博社預計，全球生成式人工智能的市場規模將在2032年擴大至1.3萬億美元。國內方面，據工信部旗下賽迪研究院消息，預計2023年我國生成式人工智能市場規模將突破10萬億元，到2035年將突破30萬億元。

鑑於這廣闊的市場，爲促進生成式人工智能健康發展和規範應用，2023年8月15正式實施由國家發展和改革委員會、教育部、科學技術部、工業和信息化部等七部門公布《生成式人工智能服務管理暫行辦法》。

此次再發布《基本要求》，無疑是爲生成式人工智能行業健康發展增添新的護航神器，作爲近期生成式人工智能領域最重磅的一個文件，將推動行業應用加速落地。

另外，在今年“兩會”期間，多位人大代表與政協委員熱議生成式AI，關注人才培養、場景落地、產業生態等問題。並認爲當前生成式AI發展迅速，應用場景不斷拓展，有望成爲新質生產力。建議加強頂層設計，推動產學研合作，構建开放共享的產業生態。

在產業生態方面，國內生成式AI產業生態圖譜主要包括基礎設施層、算法模型層、平台層、場景應用層、服務層等部分。

其中，基礎設施層：包括AI芯片、計算、存儲、網絡、安全、基礎設施軟件等；算法模型層：包括通用、面向行業的生成式AI大模型及模型庫；平台層：包括大模型構建和編排、應用开發部署、數據管理軟件及工具；場景應用層：面向生產效率提升、業務、行業搭建的應用，例如文本生成、圖像生成、音頻生成、視頻生成、數字人等。服務層：跨越業務、IT和運營技術(OT)領域提供服務。

挑战方面，生成式AI的快速發展也將帶來新的挑战。例如，如何保護用戶隱私、如何確保模型的安全性、如何制定合理的法規等。這些挑战將影響生成式AI行業的未來發展，需要有針對性地進行深入思考和認真研究，並採取一系列迅速有效的舉措，以保障安全有效地應用生成AI。

總體而言，隨着技術的進步和應用領域的拓展，生成式AI將進一步智能化和個性化，爲各個行業帶來效率的提升和業務的創新。

安企積極推出生成式人工智能產品

前面提到，生成式AI技術的不斷突破，將爲各個行業帶來效率的提升和業務的創新。安防作爲AI落地應用的最佳落腳點更是如此，這也是目前市場的普遍共識。

爲緊跟市場發展的腳步，截止今日安防知名廠商已推出自己的大模型，例如海康威視的觀瀾、大華股份的星漢、宇視科技的梧桐等。

據了解，海康威視觀瀾大模型，現已進入多模態階段，支持視覺、語音、文本等融合訓練處理。“觀瀾”大模型具備三層架構，分爲最底層、中間層、最頂層，分別對應基礎類大模型（通用大模型）、行業大模型（面向金融、交通、能源、工業等）和場景模型（用戶模型）。

爲了支持大模型研發，公司自建部署業內一流的數據中心，構建千卡並行訓練能力，面對安防場景訓練百億級參數。截至23年上半年，公司AI开放平台服務中小微企業超2萬家，生成模型超8萬個，落地項目超1.4萬個。

大華股份星漢大模型，是以視覺爲核心，融合多模態能力，構建面向行業的大模型。目前已經在城市治理和電力行業應用落地，未來將不斷拓寬大模型行業應用場景，幫助構建視頻數據產業價值，助推數字經濟發展。以自研星漢大模型爲底座，公司未來將持續鞏固在智慧物聯領域的核心優勢，隨各應用商業化落地快速發展。

宇視科技梧桐大模型，以通用大模型+行業場景+訓練調優爲架構，集計算機視覺行業、自然語言處理行業等於一身，能夠充分滿足多樣化的任務和場景需求。目前，“梧桐”大模型第一階段的落地成果，AI長尾算法訓練平台、邊緣AI推理訓練一體機，交互式數據治理、數據駕駛艙、VR展廳等得到高效應用。未來，“梧桐”也將在AI文旅等視頻內容商業化運營的新賽道發揮新價值，與合作夥伴攜手共築AIoT新生態產品底座，共享差異化和增值點的紅利。

值得注意的是，安防企業要想構建生成式AI應用，大體上可分爲這幾個步驟：找准場景、選擇模型、模型適配和模型調整、應用开發和部署。也就是說，未來隨着生成式AI的持續發展，安防產業鏈各細分企業要想融合利用生成式AI技術，或許可從公司聚焦的場景優先入手，從而助力安防+AI穩健前行。

綜上所述，生成式AI行業市場現狀良好，競爭格局多元，未來前景廣闊。作爲一個處在快速發展階段的新興行業，生成式AI將持續爲各個行業帶來巨大的商業價值和社會價值。

---

標題：國內首個生成式AI安全指導文件已正式發布！

地址：https://www.utechfun.com/post/350579.html