導讀 中國移動全球合作夥伴大會期間，中興通訊展示了一款名爲“星雲研發大模型”的人工智能輔助工具。該工具旨在幫助开發人員進行需求分析、產品設計、編程、測試和版本部署等任務。 “星雲研發大模型”支持白名單機制...
中國移動全球合作夥伴大會期間，中興通訊展示了一款名爲“星雲研發大模型”的人工智能輔助工具。該工具旨在幫助开發人員進行需求分析、產品設計、編程、測試和版本部署等任務。
“星雲研發大模型”支持白名單機制，能夠有效控制其使用範圍，並具備代碼特徵值識別功能，可以准確識別敏感代碼片段。此外，該工具還擁有代碼特徵值識別功能，在實時監測並攔截敏感內容方面表現卓越。同時，後台審計機制能夠完整回溯安全事件，爲整體的开發效率提升帶來了顯著效果。
據悉，“星雲研發大模型”於2023年4月啓動使用，並在截至當時已經擁有了1.2萬名活躍用戶。其中，代碼採納率達到了40%至45%，編碼速度較之前提升了30%，整體研發效率提高了10%。
據官方公告顯示，“星雲研發大模型”的構建過程中注入了大量資源和知識積累。“我們把領域數據、Know-How知識積累、數十萬篇通信領域技術文檔以及1000億token的無线/核心網/雲代碼語料等注入大模型進行增量預訓練。”中興通訊表示。
此外，“自研部署方案使用動態 batch策略、PagedAttention技術，結合無損模型量化，吞吐量大幅提升。”據悉，在單GPU（A800）下達到1500tokens/s的速度，四台A800卡足以滿足超千人同時使用的需求。與業界常規部署方案相比，單GPU吞吐量分別提高了10倍和20倍。同時，採用int4量化技術後，在精度不降低的情況下，模型大小和顯存使用量都減半。
以上就是本文的全部內容。
標題：中興通訊展示星雲研發大模型 1.2萬名开發者已嘗鮮
地址：https://www.utechfun.com/post/275992.html