(本篇文章共884字,閱讀時間約1分鐘)
圖源:互聯網
OpenAI宣布了其面向API客戶的企業級功能擴展,進一步豐富了其Assistants API,並引入了新工具,旨在增強安全性和管理控制,以及更有效地管理成本。
Private Link和加固安全功能
在重大安全升級中,引入了Private Link,這是一種安全方法,可在微軟的Azure雲服務和OpenAI之間直接通信,後者稱其有助於最大限度地減少“對公开互聯網的暴露”,用於通過API發送的客戶數據和查詢。
此舉是對現有安全堆棧的補充,包括SOC 2 Type II認證、單點登錄(SSO)、AES-256數據加密、傳輸中的TLS 1.2加密和基於角色的訪問控制。
此外,OpenAI還引入了原生多因素身份驗證(MFA),以加強訪問控制,符合日益增長的合規要求。
對於需要符合HIPAA合規性的醫療保健公司,OpenAI繼續爲合格的API客戶提供業務關聯協議,以及零數據保留政策。
升級的Assistants API可處理500倍的文件
OpenAI提供的較少宣傳但最重要的企業服務之一是其Assistants API,該API允許企業部署定制的、經過調優的模型,並通過檢索增強生成(RAG)調用特定文件,從而在其自己的應用程序內提供對話助手。
例如,今年早些時候,電商公司Klarna吹噓了其AI助手,該助手是使用OpenAI Assistants API制作的,能夠完成700名全職人員的工作,重復查詢減少25%,解決時間減少近82%(從11分鐘減少到2分鐘)。
OpenAI現在升級了Assistants API,引入了增強的文件檢索功能,新的“file_search”功能可以處理每個助手高達10,000個文件。
這比先前的20個文件的限制增加了500倍,增加了諸如並行查詢、改進的重新排序和查詢重寫等功能。
此外,API現在支持實時對話響應的流式傳輸 - 這意味着AI模型(如GPT-4 Turbo或GPT-3.5 Turbo)將根據生成的令牌的速度返回輸出,而不是等待完整的響應。
它進一步集成了新的“vector_store”對象,用於更好地管理文件,並提供了更精細的令牌使用控制,以幫助有效管理成本。
項目允許企業控制和分區訪問特定任務和分配
一個名爲Projects的新功能通過允許組織在項目級別管理角色和API密鑰,提供了改進的管理監督。
這個功能允許企業客戶範圍權限,控制可用的模型,並設置基於使用的限制,以避免意外成本 - 這些增強功能大大簡化了項目管理。
基本上,他們可以將一個調優版本的AI模型或甚至是一個普通的基礎模型隔離到一個特定的任務或文件集合中,並允許特定的人員在其中工作。
END
原文標題 : OpenAI推出新一輪企業級功能,強化GPT-4 Turbo LLM和其他模型
標題:OpenAI推出新一輪企業級功能,強化GPT-4 Turbo LLM和其他模型
地址:https://www.utechfun.com/post/362356.html