OpenAI又开大!推出GPT-3.5 Turbo“微調”功能,人人都能定制ChatGPT

2023-08-25 18:40:47    編輯: robot
導讀 OpenAI最近動作不斷。上個月7號,在數百萬开發者的催促下,OpenAI終於开放了GPT-4的API權限。沒多久,OpenAI又宣布开放GPT-4的“代碼解釋器”功能,一下子讓GPT-4的能力有了...

OpenAI最近動作不斷。上個月7號,在數百萬开發者的催促下,OpenAI終於开放了GPT-4的API權限。沒多久,OpenAI又宣布开放GPT-4的“代碼解釋器”功能,一下子讓GPT-4的能力有了飛躍,所以开發者們都戲稱它爲“GPT-4.5”。

不過這不算完,OpenAI之前一直在給GPT-4开發“DLC”(擴展包的意思),而對之前的功臣GPT-3.5有點厚此薄彼了,畢竟和GPT-4比起來,GPT-3.5是不要錢的,也就意味着它的用戶數量不在少數,只給“氪金”的玩家开放福利,不給“零充”玩家們一點甜頭,那就等着被玩家們討伐吧。

你當OpenAI不知道這一點?就在今天OpenAI在官網上宣布,也給GPT-3.5帶來了升級包——“微調”功能。

人人都可定制ChatGPT?

今天,OpenAI 在官網宣布,推出 GPT-3.5Turbo 微調功能並更新 API,使企業、开發人員可以使用自己的數據,結合業務用例構建專屬 ChatGPT。

而至於效果,OpenAI表示經過實際測試,定制的模型可以趕上甚至超過 GPT-4 執行某些任務的能力。GPT-4用戶感覺到背刺!

並且OpenAI 強調,傳入和傳出微調 API 的數據歸客戶所有, OpenAI 或任何其他組織不會使用這些數據來訓練其他模型。

至於微調後,定制模型會有性能提升,OpenAI也在“微調指南”裏注明了,比如:

改善可操縱性:

微調允許企業引導模型更好地遵循指令,例如輸出更簡潔的答案,或者始終以給定語言做出響應。开發人員可以通過微調保證模型在收到德語提示詞後,始終以德語給出回應。

更可靠的輸出格式:

微調使模型所輸出響應結果的格式更加統一。對於需要特定響應格式的應用場景(例如代碼補全或編寫 API 調用),這種格式可靠性至關重要。例如,开發人員可以用微調將用戶提示詞轉換爲可在系統中使用的高質量 JSON 片段。

自定義調節:

微調是提升模型輸出質量的好辦法(包括改善語氣、風格),更好地適應企業品牌的固有定位。擁有知名品牌調性的企業可以對模型做出微調,使其與自身市場形象更趨一致。

而且微調不光能提高性能,還能縮短提示詞長度,並保證性能基本不變。早期測試人員還對模型本身的指令進行了微調,從而加快了API調用還降低了成本,讓prompt減少了90%。

此外,微調可以讓定制的GPT-3.5 Turbo模型處理4k個tokens,達到了之前的2倍!並且OpenAI還表示,支持16ktokens的版本將在今年秋季推出。

更強了,也更貴了!

天底下沒有免費的午餐。微調確實讓GPT-3.5Turbo更強了,但同時也更貴了。

根據OpenAI公布的定價,GPT-3.5Turbo的微調分爲兩個部分,分別爲初始訓練成本與使用成本:

  • 訓練階段:1k tokens 要 0.008 美元

  • 使用輸入:1k tokens 要 0.012 美元

  • 使用輸出:1k tokens 要 0.016 美元

例如,如果要對 10 萬 tokens 的訓練文件進行微調,並訓練 3 個 epochs,則預計成本爲 2.40 美元。

不光是GPT-3.5,GPT-3也更新了!7月的時候,OpenAI 宣布各初版 GPT-3 基礎模型(ada、babbage、curie 和 davinci)將於 2024 年 1 月 4 日正式關閉。

同在今天,OpenAI再次更新GPT-3模型,並提供了babbage-002和davinci-002作爲以上模型替代品,可以作爲基礎模型或微調模型來使用。

客戶也可以通過查詢Completions API來訪問這些模型。

另外,這些模型使用新的API端口/v1/fine_tuning/jobs進行微調。

該端口取代了/v1/fine-tunes舊端口(2024年1月4日關閉),提供了分頁和更多可擴展性,以支持微調API的未來發展。

下面是各基礎 / 微調 GPT-3 模型的定價:

根據這個價格算筆账,微調後的GPT-3.5 Turbo價格是基礎GPT-3.5 模型的8倍!

GPT-4也有微調!

GPT-4用戶感覺到背刺了?那倒也不必,因爲OpenAI在公告中表示,AI天花板GPT-4的微調馬上也會來的,幾個月後正式上线!

而且在對GPT-3.5 Turbo微調時,所有微調數據都必須通過“審核”API 和 GPT-4 支持的審核系統,以查看是否與 OpenAI 的安全標准相衝突。OpenAI 還計劃在未來推出一個微調 UI,其中包含一個儀表板,用於檢查正在進行的微調工作負載的狀態。

GPT-3.5的微調價格已經是之前的8倍了,那GPT-4微調會貴多少呢?再加上GPT-4本身就是付費使用,價格再上漲一點,對個人和企業來說都是一筆不小的費用,會不會受到人們歡迎還未可知。



標題:OpenAI又开大!推出GPT-3.5 Turbo“微調”功能,人人都能定制ChatGPT

地址:https://www.utechfun.com/post/253616.html

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。

猜你喜歡