包括Assistant API的公開預覽、新的文本轉語音(TTC)功能、即將對GPT-4 Turbo和GPT-3.5 Turbo型號的更新、新的嵌入式型號以及微調API的更新。
與之前的聊天完成API相比,Assistant API能夠記住之前的對話並創建持久且無限長的線程。
Assistant API是Azure OpenAI提供的一項新服務,旨在幫助開發人員更輕鬆地在其應用程式中創建高質量的人工智慧助理體驗。與之前的聊天完成API相比,Assistant API提供了以下關鍵改進:
1.靜態進化:助理API可以記住之前的對話,這意味著它可以在對話期間維護上下文,並提供更一致和個性化的溝通體驗。
2.堅持和無限線程:開發人員可以創建可以無限長的持久對話線程,無論模型上下文窗口的大小如何。這樣,即使是漫長或複雜的對話也可以順利進行。
3.調試對話狀態管理:由於Assistant API本身支持對話狀態管理,因此開發人員不需要構建自己的複雜系統來跟蹤對話狀態或管理線程。這降低了開發複雜性,並使創建動態、交互式人工智慧助手變得更容易。
Azure OpenAI服務更新和新功能主要包括:
1. Assistant API的公共預覽:這是一項新功能,旨在允許開發人員在自己的應用程式中輕鬆創建類似於副駕駛的高質量體驗。Assistant API支持持久性和無限長線程,簡化開發人員管理對話狀態和集成工具的工作,提高開發效率。
2.文本轉語音(TTC)功能:引入了新的文本轉語音模型,可以將文本轉換為具有個性和風格的高質量人聲。適合客戶支持、培訓視頻、實時流媒體等場景。
3. GPT-4渦輪和GPT-3.5渦輪型號的更新:GPT-4渦輪和GPT-3.5渦輪的更新版本已發布,包括改進的代碼生成能力、減少「懶惰」以及影響非英語UTF-8生成錯誤的修復等。提供改進的指令合規性、JSON模式、可再現輸出、並行函數調用和其他功能。
5.新的嵌入式模型和微調API更新:引入了新的嵌入式模型和微調API更新,包括新模型、對持續微調的支持和更好的定價。這些更新使構建自定義模型和微調更長的消息變得更容易、更經濟。
6.定價優化:為Azure OpenAI Service上的培訓和託管微調模型的成本提供降價,包括將GPT-3.5-Turbo的培訓和託管成本降低50%。
視頻: