AzureOpenAIService宣布了一系列新功能
包括公开预览的Assistants API、新的文本到语音(TTS)功能、即将推出的GPT-4 Turbo和GPT-3.5 Turbo模型更新、新的嵌入模型以及微调API的更新。
与之前的聊天完成API相比,Assistants API能够记住之前的对话内容,创建持久化和无限长的线程。
Assistants API 是一项由 Azure OpenAI 提供的新服务,它旨在帮助开发者在他们的应用程序中更容易地创建高质量的人工智能助手体验。与之前的聊天完成API相比,Assistants API提供了以下几个关键改进:
1、状态性演进: Assistants API能够记住之前的对话内容,这意味着它可以在对话过程中维持上下文,提供更连贯、更个性化的交流体验。
2、持久化和无限长的线程: 开发者可以创建持久化的对话线程,这些线程可以无限长,不受模型上下文窗口大小的限制。这样,即使是长时间或复杂的对话也能流畅进行。
3、简化对话状态管理: 由于Assistants API自身支持对话状态的管理,开发者无需自己构建复杂的系统来追踪对话状态或管理线程。这降低了开发复杂度,使得创建动态、互动的AI助手变得更简单。
Azure OpenAI Service更新和新增功能主要包括:
1、Assistants API公开预览:这是一个新功能,旨在让开发者在自己的应用中轻松创建类似副驾驶的高质量体验。Assistants API支持持久化和无限长的线程,简化了开发者在管理对话状态和集成工具方面的工作,提高了开发效率。
2、文本到语音(TTS)功能:引入了新的文本到语音模型,能够将文本转换为具有个性和风格的高质量人声,适用于客户支持、培训视频、实时流媒体等多种场景。
3、GPT-4 Turbo和GPT-3.5 Turbo模型更新:推出了GPT-4 Turbo和GPT-3.5 Turbo的更新版本,包括改进的代码生成能力、减少“懒惰”现象、修复了影响非英文UTF-8生成的错误等。提供了改进的指令遵循、JSON模式、可复现的输出、并行函数调用等特性。
5、新的嵌入模型和微调API更新:引入了新的嵌入模型和微调API的更新,包括一个新模型、支持持续微调和更优惠的定价。这些更新使得构建自定义模型和使用更长消息进行微调变得更加简单和经济。
6、定价优化:为训练和托管微调模型在Azure OpenAI Service上的成本提供了降价,包括将GPT-3.5-Turbo的训练和托管成本降低了50%。