[控场AI]
产品OpenAI Realtime API

Realtime API

OpenAI 提供的实时交互接口,基于 WebSocket 长连接的双向流式通道,支持语音对话、实时转写等低延迟场景

时间轴 (近 90 天)

10月21日

v3.36.0 集中修复了 Realtime WebSocket 相关多个边界问题,包括失败建连清理、原生选项尊重、中断时结束同步 WebSocket 恢复、终端清理期间尊重带超时的 Translation 接收、跨恢复与取消场景保留 WebSocket close 状态,以及为 legacy beta socket 尊重原生选项(PR #4121、#4129、#4132、#4117、#4120)。

待验证50%
10月21日

文章建议:若项目正在通过 Vertex AI 调用 Responses API、使用 Realtime WebSocket 且遇到连接恢复后 close 状态丢失或取消操作后连接未正确释放的问题、或仍依赖 Pydantic v1 做请求校验,应尽快升级到 v3.36.0。

待验证50%
10月18日

使用 beta Realtime 功能且运行在 websockets 13 上的项目应优先升级到 v3.35.1。

待验证50%
10月18日

v3.35.1 修复了 beta Realtime 功能在 websockets 13 环境下的字节读取问题,对应 PR #4102,提交哈希为 5766349。

待验证50%
10月18日

升级前建议在测试环境中验证 Realtime 连接的消息收发,确认字节读取路径正常,再推送到生产环境。

待验证50%
10月18日

使用实时音频流或二进制帧的开发者建议升级到 v3.35.0 并回归测试。

待验证50%
10月18日

v3.35.0 为实时 API 增加了带类型的 Live sideband 事件(PR #4099)。

待验证50%
10月18日

Sideband 连接是 Realtime API 中一条独立于主 WebSocket 会话的事件通道,用于外送转写文本、工具调用状态等控制类事件。

待验证70%
10月4日

Realtime API 的 modalities 参数用于声明当前会话所支持的输入/输出模态类型,如 text、audio

待验证50%
10月4日

v3.19.2 澄清了 Realtime API 中 modality 数组的定义(#3954)

待验证50%

还有 2 条时间轴事件

全部知识事实 (14)

待验证

GPT-Realtime-2支持function calling(函数调用),允许模型在听到用户说话的同时决定调用哪个函数,无需等待完整的文本转录

85%
待验证

Sideband 连接是 Realtime API 中一条独立于主 WebSocket 会话的事件通道,用于外送转写文本、工具调用状态等控制类事件。

70%
待验证

OpenAI 在 2024 年底推出的 Realtime API 支持 WebRTC 作为传输层,延迟通常在 200ms 以内

70%
待验证

文章建议:若项目正在通过 Vertex AI 调用 Responses API、使用 Realtime WebSocket 且遇到连接恢复后 close 状态丢失或取消操作后连接未正确释放的问题、或仍依赖 Pydantic v1 做请求校验,应尽快升级到 v3.36.0。

50%
待验证

v3.36.0 集中修复了 Realtime WebSocket 相关多个边界问题,包括失败建连清理、原生选项尊重、中断时结束同步 WebSocket 恢复、终端清理期间尊重带超时的 Translation 接收、跨恢复与取消场景保留 WebSocket close 状态,以及为 legacy beta socket 尊重原生选项(PR #4121、#4129、#4132、#4117、#4120)。

50%
待验证

v3.35.1 修复了 beta Realtime 功能在 websockets 13 环境下的字节读取问题,对应 PR #4102,提交哈希为 5766349。

50%
待验证

升级前建议在测试环境中验证 Realtime 连接的消息收发,确认字节读取路径正常,再推送到生产环境。

50%
待验证

使用 beta Realtime 功能且运行在 websockets 13 上的项目应优先升级到 v3.35.1。

50%
待验证

使用实时音频流或二进制帧的开发者建议升级到 v3.35.0 并回归测试。

50%
待验证

Realtime API 的 modalities 参数用于声明当前会话所支持的输入/输出模态类型,如 text、audio

50%
待验证

v3.19.2 澄清了 Realtime API 中 modality 数组的定义(#3954)

50%
待验证

OpenAI 的 Realtime API、ElevenLabs 的低延迟模式以及谷歌的 Live API 均主打低延迟语音能力

50%
待验证

v3.35.0 为实时 API 增加了带类型的 Live sideband 事件(PR #4099)。

50%
待验证

2024年DevDay发布了实时语音API(Realtime API)和视觉微调(Vision Fine-tuning)等能力

50%

来源文章