OpenAI 近日发布了三款全新的实时语音模型,官方表示这将"为开发者开启全新的语音应用类别"。三款语音智能模型各有侧重,分别面向不同应用场景。
三款新模型分别专注于推理、翻译和转录功能,以下是此次发布的具体内容:
GPT-Realtime-2(推理语音模型)
GPT-Realtime-2 属于 GPT-5 级别的实时语音模型,专为实时语音交互场景而设计。该模型能够在推理处理请求的同时保持对话流畅,支持工具调用、错误纠正与打断处理,并根据当前语境给出合适的回应。
翻译语音模型
新推出的翻译语音模型支持 70 种输入语言和 13 种输出语言,可满足多语言实时翻译场景的需求。
GPT-Realtime-Whisper(转录语音模型)
GPT-Realtime-Whisper 是一款专为低延迟语音转文字设计的流式转录模型。它能够在用户说话的同时实时转录音频内容,使实时字幕、会议记录等产品响应更迅速、体验更自然。
上述三款模型均已纳入 OpenAI 的 Realtime API,开发者可在 Playground 中直接测试体验。若已安装 Codex,还可通过提交提示词的方式,将 GPT-Realtime-2 集成至现有应用或快速创建新应用。
Q&A
Q1:GPT-Realtime-2 有什么特别的能力?
A:GPT-Realtime-2 是 OpenAI 发布的 GPT-5 级别实时语音推理模型,能够在实时语音对话过程中同步进行推理,支持工具调用、处理用户打断和纠错,并根据具体语境做出自然回应,适合需要高交互性的语音应用场景。
Q2:OpenAI 新推出的翻译语音模型支持哪些语言?
A:OpenAI 新发布的翻译语音模型支持 70 种输入语言和 13 种输出语言,可覆盖多种主流语言之间的实时语音翻译需求,适用于跨语言沟通、实时口译等场景。
Q3:GPT-Realtime-Whisper 适合哪些使用场景?
A:GPT-Realtime-Whisper 是一款低延迟的流式语音转文字模型,能够在用户说话时同步生成文字内容,非常适合实时字幕生成、会议记录、语音备忘等对响应速度要求较高的应用场景。
好文章,需要你的鼓励
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
本期《Quick Charge》播客涵盖多个热点话题:特斯拉疑似试图删除FSD欺诈相关证据以规避巨额赔付;卡特彼勒持续推进建筑领域电气化布局;住宅太阳能30%税收抵免即将到期。此外,嘉宾Tom Pacheco就高压系统与电池技术培训展开探讨,强调电动车技术人才培养的紧迫性。节目同时提醒有意安装太阳能的用户尽快行动,可通过EnergySage平台比较多家安装商报价。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。