AssemblyAI 如何用 Amazon EC2 Spot 优化语音转文字推理成本
AssemblyAI 在 AWS 上以 Amazon ECS 搭配 EC2 Spot 与 On-Demand 混合的 GPU 集群运行语音转文字推理,通过 SQS 队列重试机制在 Spot 中断时把任务重新入队。架构跨 g4dn、g5、g6 三类 NVIDIA GPU 实例族分散 Spot 容量,并在 us-west-2 与 eu-west-2 区域部署以满足数据驻留合规。
AssemblyAI 在 AWS 上以 Amazon ECS 搭配 EC2 Spot 与 On-Demand 混合的 GPU 集群运行语音转文字推理,通过 SQS 队列重试机制在 Spot 中断时把任务重新入队。架构跨 g4dn、g5、g6 三类 NVIDIA GPU 实例族分散 Spot 容量,并在 us-west-2 与 eu-west-2 区域部署以满足数据驻留合规。
AWS 总结 10 月面向 AI 开发者的更新:Claude Haiku 5.5 与 OpenAI GPT-6.1 Terra 等新模型上线 Amazon Bedrock,其中 Haiku 5.5 成本较 Haiku 4.5 低约 75%,GPT-6.1 Terra 支持最多 100 万输入 token。
Phonon 团队回顾两周前开源的端侧 TTS 模型,介绍其能力、演示项目以及在 Hugging Face Open TTS Leaderboard 上的评测结果。
推荐理由:原文给出 Phonon 在 Open TTS Leaderboard 上的多语言排名与 CPU 首音延迟表现,可对照其小体积端侧定位。
Mistral 发布 Voxtral 3,包含语音转文字模型 Voxtral Small Transcribe 3、Voxtral Mini Transcribe 3 与实时版,以及文本转语音模型 Voxtral Mini TTS 3,并推出基于 LiveKit 的语音智能体 SDK,把听、推理、工具调用和说合成一条实时流式流水线。
推荐理由:Mistral 把语音识别、语音合成和智能体 SDK 打包成一条实时流水线,并给出各环节定价与自部署选项,可据此估算语音智能体的落地成本。
OpenAI 发布四个 2025-12-15 音频模型快照,覆盖语音转文字、文字转语音和实时语音到语音,价格与上一版相同。gpt-realtime-mini 在内部语音到语音评测中指令遵循准确率提升 18.6 个百分点、工具调用准确率提升 12.9 个百分点;gpt-4o-mini-transcribe 在噪声场景下的幻觉比 Whisper v2 减少约 90%。
OpenAI 开发者博客介绍 Realtime API 与 gpt-realtime 语音模型转为正式可用后的接口变化,并给出迁移到 GA 接口的建议。文章列出 GA 与 beta 接口的功能差异,包括图像输入、长上下文、异步函数调用、MCP 和音频 token 转文本等,并说明 GA 接口已移除 temperature 参数。
推荐理由:OpenAI 官方梳理 Realtime API 从 beta 到 GA 的接口变化与迁移要点,可帮助语音应用开发者判断改造范围。