AWS Machine Learning Blog· Belair Albahagwi·· 2 天前AI 评分44
AssemblyAI 如何用 Amazon EC2 Spot 优化语音转文字推理成本
Cost-optimizing AssemblyAI speech-to-text inference on AWS with Amazon EC2 Spot
AI 导读
AssemblyAI 在 AWS 上以 Amazon ECS 搭配 EC2 Spot 与 On-Demand 混合的 GPU 集群运行语音转文字推理，通过 SQS 队列重试机制在 Spot 中断时把任务重新入队。架构跨 g4dn、g5、g6 三类 NVIDIA GPU 实例族分散 Spot 容量，并在 us-west-2 与 eu-west-2 区域部署以满足数据驻留合规。
来源：AWS Machine Learning Blog · aws.amazon.com