跳到正文
AWS Machine Learning Blog· Belair Albahagwi·· 2 天前AI 评分44

AssemblyAI 如何用 Amazon EC2 Spot 优化语音转文字推理成本

Cost-optimizing AssemblyAI speech-to-text inference on AWS with Amazon EC2 Spot

AI 导读

AssemblyAI 在 AWS 上以 Amazon ECS 搭配 EC2 Spot 与 On-Demand 混合的 GPU 集群运行语音转文字推理,通过 SQS 队列重试机制在 Spot 中断时把任务重新入队。架构跨 g4dn、g5、g6 三类 NVIDIA GPU 实例族分散 Spot 容量,并在 us-west-2 与 eu-west-2 区域部署以满足数据驻留合规。

来源:AWS Machine Learning Blog · aws.amazon.com