AWS Machine Learning Blog· 一手来源· Naomi Teng·· 2 小时前AI 评分15
Amazon Bedrock 支持 Kimi K3 印度本地推理
Introducing India-based inference for Kimi K3 on Amazon Bedrock
AI 导读
Amazon Bedrock 现已支持 Moonshot AI 开源模型 Kimi K3 在印度的本地推理,满足严格的数据驻留要求。Ultrahuman 案例显示,借助提示缓存技术,该方案使 LLM 成本降低 80%,多轮对话速度提升 85%。
来源:AWS Machine Learning Blog · aws.amazon.com