MIT Technology Review · AI· 来源· Affan Syed·· 3 小时前AI 评分33
停止计算 Token,开始统计交付的软件
Stop counting tokens, start counting what ships
AI 导读
HPE Private Cloud AI 通过混合架构将常规工作负载路由至本地开源模型,使 Token 成本降低 30% 至 50%。企业应建立以“每次合并拉取请求的成本”为核心的度量体系,而非单纯限制用量。这种模式在保留前沿模型处理复杂任务的同时,利用自有算力提升重复性工作的经济性并保障代码安全。
来源:MIT Technology Review · AI · technologyreview.com