Project Maya开源推理引擎支持GLM-5.3等巨型MoE模型

基于Strata开发的开源推理引擎Project Maya宣布支持GLM-5.3-Flash等巨型混合专家（MoE）模型的分布式推理，旨在利用GPU、CPU、RAM和SSD协同工作，在普通PC上运行321B至748B规模的模型。 该方案的核心变化在于突破了传统大模型对显存的依赖，通过多硬件协同机制，使得消费级显卡（如24GB VRAM配置）具备运行超大规模语言模型的能力。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。