Mixture of Agents

一句话定义

Mixture of Agents（MoA）是推理时的集成：多个模型/提示并行生成候选，再由聚合器综合、改写或投票，必要时多层迭代。

为什么需要它

单模型有盲区；不同模型/提示的多样性可以互补。MoA 不改权重，直接用编排提升质量/稳健性，适合高价值、延迟不敏感的问答/写作/分析。

怎么工作

同一问题发给多个模型/提示/温度。
收集候选答案。
聚合器综合（可带引用/评分）。
需要时进入下一层，再聚合。
输出最终答案。

典型结构是 proposers + aggregator，可多层迭代；聚合器可以是强模型。多样性来自不同模型/提示/温度/工具，同质化时收益很低。成本约等于提案数×调用价，延迟叠加，可用缓存/批处理。评测看质量、胜率、成本和延迟，并对照单模型。风险是错误候选被放大、聚合器偏好；需要引用/验证。它和 Multi-Agent 的区别是并行提案+聚合，不强调角色/对话。MoA 适合离线/高价值任务，低延迟场景不划算；聚合器要能识别错误候选，必要时引用/验证。先小规模验证，再扩展。评测先行，再上线，持续迭代。

Mixture of Agents：多模型提案 + 聚合

关键取舍

质量增益取决于多样性和聚合器能力。
成本≈提案数×调用价，延迟也叠加。
候选同质化时收益很小。
不是权重合并（Model Merge），是推理编排。

常见误区

MoA 等于模型融合：一个改权重，一个改调用。
模型越多越好：成本/延迟/同质化会抵消。
聚合器一定更对：它也可能被错误候选带偏。
适合所有场景：低延迟/低成本场景不划算。

用在哪里

高价值问答、写作、代码评审。
需要多视角/交叉验证的分析。
离线批量任务。