Composer 2技术报告：面向智能体软件工程的代码模型训练
本报告介绍了代码模型Composer 2的训练过程。该模型基于开源基础模型Kimi K2.5，通过两阶段训练：首先进行侧重代码的持续预训练以深化编码知识，随后在高度模拟真实Cursor环境的大规模强化学习中提升端到端智能体性能。在自建的真实任务评估集CursorBench上，Composer 2得分为61.3，较前代提升37%，与前沿模型性能相当。在公开基准SWE-bench Multilingual和Terminal-Bench上分别获得73.7和61.7分，并在保持高精度的同时实现了显著更低的推理成本。训练依托为Blackwell GPU定制的高效MoE训练内核、跨区域异步强化学习管道等大规模基础设施完成。
Cursor 把 Composer 2 的训练全流程摊开讲了，从 Kimi K2.5 继续预训练到大规模 RL，关键是 RL 在真实 Cursor 会话里跑，不是玩具环境。做 coding agent 的团队，这份报告值得逐段拆。
我们在 arXiv 发布了一篇关于 Composer 2 训练的技术报告。Composer 2 是我们面向智能体驱动软件工程的代码模型。这份报告介绍了完整的训练流程：从基于开放基础模型 Kimi K2.5 的持续预训练，到大规模强化学习，重点是在训练中尽可能逼近真实的 Cursor 环境。
持续预训练与 RL
Composer 2 的训练分为两个阶段：首先是在强调代码的数据混合上进行持续预训练，以深化基础模型的编程知识；随后进行大规模强化学习，以提升端到端的智能体表现。我们发现，降低预训练损失会提升下游 RL 的效果；更扎实的基础知识也会可靠地转化为更强的智能体能力。
Composer 2 的 RL 训练在真实的 Cursor 会话中进行，使用与已部署模型相同的工具和执行框架，并基于能够反映开发者让 Composer 完成的各类任务全范围的问题分布。我们发现，RL 训练同时提升了平均表现和 best-of-K 表现，这表明模型学到的是新的解题路径，而不只是把已知路径进一步集中。
使用 CursorBench 进行真实场景评估
构建代码模型的一个核心挑战在于，公开基准往往无法反映开发者实际要做的工作。任务通常被描述得过于具体，解法空间有限，而且代码库规模较小。
我们基于工程团队的真实编码会话构建了 CursorBench。它包含这样的任务：提示简短且存在歧义，而完成解答往往需要在多个文件中进行数百行修改。我们在训练和评估的全过程中使用 CursorBench，让模型始终贴近真实问题。
性能
在 CursorBench 上，Composer 2 得分 61.3，较 Composer 1.5 提升了 37%，可与最强的前沿模型媲美。在公开基准中，Composer 2 在 SWE-bench Multilingual 上得分 73.7，在 Terminal-Bench 上得分 61.7。与此同时，它的推理成本显著低于同类模型，因此在面向开发者的交互式工作流中，在准确性与成本之间实现了帕累托最优的平衡。
基础设施
为了训练 Composer 2，我们投入了大量基础设施开发工作，包括：为在 Blackwell GPU 上高效进行 MoE 训练而定制的低精度内核、跨多个区域的全异步 RL 流水线，以及 Anyrun——我们用于运行数十万个沙箱编程环境的内部计算平台。该报告覆盖了完整技术栈，包括我们在权重同步、容错和环境保真度方面的方案。
报告还对这些内容做了更深入的展开，包括训练方案的消融实验、我们塑造智能体行为的方法，以及评测套件的设计。
感谢 Kimi K2.5、Ray、ThunderKittens、PyTorch 及更广泛开源社区背后的团队。我们也感谢 Fireworks 和 Colfax 的协作与支持。
在这里读取完整技术报告。
来源：Cursor Blog · cursor.com