Self-HPO将Qwen3.5-35B-A3B在3个编码基准上的平均resolve rate从57.8%推至64.8%

重点关注

01 代码智能 只升级模型，为什么编码Agent仍会被旧工作流拖住？

编码Agent的表现不只取决于策略模型，还取决于harness——负责组织提示、工具与环境交互的执行框架。策略升级后，原有harness可能仍在针对旧的失败模式；反过来，固定harness产生的训练轨迹，也会限制策略能够学到什么。Self-HPO因此交替优化两者：当前策略先分析自身失败并提出新的harness候选，再在选定harness下通过强化学习更新，而训练中暴露的难题会进入下一轮harness搜索。这个闭环会持续改变Agent面对的任务与失败分布，因而联合优化的收益超过分别优化两部分后的简单相加。三个编码基准上，Qwen3.5-35B-A3B的平均解决率从57.8%升至64.8%，并在分布外测试中保持增益，但基准数量有限，泛化范围仍需更多验证。使用更强的外部模型Opus 4.8作为harness提议者还能带来进一步性能提升，说明结果会随提议者变化；对开发团队而言，模型迭代后同步重审工具编排与交互流程，可能比只继续训练模型更划算。

原文：Self-Evolving Coding Agents via Harness-Policy Optimization

02 模型架构 循环层的收益取决于三个设计轴

这项工作把循环语言模型拆成三个可独立检验的设计轴：循环段位置、原始输入注入时机和循环状态组织。复用同一组Transformer模块能减少常驻参数，但最终效果取决于这些具体选择。这项工作在参数规模、逻辑深度和token预算匹配的条件下拆开三个变量，发现「前置层—循环层—后置层」的三段式拓扑能稳定改善上下文提取和推理任务，输入注入则主要帮助知识检索与上下文利用。相比之下，随机初始化循环状态和分离循环状态带来的收益并不稳定，甚至可能适得其反。这组取舍还能迁移到混合专家模型（MoE）：在匹配训练和推理计算量时，采用该设计的模型比112层前馈MoE少用75%的常驻参数，并在DROP和GSM8K上更好、MATH500上持平，但其他任务只是保持竞争力。对设计小型或稀疏模型的团队来说，值得优先验证拓扑和输入注入，而不是把复杂状态机制默认当成升级方向。

原文：Towards Looped Models Done Right, Part I: Topology, Input Injection, Recurrent-State Design

03 检索 合成属性绑定文本的收益跨到了视觉检索

研究者只用合成属性绑定文本微调一个MLLM嵌入器，收益便迁移到了跨模态乃至图像—图像检索。SABER基准覆盖图像与文本的4种检索组合，并把场景复杂度扩展到最多10个对象；在该基准上，CLIP式双编码器和较新的多模态大模型嵌入器都表现出显著的属性—对象绑定失败。研究者没有使用图像监督，而是仅用可精确控制困难负例的合成属性绑定文本微调一个MLLM嵌入器，在SABER上做到当前最佳，同时保留了通用多模态嵌入表现。微调后的模型在否定和实例检索基准上也有提升，显示这种绑定监督的收益不只限于SABER。合成属性绑定文本可降低收集此类监督的成本，但受控基准上的提升还不能自动等同于开放场景中的组合理解，泛化边界仍需看全文和更多实测。

原文：Stuck on Shuffle: On Attribute-Object Binding in Vision-Language Models