十组护栏的基准分数范围相差23倍

重点关注

01 安全对齐 安全基准测出的，可能只是你采用了哪套政策

同一个安全模型框架，仅仅换一套标签口径，得分就可能从区间一端跑到另一端。研究者用同一批约5.3万条提示、两种「危险」定义训练了十组护栏：一种判断用户是否在索取有害内容，另一种判断审核员是否会拦截；在架构和优化流程不变时，十组护栏在HarmBench-copyright上的分数范围为0.99，在WildGuard-benign上为0.043，前者是后者的23倍。更意外的是，只改变约0.03%的参数，就能让部分基准分数跨越几乎整个区间——这反映的未必是检测能力变化，更可能是模型学到了哪套政策。政策还会通过蒸馏教师的软标签悄悄传给学生，即使学生看到的硬标签全部来自另一套定义，教师来源依然会成为隐藏变量。论文还发现训练池与两个过度拒绝基准分别有88%和82%的重合；后续结论虽基于去污染数据，但这足以提醒团队，漂亮的「不乱拦截」成绩可能首先需要做数据审计。在唯一对全部20个护栏分支评分的验证集划分上，验证准确率与标注者政策一致性的相关性为ρ=0.74，高于其与检测能力的ρ=0.34。对评测和采购团队来说，模型排名不能单独使用：还应要求披露训练集污染、标签定义、蒸馏教师来源与随机种子波动，否则你比较的可能不是谁更安全，而是谁更符合这张试卷的政策。

原文：Policy Is Not Capability: Some Safety Benchmarks Measure Which Definition of 「Unsafe」 You Trained On

02 Agent 训练长程办公Agent，为什么先得造一个能运转的办公室？

长程办公Agent的训练经验需要连贯的请求、服务记录、工具接口和评分检查，并能处理变化中的工作区状态。CoworkEnv从能力和工作流约束出发生成完整任务，再用程序化验证与反馈修复检查任务规格和评分逻辑，让环境真正可执行。使用CoworkEnv资源和教师示范做监督微调后，Qwen3-VL-8B-Instruct在Claw-Eval上的平均分从46.6升至64.1，其中多轮任务提升31.9分。这个框架还可以把学生交互转成强化学习所需的轨迹和奖励；摘要仅将训练奖励改善视为构造环境支持策略优化的初步证据，并未在摘要中报告策略能力结果。对开发办公Agent的团队而言，应检查请求、服务记录、工具接口和评分检查是否连贯且可执行。

原文：CoworkEnv: Synthesizing Training Environments for Long-Horizon Cowork Agents

03 图像生成 从单步画质转向整条编辑轨迹

多轮图像编辑的漂移不只是某一步画得不够好，更在于模型不断消费自己先前的输出，让伪影、细节损失和内容偏移沿轨迹累积。MT Forcing让教师直接从原图生成包含全部历史指令的目标，给学生的多轮自生成结果提供一个不受递归误差污染的参照。同时，它用参考编辑轨迹约束依赖历史的状态转移，以鼓励跨轮内容一致性，减少对本应保留的区域和此前编辑的意外改动。摘要称画质稳定性与跨轮一致性均有显著改善，但没有给出具体幅度，其对长序列、复杂局部编辑和真实用户指令的泛化仍需看全文确认。对交互式图像工具而言，这项工作的实用启示是：训练目标不仅要评价每一步，还要显式管理整条编辑轨迹。

原文：MT Forcing: Towards Stable and Consistent Multi-Turn Image Editing with Autoregressive Diffusion