今日概览
- 水印会改变生成路径，也会诱发有证据时的事实错误：六类方法均出现这一现象；在检测真阳性率固定为0.90、假阳性率为1%时，两类插件式干预结合将水印解码造成的相对事实错误减少约90%。
- 部署轨迹能经验证后蒸馏为持久能力，ASCENT让冻结模型依据终局结果重新解释单次尝试，再将后见分布写入LoRA快权重，但效果依赖连续的相关任务与可信验证信号。
- Prism让稀疏结构跟随声画信息分布变化。它根据视觉变化方向和音频—视觉耦合调整各宏区域的块形，并由混合块选择策略动态确定每次查询的稀疏度，相对全注意力实现2.5倍训练加速并改善生成质量。
重点关注
01 安全对齐 水印不只是标记，它还会改变模型的回答
文本水印通常被当作生成后的溯源标记，但这项研究指出，它其实是一种会直接改变模型行为的解码干预。作者在受控的检索增强生成场景中保持上下文、查询和解码配置一致，发现KGW、SWEET、DiPmark、GumbelSoft、Gumbel-Max和SynthID六类水印方法都可能诱发事实错误——即使证据已经放在上下文里，未加水印的模型也能正确作答。原因不只在当前词被重新加权或按密钥采样：一次看似微小的选词偏移会改变后续前缀，并在逐词生成中累积为注意力漂移，让模型越来越难聚焦原始证据。论文据此提出词元层和注意力层的两类插件式干预；在检测真阳性率固定为0.90、假阳性率为1%的条件下，二者结合将水印解码造成的相对事实错误减少约90%，同时保持流畅度和相近的解码效率。这个数字不等于绝对错误率降至零，也不能证明水印幻觉已经消失，具体适用范围仍需结合全文和更多任务确认。对准备在搜索、客服或知识问答中部署水印的团队，评估表里必须加入同上下文、同查询条件下的事实性对照，而不能只看水印是否容易检测、是否难被移除。
原文：Invisible Ink, Visible Lies: How Production Watermarking Causes LLMs to Hallucinate
02 Agent 一次尝试，怎么变成下一次的持久能力？
一次部署轨迹不该被原样模仿：唯一一次尝试里既有有效经验，也有可能把策略带偏的错误动作。ASCENT让冻结的初始模型结合终局验证结果，以「事后知道成败」的视角重新解释整条轨迹，再把得到的预测分布蒸馏进持久化的LoRA快权重，供后续任务使用。这样既不需要外部教师或标准答案，也绕开了文本记忆必须检索准确、冻结策略还得正确执行的双重瓶颈；过滤无效动作还能进一步提升执行效率。摘要报告它在ALFWorld、WebShop和AppWorld中随经验积累提高了成功率与交互效率，并能迁移到留出场景。边界也很明确：收益依赖相关任务持续到来、每次执行都有可信的终局验证，而稀疏成败信号能支持多大规模的长期适应，仍需看全文确认。
03 视频生成 稀疏注意力不该是一张固定网格
高分辨率音视频联合生成的注意力结构，可能不该由一套统一网格决定。Prism先把序列划成时空宏区域，再结合视觉特征沿不同方向的变化与音频到视频的交叉注意力强度，估计各宏区域的局部信息结构并决定块形，沿视觉内容快速变化和声画耦合强的轴向采用更细分块。这样，每个区域的块形和每次查询的稀疏度都能动态调整，鼓励块内词元保持语义一致，使块级特征捕捉视觉内容及声画交互模式。摘要中的实验结果显示，这套训练期稀疏注意力相对全注意力实现了2.5倍训练加速，生成质量反而更好。对正在训练多模态生成模型的团队，更值得借鉴的不是「少算一些token」，而是让稀疏结构跟着跨模态信息分布变化。
原文：Prism: Dynamic Sparse Attention for Native 2K Joint Video-Audio Generation Model Training
也值得关注
今日观察
TUD、SAPrune与推理链扩展把算力优化的问题从「削减多少」推进到了「何时调用、何时裁剪、从何处续算」。三者依据的信号并不相同：TUD观察未来动作重预测的跨步分歧，SAPrune等待动作—视觉注意力模式变得更可靠，推理链扩展则比较不同续写位置的正确率收益。三者并不都依赖任务过程中的实时状态：TUD在任务执行时根据预测不确定性动态触发，SAPrune根据小型校准集中的跨层注意力变化选择裁剪层，推理链扩展则选择重启位置。学习路由器优于均匀放置，但相对总从最后合格步骤重启的always-last基线未检出增益。落地评测时，应把任务时动态方法或校准派生方法与最强固定频率、固定层位或位置规则放到同一条成本—效果曲线上，并同时报告成功率、调用量、token量和墙钟时间。