今日概览
- 多走采样步不等于增加推理深度,普通flow matching的多步轨迹在特定条件下仍可由常数轮并行计算模拟;自条件化让后续步骤读取并修正前序估计后,额外采样步才持续产生收益。
- 生成结果通过检查后才能写入世界状态:ATAS分开管理静态场景与动态事件,并作为编排层接入四种生成器,提升所有已报告的跨镜头一致性指标。
- COUNT把语料统计搬到可替换的主机内存表中。在固定计算预算下,10亿参数模型的验证损失改善幅度最高相当于增加57%计算量;推理时更换领域表还能实现免训练适配。
重点关注
01 推理 给定条件下,普通flow matching存在顺序深度瓶颈
普通flow matching即使增加采样步数,也不一定获得更深的顺序推理能力。论文从电路复杂度出发证明:在输出满足一定正则条件、骨干网络深度固定的前提下,整条多步采样轨迹仍可由常数轮并行计算模拟——看似一步步推进,实际可能没有形成更长的推理链。真正打破瓶颈的是自条件化:把上一步对最终图像的估计传给下一步,让后续计算能够读取并修正前序状态。受控实验中,加入这种跨步状态传递后,模型在多类视觉推理任务上准确率和推理深度更高,而且增加采样步才开始持续产生收益。这个结论不能泛化为所有迭代生成模型都缺乏深度,它针对的是特定条件下的普通flow matching;但它揭示了一个很实用的区别:重复执行模型不等于推进计算状态。设计多步Agent或生成工作流时,也应优先检查每一步是否真正继承了前一步的中间结果,而不是只把循环次数拉长。
原文:Self-Conditioning Enables Deep Sequential Reasoning in Flow Matching
02 视频生成 拍出来的镜头,为什么不能直接写进记忆?
ATAS把「交付成片」与「写回记忆」分开:只有通过审查与状态检查的观察,才会进入后续制作所依赖的世界状态。它先把剧本编译成带地点、机位和事件时间的镜头请求,再分别从登记过的静态几何与按场景、事件、时间索引的动态记忆中取证,因此隔了许多镜头重返同一地点或复现旧事件时,仍有共同坐标。妙处在于,这不是又一个视频模型,而是一层可接到不同生成器上的编排系统;摘要称它在四种生成器上提升了所有已报告的跨镜头一致性指标,每种底座的综合得分也都是最高。它把长视频制作从「不断给模型补提示」改写成了世界状态管理:生成器负责提出新画面,记忆系统负责决定哪些画面有资格成为事实。对正在做视频工作流的团队来说,值得优先投资的可能不是更长的上下文,而是可校验、可回溯的场景与事件记忆。
原文:Any Time, Any Space: A World-State-Centric Framework for Agentic Video Generation
03 模型架构 COUNT把N-gram记忆搬到主机内存
一张可随时替换的外部计数表,可能让语言模型不再只能靠增加可训练参数来扩展能力。COUNT预先统计语料中的n-gram频率,放在廉价的主机内存里,再用这些频率组合模型自身对后续token的预测表示,因此无需训练额外的嵌入参数。摘要称,在固定计算预算下,它让10亿参数模型的验证损失改善幅度最高相当于增加57%计算量——这是效果对比,不是端到端提速。更有意思的是,推理时换上领域语料的计数表就能适配新任务,不需要重新训练模型。其中,57%的定量效率结果仅针对10亿参数模型预训练的验证损失;换表适配则是推理时报告的另一项能力。
原文:The COUNT: Counting N-grams Unlocks Scaling on Host Memory and Training-Free Adaptation

也值得关注
今日观察
今天更值得迁移的设计原则不是笼统的「增加记忆」,而是先定义计算步骤之间究竟传递什么状态。三项工作处理的是不同问题:自条件化传递上一采样步对最终图像的估计,让后续步骤得以修正前序状态;ATAS维护带场景与时间索引、且只有通过检查才能写入的视频世界状态;COUNT则把语料统计放进可替换的主机内存表,用于扩展10亿参数模型的预训练效率并支持推理时换表适配。它们的状态内容、写入机制和证据范围都不相同,不能视为可互换的「记忆方案」。
团队在增加采样步、上下文或模型规模前,可以先审计状态通路的内容、保真度、写入门槛与存储层级:若后续计算读不到前序产生的有效信息,更多计算未必会转化为更深推理或更稳定输出。下一次工作流评审时,为每条状态通路明确列出「写入什么、何时写入、谁来校验、后续哪一步读取」四项答案。