AI 技术日报
本期重点：通信变快，要减少等待，也要保住各卡的数值一致性；RL 节能则要按真正参与训练的 token，计算降频带来的整体收益。
重点
flash-comm：数据何时能读，由数据块自己说明
分布式解码反复交换各卡的计算结果。数据已经送到，不代表接收卡知道它可以安全读取；下一轮也不能覆盖仍在被读的缓冲区。传统方案让整组 GPU 通过同步屏障确认进度，小消息的等待成本可能与搬运本身相当。
flash-comm 把“已经就绪”的证据放进传输过程。接收缓冲先填入特殊标记，生产者写入数据后，接收者便可逐块检查并消费；另一种方案将本次调用序号与数据一起发送，避免把旧结果误认成新结果。两种方案分别付出检查成本和额外传输字节，系统按消息大小、卡数及硬件实测选择。
数据可以乱序到达，加法却不能随到随算。浮点加法换顺序可能改变结果，继而让不同卡的专家选择分叉。对于各卡独立求和的方案，系统按来源卡编号固定累加顺序；对于分片求和，则由一张卡计算后分发同一结果。这里保证的是同次通信参与卡的一致性。
在 8 张 B300、DeepSeek-V4-Flash-0731 的张量并行解码实验中，相对 SGLang custom AR v2，并发 16–512 时的平均输出 token 间隔缩短 1.7%–6.8%。通信自身的较大提速，只能改善它在整个解码步骤中占用的那部分时间。
https://arxiv.org/html/2611.06634v1
EE-RL：降频是否节能，要把等待和试频也算进去
RL 后训练交替生成回答和更新模型。生成可能主要等待显存读取，分离部署的训练卡也可能等待生成端。此时维持高频未必增加有效工作，适当降频反而可能减少能耗。但频率太低会拉长步骤，让其他卡等得更久。
EE-RL 分别控制生成与训练频率，并以真正参与损失计算的回答 token 为计量单位。它先观察默认调频策略下的运行，依据生成 token 数、有效训练 token 数和最长回答，预测同样工作量应花的时间。随后短暂试用候选频率，只接受预测吞吐损失不超过 2%、且单位有效 token 能耗更低的设置，再持续检查是否需要调整。
这样比较，才能避免把“这批回答变短了”误判成降频后更快。能耗还要覆盖任务占用的所有 GPU，包括等待、试频和切换成本。作者在 Qwen3-30B-A3B 的同步分离实验中，用 8 张 H100 生成、32 张 H100 训练，测得全程单位有效 token 的 GPU 能耗降低 16.94%，吞吐降低 1.39%。这项对照匹配了随机种子、工作负载与 GPU 拓扑，比较对象是默认调频策略，统计区间包含在线选频。
https://arxiv.org/html/2611.05748v1
简讯
TapeSAC：只重算反向真正会读取的中间值
激活重计算用额外计算换显存，但重新执行整个模块，可能算出反向根本不用的结果。TapeSAC 记录前向算子的依赖，反向请求某个中间值时，只执行生成它所需的部分；若已保存该值，专门为它服务的上游计算也可省去。保存哪些值，则结合实测重算耗时和整个训练步骤的峰值显存联合决定，避免只按张量字节数估计代价。
https://arxiv.org/html/2611.04897v1
Cursor：把写出应用延伸到交付可访问的链接
Cursor 在 2026-11-05 发布 Apps，让云端 Agent 接着完成应用托管、按需创建数据库和配置登录。用户可以先预览，再明确发布并获得访问链接。发布检查通过与用户选择发布是两个必要步骤，生成代码本身不会直接上线。该能力面向已启用云端 Agent 的付费方案，减少的是从本地代码到可共享工具之间的部署工作。
https://cursor.com/changelog/build-live-apps
https://cursor.com/docs/cloud-agent/apps
B200 与 B300 实测：用功率帮助定位性能差距
一项双集群研究把吞吐与板卡功率一起比较，发现新卡的收益随负载改变。在 Lenovo 的 8 卡 BF16 推理测试中，B300 跑 ConvNeXt-Base 时仅达到额定功率的 36%，吞吐也落后；跑 ViT-Large 时则达到 95%，并领先。输入已常驻显存，排除了主机喂数据这一解释，但启动开销与卷积库实现的影响仍未分开。功率观测缩小了待查范围，还没有确定唯一原因。
https://arxiv.org/html/2610.41919v1
Trace2Eval：先验证恢复出的任务环境能重放原操作
真实编程会话通常没有完整的初始环境快照。Trace2Eval 从交互记录恢复文件和依赖，再重放原来的工具调用，检查恢复的环境能否重现记录中的行为。候选 Agent 随后从这个初始状态完成任务，交付物再接受结合源码与运行证据的评分。这为持续更新评测提供了一条路径，也明确了重建环境本身需要先被验证。
https://arxiv.org/html/2611.06506v1
AMD TDM：把注意力的数据收集交给搬运硬件
AMD 的压缩稀疏注意力实现用张量搬运引擎 TDM，将选中的键和值（KV）行从 HBM 显存直接送入片上共享内存，减少计算线程承担搬运时占用的寄存器。释放出的空间可容纳更深的计算流水线。在 MI455X 初期平台、4K 至 16K 序列等同组配置下，带 TDM 的前向加反向内核相对非 TDM 实现，几何平均提速 1.88 倍；这个数字对应注意力算子。
https://arxiv.org/html/2611.05751v1
经典回顾
ZeRO：分片节省的是常驻副本，还要看何时聚合
回读 ZeRO 的 2020-05-13 修订版，可以重新理解训练显存为什么不能只按参数量估算。普通数据并行在每张卡保存参数、梯度和优化器状态。ZeRO 逐步把这些状态分给不同卡保管，需要计算时再通信取得，而非让所有副本一直常驻。论文还单独讨论激活、临时缓冲和碎片：模型状态缩小后，它们仍可能成为瓶颈。这对理解显存峰值和重计算策略尤其有用。带着一个问题读：参数已经分片，为什么一次过大的聚合缓冲仍能让训练超出显存预算？