AI 技术日报
本期重点：异步 checkpoint 把写盘移到后台后，训练进程为什么仍会停顿。
重点
异步 checkpoint：后台写盘之外，还有暂存与收尾
NVIDIA Resiliency Extension（NVRx）的设计文档把异步保存拆成暂存、写盘和收尾三个阶段。在文档采用的 CPU 共享内存路径中，训练进程先把 GPU 张量复制到暂存区，后台进程再写盘。各 rank 完成后，训练进程汇总文件位置并写出元数据。写盘移到后台后，暂存和收尾仍可能占用训练时间。
相关 PR 将大量嵌套的 Python 元数据对象改为连续数组，减少垃圾回收时的对象遍历；重复的张量名称改用共享索引，减少收尾通信。即使已经缓存保存计划，这些主机工作仍有优化空间。截至 2026-10-24，PR 仍未合并。
https://github.com/NVIDIA/nvidia-resiliency-ext/pull/454
简讯
RL 训练：生成吞吐高，不一定供得上有效训练样本
AgileRL 在 2026-10-20 的 Arena 实验报告中讨论了异步 RL 的一处瓶颈：组内奖励完全相同的轨迹，在相对优势训练中不贡献有效策略梯度。过滤后重新补采，又会延长训练等待。报告按“有效 token/s”观察数据供给，并结合按任务保存的轨迹复用与自适应采样，减少昂贵 rollout 的丢弃。
https://agilerl.com/blog/benchmarking-arena-against-top-open-source-rl-libraries
Agent S4：让 Agent 改善操作电脑的接口
Simular 在 2026-10-21 介绍 Agent S4：由另一个 Agent 阅读操作轨迹，改写工具接口与使用说明，再通过验证任务筛选。例如，把逐格编辑表格变成批量修改。在作者的 108 项 OSWorld V2 测试中，Qwen3.8-27B 的完整任务成功率从 5.56% 升至 21.3%。这组对照同时将 Qwen CUA 固定接口框架换成了使用演化接口的 Prime Agent。
https://arxiv.org/html/2610.28601
CXL 共享 KV Cache：扩容量之后，还要解决跨机复用
Micron 在 2026-10-21 的 CXL 讲座中展示了将共享内存接入 Dynamo 的方案，让多个 GPU 发现并复用已有 KV Cache 块，减少相同前缀的重复计算。跨主机共享还需要块索引、读写双方的缓存一致性，以及不阻塞推理调度的异步搬运。讲座提供录像与架构图，展示了 CXL 进入推理数据路径所需的配套设计。
https://computeexpresslink.org/event/kv-cache-scaling-using-dynamo-and-cxl-shared-memory/
合成数据：在合成集上学好，为何仍可能无法迁移
2026-10-20 的论文研究了一个二分类设定：真实与合成数据共享条件标签分布，但输入分布不同。如果合成数据没有覆盖真实数据所在的区域，仅降低合成集误差，仍无法约束那些区域的表现。论文将分布覆盖与模型平滑性纳入分析，并用图像实验区分构造的最坏情形与普通训练结果。
https://arxiv.org/pdf/2610.28036
运行时快照：随机数缓存也可能被一起复制
Node.js 在 2026-10-21 安全更新中修复了启动快照的随机状态问题：构建快照时若调用 UUID 或随机整数接口，其内部缓存可能被保存，导致从同一快照启动的多个进程重复返回相同值。修复会跨快照重置随机缓存，让新进程重新初始化这部分状态。
https://nodejs.org/en/blog/vulnerability/october-2026-security-releases