AI 技术日报
本期重点：低精度损失、长前缀通信、跨 TP 缓存布局与 Agent 训练数据。
重点
Fused Linear KL：先转 BF16 会吞掉细小差异
Liger v0.8.4 的报告显示，模型输出的未归一化分数（logits）先转成 BF16，再转 FP32 计算 log-softmax。学生接近教师时，前一步舍入已丢失两者差异。受控实验给 logits 加 100 的共同偏移后，计算出的 KL 散度约为 FP64 参考值的 268 倍。误差在 logits 生成阶段就已引入，后续转成 FP32 无法还原丢失的差异。
https://github.com/linkedin/Liger-Kernel/issues/1535
长缓存、短输入：Pass-Q 减少 KV 传输
SGLang 的提案为每个请求指定一个负责新 token 的上下文并行（CP）rank。缓存前缀较长时，各 rank 接收查询 Q、读取本地 KV Cache，再返回局部结果与 log-sum-exp（LSE）合并，减少整个前缀的传输。8 张 B200 的逐层测试中，128K–256K 前缀下暴露的通信时间占层耗时 0.1%–1.2%。完整 PR 栈仍待发布。
https://github.com/sgl-project/sglang/issues/44885
跨 TP 复用缓存需要统一布局
vLLM 的报告发现，V1 runner 将直接布局的卸载 KV Cache 标为与并行配置无关。张量并行（TP）配置为 TP1 时写入、TP2 时读取同一存储层，缓存键可以相同，块内字节含义却不同，导致错误输出。作者在四张 H200 上复现。启用 canonical_layout 后，跨 TP 读写恢复正常；所测 V2 默认路径会拒绝不匹配的缓存并重算。
https://github.com/vllm-project/vllm/issues/62283
AutoSynthData 从能力缺口生成任务
ServiceNow 的 AutoSynthData 比较目标模型失败与教师模型成功的任务，选择下一轮训练需要补足的能力。生成任务同时包含环境约束、用户目标和验证器（verifier），并检查任务是否能在环境中完成。随着模型进步，数据分布随剩余弱项调整。
https://huggingface.co/blog/ServiceNow-AI/autosynthdata
简讯
MXFP8 紧凑 scale 越界
Transformer Engine（TE）2.20.2 的 GB200 复现在 32 行、256 列的 FP32 输入上发现紧凑缩放因子（scale）缓冲越界。2026-10-20 的跟进还涉及 BF16/FP16 布局，其他精度的安全性尚未确认。
https://github.com/NVIDIA/TransformerEngine/issues/3689
GroupNorm 的低精度归约
Liger v0.8.4 的局部复现中，FP16 求和溢出，BF16 则受抵消误差影响。先转 FP32 再求均值和方差，消除了报告中的异常。
https://github.com/linkedin/Liger-Kernel/issues/1534
GDN 与 N-gram 的版本差异
vLLM v0.31 的报告发现部分接受后的递归状态异常。2026-10-19 跟进者在 MI308X 上测试，v0.32 与 main 的三组配置均未复现，v0.31 仍有错误；具体修复提交尚未单独定位。
https://github.com/vllm-project/vllm/issues/62304
滑动窗口缓存查找
vLLM 的提案按窗口长度跨步探测，再展开验证候选命中。128K token、4K 窗口的冷缓存函数测试中，查找次数从 8192 降至 33。最坏情况仍需线性扫描。
https://github.com/vllm-project/vllm/issues/62336
TMEM 释放前等待读取完成
FlashInfer 的 PR 在持久化 AttnRes 内核清理同步屏障前加入 tcgen05.wait::ld，等待读取完成后才释放张量内存（TMEM）。寄存器数据依赖本身不能保证内存读取已经完成。
https://github.com/flashinfer-ai/flashinfer/pull/6740
数字形字符串的类型转换
vLLM 工具解析器处理 string/integer 联合类型时，会把字符串 0017 转成整数 17。修补讨论要求只转换规范的 JSON 数字写法，保留含前导零的标识符。
https://github.com/vllm-project/vllm/issues/62252
gpt-oss 历史推理字段丢失
SGLang 返回 reasoning_content，但 gpt-oss 模板读取 thinking。客户端原样回传工具调用历史时，模板漏掉这段推理，报告中的提示长度因此从 291 降至 268 token。
https://github.com/sgl-project/sglang/issues/44931
AlphaQ 按权重谱分配位宽
AlphaQ 用 expert 权重谱的重尾程度估计量化敏感性，再在总位宽预算内分配精度，无需校准数据。论文在 Qwen1.5-MoE 上以平均 3.5 bit 的专家精度接近全精度准确率。
https://arxiv.org/abs/2606.04980
NCCL RMA 的流水线通信提案
TorchTitan 的征求意见稿（RFC）希望用主机发起的远程内存访问（RMA）搬运流水线激活与梯度，减少通信对 GPU 流式多处理器（SM）的占用。约 2.5% 的吞吐提升来自此前 Megatron 内部模型实验，TorchTitan 尚无实现和实测。