AI 技术日报
本期重点：MiniMax-M3.1 的 NVFP4 转换路径，以及如何确认 GDS 真正绕过了 CPU 中转。
重点
MiniMax-M3.1：让四位 KV 直接进入 FP8 计算
2026-10-23，vLLM 介绍了 MiniMax-M3.1-Flash 的低精度实现。Blackwell 路径把键值缓存（KV Cache）存成 NVFP4，查询仍用 FP8，因此先在内核中将 KV 转为 FP8，再做矩阵乘法。CUDA 13.4 的 mul.e4m3x4.e2m1x4.e4m3x4 指令一次完成四个 FP4 值的缩放，并输出四个 FP8 值，减少原先经 FP16 中转的指令开销。
AMD CDNA4 路径则把转换改成查表：256 种 E4M3 缩放因子（scale）与 8 种 E2M1 幅值的组合，预先舍入成 FP8，放进 2 KB 的本地数据共享内存（LDS）表。字节置换和符号位异或完成四个值的转换。两条路径都将转换留在消费 KV 的内核中，保留四位存储的收益。vLLM 已提供专用镜像，上游代码仍需经过审查合并后进入 nightly wheel。
https://vllm.ai/blog/2026-10-23-minimax-m31-flash
GPUDirect Storage：用计数器确认数据走过的路径
NVIDIA 2026-10-22 的教程说明，KvikIO 将数据读入 GPU 时有两次路径选择。KvikIO 可以调用 cuFile，也可以通过 POSIX 和 CPU 缓冲中转；进入 cuFile 后，仍可能走它自己的兼容路径。成功调用 CuFile 只说明读到了数据，是否使用 GPUDirect Storage（GDS）要结合计数器判断。KvikIO 的 AUTO 模式会按环境回退，小于默认 16 KiB 阈值的并行读写请求也会直接走 POSIX。
教程使用 H100、CUDA 13.3、cuFile 1.18 和本地 NVMe/ext4，将 1 GiB 文件按 4 MiB 任务读入 GPU。开启 CUFILE_STATS_LEVEL=3 后，gds_stats 显示 nvfs=256、posix=0，与 256 次加速路径读请求对应。若 cuFile 回退，操作会计入 posix；若 KvikIO 自己回退，则不会进入 cuFile 计数。这样可以先确认数据路径，再定位加载瓶颈。
https://docs.nvidia.com/kvikio/latest/runtime_settings/
简讯
DIFFLET：让扩散推理的模型进程常驻
2026-10-20 更新的 DIFFLET 论文，将 Trainium2 上的请求接入与模型执行拆成两个进程。模型进程跨请求保留编译程序和权重，省去反复初始化与加载；每次生成则重置采样状态和步骤缓存。在自适应缓存模式下，设备上的小型探针只返回一个变化分数，由主机决定当前步骤执行完整计算还是根据历史输出预测。
https://arxiv.org/abs/2610.23047
DiffResearch：从中间草稿提前取出检索问题
2026-10-21 提交的 DiffResearch 论文，把扩散语言模型接入规划、检索和写作流程。dFast 模式逐步读取去噪草稿，一旦得到包含六个有效子问题的 JSON 就停止分解，交给检索环节；最终报告仍完整生成。论文测到的收益集中在问题分解阶段，整条流程的耗时与普通扩散模式接近。
https://arxiv.org/abs/2610.28909
https://github.com/alanrbtx/DiffResearch
Projected Distillation：围绕学生的错误答案做最小修正
2026-10-20 的论文让教师尽量少改学生的错误答案，得到完整、正确的训练目标，并随学生更新重新生成这些修正。训练时，对比修正前后的差异片段，同时对原本答对的样本做自训练。学生在难题上暂时采不到正确答案时，也能从贴近自身输出的纠错中获得学习信号。
https://arxiv.org/abs/2610.27467
Spyre 编译后端：显式调度搬运与计算
PyTorch 2026-10-20 的文章介绍了从 KTIR 到 SpyreCode 的编译路径。MLIR 调度器读取硬件描述，把加载、计算和写回排成流水线，再加入分块、双缓冲与多计算实例并行。当前开源版本支持带广播和归约维度的逐元素运算，矩阵乘法支持仍在完善；调度表示与后端代码生成分开，便于适配其他数据流加速器。
https://pytorch.org/blog/from-ktir-to-spyrecode-an-mlir-dataflow-backend-for-ibm-spyre/