AI 技术日报

本期重点：DCP 按需加载 checkpoint，以及 Flint 的量化存储与计算精度。

重点

DCP：恢复时只加载所需切片

PyTorch 分布式检查点（DCP）的新提案为 FileSystemReader 增加内存映射（mmap）路径。它先映射 checkpoint 中的张量底层存储（storage），再按恢复计划取切片并复制到目标张量，省去完整加载中间 storage 的步骤。作者用 TorchTitan 的 Llama3 1B 配置生成约 15 GiB 的模型与优化器状态，在 Ascend NPU 上从 2 个 rank 恢复到 4 个 rank。热缓存下，rank 0 加载耗时的八次运行中位数从 5.643 秒降至 2.669 秒。PR 仍在审查。

https://github.com/pytorch/pytorch/issues/201622

https://github.com/pytorch/pytorch/pull/201621

Flint：NVFP4 存储，W4A16 执行

Flint 将量化感知训练后的 NVFP4 权重存入 GGUF。vLLM 加载时无损重排数据，运行时使用四位权重、BF16 激活和 KV Cache。融合内核减少访存与启动开销，并保留参考实现的舍入位置。2026-10-22 的补丁加入了 gguf 依赖和 SM100 架构检查，其他架构走标准层。PR 尚未合并。

https://vllm.ai/blog/2026-10-21-flint

https://github.com/vllm-project/vllm/pull/62938

简讯

Primus：按显存压力分配流水线层数

AMD 在 DeepSeek-V3 的 PP16/VPP2 训练中，将一个较短的虚拟流水线阶段从 PP15 移到显存峰值所在的 PP1，再按层选择重算。流水线前段积压的激活更多，各阶段即使层数相同，显存占用也不同。调整布局后，更多层可以保留激活，减少重算。

https://rocm.blogs.amd.com/software-tools-optimization/primus-moe-optimization/README.html

Claude Code：修复无头任务的 MCP 连接故障

2.1.307 修复了两类连接问题：macOS 钥匙串锁定时，错误提示会说明原因，解锁后的下一次运行无需重新登录；macOS/Linux 在连接期间休眠造成的超时，也不会再让 MCP 服务一直停在失败状态。

https://github.com/anthropics/claude-code/releases/tag/v2.1.307

Micro-World 2：根据动作继续生成场景

Micro-World 2 将 Wan2.2 5B 改成因果分块生成模型，结合历史画面与逐帧键鼠输入生成后续场景。动作条件同时进入蒸馏教师和学生，学生生成每个视频块只需四步。仓库已提供 2.0 的训练与推理入口。

https://rocm.blogs.amd.com/artificial-intelligence/Micro-World-V2/README.html

https://github.com/AMD-AGI/Micro-World

FlyDSL：按输入形状选择 GEMM

PyTorch 为 MI350 引入 FlyDSL GEMM 候选。启用后，Inductor 将它与 ATen、Triton 一起测速，按输入形状选择最快的内核。使用时需要包含相关集成的 ROCm PyTorch nightly 和 FlyDSL 0.3.x。

https://pytorch.org/blog/accelerating-pytorch-on-amd-gpus-with-flydsl/