在 PyTorch 的优化路径中，图捕获（Graph Capture）是实现性能提升的关键环节。当前 PyTorch 社区对图捕获的实现主要围绕 CUDA 设备展开，但随着 NPU 等其他加速器的接入需求日益增长，我们需要设计一套可扩展的图捕获架构，使得不同硬件后端能够以统一的方式接入这一优化路径。本文介绍的是“使用契约、但不迁移 CUDA”的实现变体。该方案的核心思路是：NPU 及其他已注册后端

在大型语言模型（LLM）的训练与推理实践中，框架生态的兼容性是一个关键挑战。在无 MindSpore 环境的情况下，实现单卡 PyNative（动态图）模式的预训练闭环。目标平台为 Ascend NPU（通过torch_npu），同时需向下兼容 CUDA 和 CPU。本次单卡改造必须为后续平滑放大到多卡并行训练铺平道路，避免未来大规模重构。因此，所有设计决策都以“单卡即多卡 world_size=

在大型语言模型（LLM）的训练与推理实践中，框架生态的兼容性是一个关键挑战。在无 MindSpore 环境的情况下，实现单卡 PyNative（动态图）模式的预训练闭环。目标平台为 Ascend NPU（通过torch_npu），同时需向下兼容 CUDA 和 CPU。本次单卡改造必须为后续平滑放大到多卡并行训练铺平道路，避免未来大规模重构。因此，所有设计决策都以“单卡即多卡 world_size=