logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Atlas 800I A2 aclnnLSTM 适配实践:bf16混合精度hx 超限场景自动回退至 aclop

昇腾 CANN 提供两套算子执行方式:aclop(基于 Ascend C 的算子库)和 aclnn(面向神经网络场景的高性能算子库)。aclnnLSTM 是昇腾为提升 LSTM 性能引入的加速接口,其能力边界与业界主流 RNN 加速接口保持一致,在 bf16、混合精度等场景上与原有 aclop 实现存在差异。昇腾 PTA(PyTorch Adapter)作为 PyTorch 与 CANN 之间的桥

#人工智能#python#pytorch +2
Atlas 800I A2 aclnnLSTM 适配实践:bf16混合精度hx 超限场景自动回退至 aclop

昇腾 CANN 提供两套算子执行方式:aclop(基于 Ascend C 的算子库)和 aclnn(面向神经网络场景的高性能算子库)。aclnnLSTM 是昇腾为提升 LSTM 性能引入的加速接口,其能力边界与业界主流 RNN 加速接口保持一致,在 bf16、混合精度等场景上与原有 aclop 实现存在差异。昇腾 PTA(PyTorch Adapter)作为 PyTorch 与 CANN 之间的桥

#人工智能#python#pytorch +2
torch_npu 性能分析模块技术解析

在深度学习模型的训练与推理过程中,性能分析(Profiling)是优化算力利用率、定位性能瓶颈的关键环节。torch_npu 是昇腾 NPU 上的 PyTorch 适配框架,其性能分析模块(Profiler)在 PyTorch Profiler 接口规范基础上进行扩展,提供算子执行、内存使用、通信操作等多维度的性能数据采集、解析与可视化能力。本文从模块架构、核心流程、状态机调度与工程实践等角度系统

#python#人工智能#pytorch +2
torch_npu 性能分析模块技术解析

在深度学习模型的训练与推理过程中,性能分析(Profiling)是优化算力利用率、定位性能瓶颈的关键环节。torch_npu 是昇腾 NPU 上的 PyTorch 适配框架,其性能分析模块(Profiler)在 PyTorch Profiler 接口规范基础上进行扩展,提供算子执行、内存使用、通信操作等多维度的性能数据采集、解析与可视化能力。本文从模块架构、核心流程、状态机调度与工程实践等角度系统

#python#人工智能#pytorch +2
torch_npu 分布式训练模块技术解析与实践指南(昇腾 NPU)

随着深度学习模型规模的不断扩大,单设备训练已难以满足实际需求,分布式训练成为提升训练效率、支撑大规模模型的关键技术。在华为昇腾 NPU 平台上,torch_npu 分布式训练模块为开发者提供了完整的分布式训练支持,使训练任务能够在多个 NPU 设备及多台服务器之间高效协同运行。该模块深度集成 PyTorch 分布式框架,在保持标准API 兼容性的同时,充分发挥昇腾 NPU 的硬件特性,为分布式训练

#分布式#人工智能#python +3
torch_npu 分布式训练模块技术解析与实践指南(昇腾 NPU)

随着深度学习模型规模的不断扩大,单设备训练已难以满足实际需求,分布式训练成为提升训练效率、支撑大规模模型的关键技术。在华为昇腾 NPU 平台上,torch_npu 分布式训练模块为开发者提供了完整的分布式训练支持,使训练任务能够在多个 NPU 设备及多台服务器之间高效协同运行。该模块深度集成 PyTorch 分布式框架,在保持标准API 兼容性的同时,充分发挥昇腾 NPU 的硬件特性,为分布式训练

#分布式#人工智能#python +3
GLM-5.2 在 MindSpore TransFormer 动态图迁移与 GPU/NPU 精度对齐工作报告

随着大模型训练场景的多样化发展,模型需要在不同硬件平台上保持一致的训练精度。本工作旨在将 GLM-5.2 模型结构接入 MindFormers PyNative 框架,并以 GPU 上的 Megatron-LM 为参考基准,验证 Ascend NPU 与 NVIDIA GPU 在单卡训练场景下的精度一致性。通过系统化的对齐流程,确保模型在不同硬件平台上的训练行为可复现、可预期,为后续多卡扩展和实际

#人工智能#python#机器学习 +4
Ascend for PyTorch Inductor C++ Builder 设备编译注册机制适配 NPU

修改前() -> None:Args:"""Args:目的:提供模块级注册表与公开 API。重复注册时发出警告并覆盖,与 PyTorch 其他注册机制一致。

#人工智能
    共 13 条
  • 1
  • 2
  • 请选择