logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

计算机视觉:分类任务的基本使用

本文基于昇思MindSpore与昇腾NPU,以CIFAR-10和ResNet50为例,系统演示图像分类全流程:涵盖数据增强、网络构建、训练调优、评估推理及部署。通过MindData实现高效数据流水线,利用Model高阶API简化开发,结合图模式与分布式训练释放硬件性能。重点介绍昇腾平台调优要点:启用图模式、合理设置batch size、使用预训练模型迁移学习,并规避归一化错误、数据泄露等常见问题,

#计算机视觉#分类#人工智能 +2
计算机视觉:分类任务的基本使用

本文基于昇思MindSpore与昇腾NPU,以CIFAR-10和ResNet50为例,系统演示图像分类全流程:涵盖数据增强、网络构建、训练调优、评估推理及部署。通过MindData实现高效数据流水线,利用Model高阶API简化开发,结合图模式与分布式训练释放硬件性能。重点介绍昇腾平台调优要点:启用图模式、合理设置batch size、使用预训练模型迁移学习,并规避归一化错误、数据泄露等常见问题,

#计算机视觉#分类#人工智能 +2
Transformers 大模型训练迁移:ModuleSpec的使用

本文介绍MindSpore-Transformers中的ModuleSpec组件,通过声明式方式实现HuggingFace大模型向昇腾平台的高效迁移。其核心能力包括模型注册、自动权重映射、并行策略绑定与子模块递归管理,显著降低迁移成本。结合代码实践与踩坑指南,展示如何快速完成模型注册、分布式训练配置及权重加载,助力开发者无缝接入昇腾NPU集群,实现大模型高效训练。

#性能优化#算法#深度学习 +1
Transformers 大模型训练迁移:ModuleSpec的使用

本文介绍MindSpore-Transformers中的ModuleSpec组件,通过声明式方式实现HuggingFace大模型向昇腾平台的高效迁移。其核心能力包括模型注册、自动权重映射、并行策略绑定与子模块递归管理,显著降低迁移成本。结合代码实践与踩坑指南,展示如何快速完成模型注册、分布式训练配置及权重加载,助力开发者无缝接入昇腾NPU集群,实现大模型高效训练。

#性能优化#算法#深度学习 +1
大模型训练:保存mindir 格式模型

MindSpore大模型训练后导出MindIR实现“一次训练,多端部署”。MindIR封装计算图与权重,支持跨硬件推理,区别于仅存参数的ckpt。分布式场景需加载strategy_ckpt与分片ckpt,通过infer_predict_layout生成推理布局,再调用export生成mindir。可直接推理或经ATC编译为om模型部署昇腾NPU。注意:不可用MindIR恢复训练,需关闭dropou

#caffe#人工智能#性能优化 +2
大模型训练:保存mindir 格式模型

MindSpore大模型训练后导出MindIR实现“一次训练,多端部署”。MindIR封装计算图与权重,支持跨硬件推理,区别于仅存参数的ckpt。分布式场景需加载strategy_ckpt与分片ckpt,通过infer_predict_layout生成推理布局,再调用export生成mindir。可直接推理或经ATC编译为om模型部署昇腾NPU。注意:不可用MindIR恢复训练,需关闭dropou

#caffe#人工智能#性能优化 +2
MindSpore‑Transformers LLM 预训练模型:Megatron‑LM API 接口对齐

MindSpore-Transformers(MindFormers)实现对Megatron-LM核心API语义对齐,支持张量、流水线、序列并行,兼容Megatron数据集与权重格式。通过四层架构设计,实现接口、参数、分布式逻辑高度一致,开发者仅需少量适配即可将大模型训练脚本迁移至昇腾NPU,复用图编译、算子融合、混合精度等加速能力,显著降低国产化迁移成本。配套提供数据集加载、权重双向转换、精度比

#caffe#深度学习#人工智能 +1
MindSpore‑Transformers LLM 预训练模型:Megatron‑LM API 接口对齐

MindSpore-Transformers(MindFormers)实现对Megatron-LM核心API语义对齐,支持张量、流水线、序列并行,兼容Megatron数据集与权重格式。通过四层架构设计,实现接口、参数、分布式逻辑高度一致,开发者仅需少量适配即可将大模型训练脚本迁移至昇腾NPU,复用图编译、算子融合、混合精度等加速能力,显著降低国产化迁移成本。配套提供数据集加载、权重双向转换、精度比

#caffe#深度学习#人工智能 +1
大模型:吞吐量深度调优实践

本文系统阐述了在昇腾NPU上通过昇思MindSpore全栈优化提升大模型吞吐量的策略。基于图编译、算子融合、内存复用、PageAttention、ZeroBubbleV并行及动态batching等技术,从训练到推理全流程优化,结合可运行代码与benchmark工具,实现token吞吐逼近硬件上限。重点解决显存碎片、通信开销、调度瓶颈等问题,助力开发者高效释放算力,降低部署成本,尤其在多模态强化学习

#性能优化#大数据#算法 +2
大模型:吞吐量深度调优实践

本文系统阐述了在昇腾NPU上通过昇思MindSpore全栈优化提升大模型吞吐量的策略。基于图编译、算子融合、内存复用、PageAttention、ZeroBubbleV并行及动态batching等技术,从训练到推理全流程优化,结合可运行代码与benchmark工具,实现token吞吐逼近硬件上限。重点解决显存碎片、通信开销、调度瓶颈等问题,助力开发者高效释放算力,降低部署成本,尤其在多模态强化学习

#性能优化#大数据#算法 +2
    共 2353 条
  • 1
  • 2
  • 3
  • 236
  • 请选择