logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

onnx算子精度是fp32,使用atc转换om后都变为fp16,精度降低了,即使使用--precision_mode=force_fp32,也无法保持原精度,如何保持原精度?

摘要:在将ONNX模型转换为OM格式时,即使使用--precision_mode=force_fp32参数,算子精度仍从FP32降为FP16。解决方法是通过混合精度模式,在ATC转换命令中指定--precision_mode=allow_mix_precision,并配合--op_precision_mode参数锁定关键算子(如MatMul、Conv、Gemm)强制保持FP32精度。具体命令示例展

#开发语言#深度学习#python
【mindspore产品】识别猫狗实验报错,提示缺少visual studio 17 2022

运行python train.py报错 ,缺少Visual Studio 17 2022, 系统已安装Visual C++ Redistributable for Visual Studio 201。再次运行 python train.py 报另一个错了, 可能是pip版本太低吗?重新安装新版本的[重新分发 Visual C++ 文件 2017]好多库没有支持,建议安装一个anaconda。

#visual studio#python#ide
mindspore框架下进行多卡模型训练问题

问题描述:按照示例教程提供的脚本[./script/run_distribute_train.sh],进行多卡单模型训练时,出现了以下报错:请问有人遇到过这种错误吗?能否分享一下解决方法?谢谢![CRITICAL] DISTRIBUTED(21714,7fa32ebc0740,python):2022-03-09-08:30:23.606.377 [mindspore/ccsrc/distribu

#深度学习#机器学习#人工智能
mindspore lite 模型转换报错

***************************************************解答*****************************************************使用convert_lite 工具window。可以根据日志排查下pooling的规格。2,TensorFlow模型。

文章图片
#人工智能
WSL2下调用mindspore使用GPU分类CIFAR-10数据集时显存溢出

GPU为NVIDIA GeForce RTX 2060 with Max-Q Design,内存6G系统为windows11【操作步骤&问题现象】1、安装wsl2,anaconda3,在python3.7.5环境下运行mindspore1.5.0-rc12、对CIFAR-10数据集尝试使用ResNet-50实现图像分类3、可调用CPU进行分类,但调用GPU时提示cudaHostAlloc fail

#大数据
【mindspore】【训练】训练过程内存占用大

问题描述:我目前在做pytorch reconet模型在mindspore上复现的工作,现在遇到了显存溢出的问题,而且显存占用是torch中的三倍以上,pytorch只需要7.6G显存,而mindspore 24G都溢出了在pytorch中,在训练初始时加载一次vgg模型,在每个batch中vgg当做一个特征提取工具,也不需要参与模型梯度回传,训练步骤大体如下model = ReCoNet().c

#大数据
【昇腾310】【mindspore 安装后测试报错】ImportError: libacl_tdt_channel.so

问题描述:【功能模块】按照[官网链接](MindSpore官网) 安装 MindSpore 完毕后运行 import mindspore 报错,提示缺少依赖库文件 libacl_tdt_channel.so【操作步骤&问题现象】按照官网给的步骤,试过pip和conda两种方式安装一)pip安装1、执行```shellpip3 install https://ms-release.obs.cn-no

#python#ubuntu#开发语言
【mindspore】【算子不支持GPU】Unsupported op [Ceil] on GPU

问题描述:【功能模块】在训练时报错,提示算子不支持gpu类型【操作步骤&问题现象】1、开始训练,加载数据,走到train时就报错【截图信息】[EXCEPTION] DEVICE(35811,7f3f576f62c0,python):2022-03-03-07:28:44.866.790 [mindspore/ccsrc/runtime/device/gpu/kernel_info_setter.c

#python#开发语言
【MindSpore】【人脸识别ArcFace】无法正常作为loss函数使用

问题描述:人脸识别ArcFace无法正常作为loss函数使用。Model0Zoo的研究网络中有个人脸识别的ArcFace方法。在使用的时候,可能是我操作问题无法正常使用。【操作步骤&问题现象】1、定义resnet50的网络,19分类。net = resnet50(19)2、自己定义一个loss类。步骤是先将网络输出与标签输入到ArcFace中,然后再将ArcFace的结果输入到SoftMaxCE中

#深度学习#cnn#人工智能
    共 1090 条
  • 1
  • 2
  • 3
  • 109
  • 请选择