logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

使用软连接切换linux cuda版本后,nvcc -V输出版本错误

切换cuda版本的方法参考下面的文章:Linux系统中,多个CUDA版本切换_linux切换cuda版本_TEn%的博客-CSDN博客使用建立软链接的方式来切换了cuda版本以后,在命令行使用ncvv -V的命令输出当前cuda版本时,发现还是切换前的版本,在此记录。.bashrc文件中也配置了软链接的路径:已经切换成了10.0,nvcc -V却仍然输出 10.1。在/etc/profile文件中

文章图片
#linux
Onnx模型的Resize算子转华为OM模型的ResizeBilinearV2算子以后精度下降问题

摘要:在将PAN模型的ONNX格式转换为OM模型后,模型精度出现显著下降。通过mist工具对比分析,发现ResizeBilinearV2算子是问题根源。原因是ONNX中Resize算子默认使用half_pixel模式,而昇腾的ResizeBilinearV2采用pytorch_half_pixel模式。解决方法是通过修改ONNX模型中Resize节点的coordinate_transformati

#人工智能#bug#CANN
Onnx模型的Resize算子转华为OM模型的ResizeBilinearV2算子以后精度下降问题

摘要:在将PAN模型的ONNX格式转换为OM模型后,模型精度出现显著下降。通过mist工具对比分析,发现ResizeBilinearV2算子是问题根源。原因是ONNX中Resize算子默认使用half_pixel模式,而昇腾的ResizeBilinearV2采用pytorch_half_pixel模式。解决方法是通过修改ONNX模型中Resize节点的coordinate_transformati

#人工智能#bug#CANN
记录bug:pytorch-cpu版的torch.linalg.solve方法在华为服务器上存在内存泄漏

在华为鲲鹏920CPU上运行PyTorch 1.10.1时,torch.linalg.solve方法出现内存泄漏问题。解决方案有两种:1)升级至PyTorch 2.4.1版本后问题消失;2)改用scipy.linalg.solve替代,虽耗时增加3倍(单次调用<1ms),但避免了内存泄漏。两种方法均有效解决了该平台下的内存泄漏问题。

文章图片
#pytorch#bug#人工智能 +1
到底了