logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Onnx模型的Resize算子转华为OM模型的ResizeBilinearV2算子以后精度下降问题

摘要:在将PAN模型的ONNX格式转换为OM模型后,模型精度出现显著下降。通过mist工具对比分析,发现ResizeBilinearV2算子是问题根源。原因是ONNX中Resize算子默认使用half_pixel模式,而昇腾的ResizeBilinearV2采用pytorch_half_pixel模式。解决方法是通过修改ONNX模型中Resize节点的coordinate_transformati

#人工智能#bug#CANN
记录bug:pytorch-cpu版的torch.linalg.solve方法在华为服务器上存在内存泄漏

在华为鲲鹏920CPU上运行PyTorch 1.10.1时,torch.linalg.solve方法出现内存泄漏问题。解决方案有两种:1)升级至PyTorch 2.4.1版本后问题消失;2)改用scipy.linalg.solve替代,虽耗时增加3倍(单次调用<1ms),但避免了内存泄漏。两种方法均有效解决了该平台下的内存泄漏问题。

文章图片
#pytorch#bug#人工智能 +1
到底了