logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

transformers加载模型报错

当使用AutoModelForSeq2SeqLM加载模型时,报错RuntimeError: a view of a leaf Variable that requires grad is being used in an in-place operation.一开始以为是transformers版本的问题,换个各种版本之后还是不行(尝试transformers 3.0,3.4,4.0),然后将to

如何解决RuntimeError: Expected all tensors to be on the same device, but found at least two devices, cpu

像这种情况,一般就是数据和模型一个在cpu,一个在GPU,或者用于计算的数据,有一些已经放到GPU里,有一些还存在CPU中,这里提供一个思路。首先找到报错的行,看看计算时都用到哪些变量或者数据,然后使用.is_cuda这个属性去查看到底哪些是在GPU上,哪些是在CPU上,然后把它们统一都放在CPU,或者统一放在GPU上就可以。举个例子:...

#python
如何解决RuntimeError: Expected all tensors to be on the same device, but found at least two devices, cpu

像这种情况,一般就是数据和模型一个在cpu,一个在GPU,或者用于计算的数据,有一些已经放到GPU里,有一些还存在CPU中,这里提供一个思路。首先找到报错的行,看看计算时都用到哪些变量或者数据,然后使用.is_cuda这个属性去查看到底哪些是在GPU上,哪些是在CPU上,然后把它们统一都放在CPU,或者统一放在GPU上就可以。举个例子:...

#python
到底了