简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
pytorch多gpu训练报错:RuntimeError: Caught RuntimeError in replica 0 on device 0.
在进行图卷积多gpu训练的时候,报了这样的错误。最开始版本的代码使用的是:nn.DataParallel 来进行多gpu训练。但是其缺点也很明显,对于其维护较差,优点就是只用一行代码。首先为什么会产生这样的错误,在于gcn对于weight和bias使用了parameter 关键词,在parallel中,无法做到对parameter的并行,导致了一些问题。后来痛定思痛,决定替换DataParalle
到底了