logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

国产芯片玩转推荐模型:RecSDK 昇腾推荐生态

本文详解昇腾NPU上推荐系统训练的生态体系——RecSDK,针对超大规模Embedding带来的性能与存储挑战,提出从算子层到模型层的完整适配方案。基于Torch框架,通过torch_npu零代码迁移、TorchRec非全/全下沉模式、fbgemm_ascend算子无缝替换及自定义算子支持,实现GPU到昇腾的高效平滑迁移。结合流水线并行与异步计算,显著降低H2D延迟,助力国产化推荐系统高效落地。

#开源#经验分享#pytorch +2
国产芯片玩转推荐模型:RecSDK 昇腾推荐生态

本文详解昇腾NPU上推荐系统训练的生态体系——RecSDK,针对超大规模Embedding带来的性能与存储挑战,提出从算子层到模型层的完整适配方案。基于Torch框架,通过torch_npu零代码迁移、TorchRec非全/全下沉模式、fbgemm_ascend算子无缝替换及自定义算子支持,实现GPU到昇腾的高效平滑迁移。结合流水线并行与异步计算,显著降低H2D延迟,助力国产化推荐系统高效落地。

#开源#经验分享#pytorch +2
到底了