登录社区云，与社区用户共同成长
邀请您加入社区
深度学习框架选型面临灵活性与稳定性的权衡。本文通过实测分析PyTorch在动态图效率、梯度精度、分布式训练等维度的表现，发现动态图在开发效率与性能损耗间取得较好平衡，多卡训练加速比可达7.2倍。研究验证了PyTorch在显存优化、模型迁移和部署转换方面的能力，其丰富的生态组件和社区支持为从科研到生产提供了全链路解决方案。建议采用"研发用动态，部署转静态"的双模策略，并注意环境配置的兼容性问题，以充
《深度学习工程化落地实战指南》摘要：针对深度学习项目落地中的常见痛点，本文系统梳理了从模型开发到生产部署的全链路解决方案。在模型开发阶段，重点探讨了动态图机制在CV/NLP任务中的灵活应用、混合精度训练优化及分布式并行策略；数据层面提出异步加载与内存映射技术解决I/O瓶颈；部署环节强调模型导出、推理引擎优化和量化技术的应用；同时提供可视化监控、超参数调优及报错排查的实用方法。通过模块化设计、标准化
某团队在昇腾NPU上部署FlashAttention后，性能提升了8倍，但业务方报告："模型输出变了一点，虽然不多，但不允许。"团队对比了NPU输出和GPU输出，发现结果有微小差异——最大相对误差约1e-3。他们不确定：这1e-3是正常的数值误差，还是bug？问题出在没有建立正确性基准。FlashAttention相比标准Attention引入了tiling、在线softmax、近似计算等多个环节
昇腾NPU量化实战——从FP32到INT8的完整指南
PyTorch官方例程详解
大家好，我是南木。作为深度学习入门的第一道坎，PyTorch安装看似简单，实则藏着“版本匹配”“硬件适配”“环境依赖”三大坑。尤其是2024年PyTorch 2.4发布后，对CUDA、Python版本的要求更严格，很多老教程的方法已经失效。这篇文章结合我帮500+新手排查安装问题的经验，从“安装前准备→三端详细步骤→常见报错解决→CUDA深度适配”全流程，手把手教你一次装对PyTorch。包含三种
本文提供了2025年最新版PyTorch的安装指南，涵盖CPU和GPU版本的详细流程。安装前需检查Python版本（推荐3.10/3.11），建议使用虚拟环境避免冲突。CPU版本直接通过pip安装即可。GPU版本需先确认显卡支持CUDA并安装相应驱动、CUDA Toolkit（12.1/12.2）和cuDNN，再通过特定命令安装PyTorch。文章还包含验证安装、常见问题解决（如版本冲突、离线安装
Torchtitan是PyTorch的NPU后端实现，支持昇腾NPU硬件加速。它提供完整的NPU支持，兼容PyTorch API，并支持混合精度和分布式训练。安装简单，只需pip install torchtitan。使用方式包括创建NPU张量、执行运算、模型训练等，支持自动混合精度和分布式数据并行。性能优化方面提供内存格式转换和梯度检查点等技术。测试数据显示在ResNet-50等模型上可获得显著
一、问题描述最近跑一些pytorch代码的时候遇到很多都是采用pytorch的分布式torch.distributed来训练的，相比于传统的nn.DataParallel，使用分布式的训练方式可以显著提升GPU使用率， 从而加快训练速度。一般常见的pytorch分布式训练命令如下：$ export CUDA_VISIBLE_DEVICES=0,1$ python -m torch.distribu
之后我尝试了很多方法依然存在卡住的问题，这个卡住和报错不一样，需要自己一点点去debug。后来，我仅仅使用单卡来跑模型训练，发现就不会卡住。所以基本上可以锁定是GPU之间通信的问题，可能是因为GPU之间的进程不同步导致的死锁。然后我在github上面找到有人说，把GPU的P2P通信的环境变量设置成0解决了：我尝试了之后发现不仅没解决，训练的速度还变慢了。所以只能继续debug，然后发现把整个模型e
跟随经典的深度学习“Dive-into-DL-Pytorch”，编写softmax模型，使用FashionMNIST数据集（6万张训练数据集+1万张测试数据集，含10个类别的预测），普通办公电脑cpu，vscode编辑器，jupyter上运行跑通。第四次运行配置：batchsize=256,epoch=10， 使用Adam优化器，模型从nn.linear->softmax变为nn.Linear -
本文介绍了使用昇腾官方开发套件asc-devkit快速开发NPU算子的完整流程。通过创建Softmax算子实例，展示了从工程初始化、代码生成、编译测试到部署的全过程。asc-devkit封装了算子开发的各个环节，提供一站式解决方案，包括创建工程模板（asc create）、自动生成框架代码（asc generate）、编译（asc build）、测试（asc test）和部署（asc instal
昇腾NPU卡间通信通过共享内存（shmem）比传统PCIe方式快10-25倍。shmem允许同节点内的NPU卡直接读写同一块物理内存，绕过PCIe总线，实现200GB/s+的带宽和0.5μs的低延迟。文章详细介绍了shmem的核心API、AllReduce实现代码，并对比了不同数据量下的性能表现。关键优势包括：单边通信操作、零拷贝数据传输、自动内存对齐等。同时指出了常见使用误区，如内存对齐问题、同
Transformer架构是现代AI技术的基石，彻底颠覆了深度学习格局。它通过自注意力机制解决了传统RNN/LSTM的并行计算和长距离依赖问题，成为ChatGPT、LLaMA等大模型的核心。文章详细解析了Transformer的核心思想、整体结构（编码器+解码器）及关键技术（多头注意力、位置编码、残差连接等），并提供了PyTorch手写Transformer的完整代码实现。同时区分了BERT、GP
PyTorch是Meta开源的深度学习框架，凭借Python风格语法、动态计算图和丰富生态成为新手入门首选。本文提供PyTorch快速安装指南（10分钟完成CPU版本搭建），详解三大核心知识点：张量、自动求导和神经网络模块，并附MNIST手写数字识别完整实战代码。针对常见报错给出解决方案，推荐从基础到进阶的学习路线。PyTorch以其易用性和强大功能，已成为学术界和工业界的标准工具，是深度学习入门
打开pycharm，新建项目，项目路径设置，项目编译器的选择，点击展开，因为已经创建了pytorch的环境，选择已存在的，interpreter下拉菜单中选择，若无选项，则点击三点按钮，选择conda环境，在右边下拉列表中选择，若无，则手动选择，点三点按钮，找到anaconda的安装地址，envs下面，选择pytorch环境，点击python.exe，点击确定，点击OK，可以看到已经导入之前创建的
。。深度学习环境配置失败了，版本不匹配，卸载卸载
首先需要下载Anaconda查看自己电脑的cuda版本：nvidia-smi。
Pytorch 1.1.0Pytorch 1.1.0于2019-05-01发布，详情见https://github.com/pytorch/pytorch/releases/tag/v1.1.0注： 不再支持CUDA8.0概述：官方TensorBoard支持，属性，字典，列表和JIT / TorchScript中用户自定义的类型，改进了分布式Highlights：TensorB...
pip3 install torch==1.10.1+cu113 torchvision==0.11.2+cu113 torchaudio==0.10.1+cu113 -f https://download.pytorch.org/whl/cu113/torch_stable.html
base环境中没有pytorch，在安装torchvision时自动安装了cpu版本的torch，并且不知为何隐藏了起来，用conda list找不到，但每次使用python时都默认使用的是该版本的torch，无论我怎么折腾gpu版本的pytorch也无济于事啊！问题来了，安装了正确版本的pytorch，显卡也支持，实在想不出还是因为什么。至于torch和cuda版本匹不匹配，在经过很多次检查，看
装yolo world后尝试跑demo，结果警告Disabling PyTorch because PyTorch >= 2.1 is required but found xxx。于是逐行尝试import，最终发现是transformers报的错，transformers版本是最新的，于是降低版本就可以了。找了一圈发现没有相同情况的。
ubuntu安装pytorch0、前置工作在Anaconda中创建pytorch环境conda create -n pytorch python=3.8# 在这之前先使用 python --version 查看python的版本号1、激活环境source activate pytorch一、直接安装打开pytorch官网：https://pytorch.org/选择需要版本：复制Command指令
安装PyTorch2.0.0，CUDA11.8
pytorch
——pytorch
联系我们（工作时间：8:30-22:00）
400-660-0108 kefu@csdn.net
AtomGit开源社区
人工智能6S服务平台
AMD开发者中国社区
深开鸿 技术专区
AtomGit AI 社区
