本文介绍了PyTorch中的自动微分机制。主要内容包括：(1)梯度追踪的基本原理；(2)非标量反向传播需提供gradient参数来指定组合方式；(3)分离计算的detach()方法可切断梯度追踪；(4)二阶导数需保留计算图；(5)控制流下的动态计算图特性会导致不同输入产生不同梯度表达式。文中还解释了原地操作和梯度清零等实用技巧，并对比了标量和非标量反向传播的差异。