PyTorch 已经封装好了 LSTM：这里最重要的参数有 4 个。表示每个时间步输入特征的维度。比如：2. hidden_size表示 LSTM 隐藏状态的维度。例如：表示每个时间步输出一个 128 维的隐藏表示。如果输入是：其中：那么输出是：3. num_layers表示 LSTM 堆叠几层。表示单层 LSTM。表示两层 LSTM。一般建议：4. batch_first这个参数非常重要。如果：

当前输入产生的新信息是 0.7，但模型只认为其中 40% 值得写入长期记忆。但真实训练中，这些值不是人工设置的，而是通过参数学习出来的。上一时刻 0.8 的长期记忆，有 0.72 被保留下来了。此时模型可能会降低前面正面记忆的影响，写入负面信息。训练时，模型根据损失函数反向传播，不断调整这些参数。也就是说，这个时间步并没有大幅忘记历史信息。模型几乎忘掉了旧记忆，并写入了新的负向信息。旧记忆被大部分