LSTM及其激活函数理解-------本文仅为学习笔记，不做任何商业用途-------一、LSTM简介    长短期记忆网络（LSTM）是一种时间循环神经网络，是为了解决一般的RNN（循环神经网络）存在的长期依赖问题所设计出来的，可以解决RNN中的梯度消失和梯度爆炸的问题。    长短期记忆网络由于其独特的设计结构适合处理和预测时间序列中间隔和延迟非常长的重要事件。相比于传统的RNN，LSTM的参