LSTM中的“三门”
LSTM是一种特殊的循环神经网络（RNN），它引入了三个关键的门控机制：输入门、遗忘门和输出门。这三个门共同协作，确保LSTM可以在序列数据中高效地存储和检索信息。
输入门
遗忘门
输出门
这三者如何工作？它们就像是LSTM的记忆管理器，分别负责不同的任务。
LSTM的工作原理
1. 输入门决定哪些新信息应该被添加到记忆单元中。它通过计算输入向量与当前隐藏状态的点积来生成一个介于0和1之间的值，这个值可以看作是“门控权重”。如果值接近1，则表示输入门完全打开，允许新的输入进入记忆单元；如果接近0，则几乎关闭。
2. 遗忘门则负责决定当前的隐藏状态中有多少需要被遗忘。同样地，它也生成一个介于0和1之间的值来控制信息的记忆程度。值接近1表示基本保持现状，而接近0则表示几乎完全丢弃这部分记忆。
3. 输出门的作用是决定基于当前隐藏状态应该输出什么内容。这同样是通过计算来完成的，并最终决定了LSTM在任何给定时刻对外提供的信息量。
总结
LSTM中的输入门、遗忘门和输出门共同工作，使得网络能够在复杂的序列数据中表现得更加灵活多变。它们分别控制了信息的输入、存储以及读取过程，在处理长时依赖性问题上展现出了显著优势。