长短期记忆网络

长短期记忆网络是什么

长短期记忆网络（Long Short-Term Memory，LSTM）是一种循环神经网络（RNN）结构，专门解决普通 RNN "记不住长序列"的问题。RNN 处理序列时，信息会一步步传递，但距离远的早期信息在传播中会衰减（梯度消失），导致模型"忘了开头"。LSTM 引入门控机制——遗忘门、输入门、输出门——让网络自主决定"哪些信息要记住、哪些要忘记"，从而把关键信息跨过很长的距离保留下来。它一度是语音识别、机器翻译、时间序列预测等任务的主流架构。

门控机制

LSTM 的核心是三个门：

• 遗忘门：决定上一时刻的记忆有多少要丢弃——不重要的信息淡出。
• 输入门：决定当前输入有多少要写进记忆——新信息有选择地进入。
• 输出门：决定当前记忆有多少要输出给下一层——按需呈现。
  通过"记忆单元 + 门控"的结构，LSTM 让网络既能长期保存关键信息，又能按需更新，比普通 RNN 稳定得多。

变体与演进

LSTM 的代表变体是 GRU（门控循环单元）：结构更简单、参数更少、效果相近，成为很多场景的轻量替代。2017 年之后，Transformer 凭借注意力机制彻底改写序列建模范式（可并行、可全局建模），LSTM 在大模型时代逐渐退居次要位置——但它在移动端、工业时序预测、小规模序列任务中仍有高效优势，也是理解"序列建模如何演进"的关键一环。

应用场景

语音识别（声学建模）、机器翻译（编码-解码）、文本生成、情感分析、股票与能耗等时间序列预测、手写识别。LSTM 是"AI 处理时间与顺序"的重要里程碑，理解它有助于理解 Transformer 出现前的序列模型世界。