# RNN、LSTM、Seq2Seq 与注意力

## 元数据

- 书名：百面机器学习：算法工程师带你去面试
- 作者：葫芦娃
- 章节：第 10 章 循环神经网络
- 页码线索：236-251
- 目标岗位：AI PM / LLM 产品 / 算法工程师面试
- 优先级：P0
- 标签：rnn, lstm, attention, nlp

## 面试问题

RNN 为什么会梯度消失？LSTM 和注意力解决什么问题？

## 30 秒回答

RNN 通过循环状态处理序列，但长距离依赖会导致梯度消失或爆炸。LSTM 用门控机制保留长期信息，Seq2Seq 处理输入输出长度不等任务，注意力让解码时动态关注输入的不同部分。

## 展开要点

- RNN 适合序列数据，但并行性和长依赖能力有限。
- LSTM/GRU 通过门控控制记忆写入、遗忘和输出。
- Seq2Seq 曾广泛用于机器翻译、摘要、对话。
- 注意力机制缓解固定向量瓶颈，是 Transformer 的关键前史。

## 高频追问

- LSTM 三个门分别做什么？
- Seq2Seq 解码有哪些策略？
- 为什么要用双向 RNN？

## 项目映射

- 机器翻译、语音识别、时间序列预测、对话生成。
- 用注意力解释 RAG/长上下文中“关注相关信息”的产品直觉。

## AI PM 迁移

这张卡连接传统 NLP 到 Transformer，适合回答“为什么 attention 重要”。

## 备注

本卡为面试复习用的概念重构和答题框架，不保存原书正文。