RNN の時系列展開
再帰結合 hₜ = tanh(Wₓ xₜ + Wₕ hₜ₋₁ + b) を時間方向に開き、隠れ状態が次の時刻へ流れる様子を見ます。
8 ステップ
8
0.70
1.0
現在の時刻 t
—
入力 xₜ
—
隠れ状態 hₜ
—
出力 yₜ
—
隠れ状態ベクトル hₜ（更新中）
時系列展開（左→右に時刻が流れる）
RNN（再帰型ニューラルネットワーク）は、系列を 1 ステップずつ処理し、各時刻で
隠れ状態 hₜ を更新します。更新式は
同じセル（同じ重み）を何度も再利用する「折りたたんだループ」を、時刻ごとにコピーして横に並べたものが 時系列展開です。Wₕ を大きくすると過去の情報が長く残り、小さくするとすぐ忘れます。
hₜ = tanh(Wₓ xₜ + Wₕ hₜ₋₁ + b) ── いまの入力 xₜ と
1 つ前の隠れ状態 hₜ₋₁ の両方を使うのが特徴です。同じセル（同じ重み）を何度も再利用する「折りたたんだループ」を、時刻ごとにコピーして横に並べたものが 時系列展開です。Wₕ を大きくすると過去の情報が長く残り、小さくするとすぐ忘れます。
いま何が起きている？
ここがポイント
- 再帰 ── hₜ は hₜ₋₁ を入力に使うので、過去すべての履歴が hₜ に畳み込まれる。
- 重み共有 ── どの時刻も同じ Wₓ・Wₕ・b を使う。展開図のセルは全部「同じ部品」のコピー。
- 記憶の減衰 ── Wₕ < 1 だと過去の寄与が時刻ごとに掛け算で薄れ、遠い情報ほど消えていく。
- 展開＝学習の見方 ── ループを開くと深い順伝播ネットに見え、誤差を時間方向に逆伝播（BPTT）できる。