BPTTとは

BPTT（Backpropagation Through Time）は、RNNを学習させるための誤差逆伝播法です。日本語では通時的誤差逆伝播法とも呼ばれます。

しくみ

RNNは、前の時刻の隠れ層の状態を、次の時刻の計算に加えて使います。このような帰還のある構造には、通常の誤差逆伝播法をそのまま使えません。そこで、時刻1、時刻2、…と各時刻の計算を横に並べて書き出します。これを「時間方向に展開する」といいます。展開すると、RNNは系列の長さと同じ数の層を持つ、深いネットワークとして扱えます。

この展開したネットワークに誤差逆伝播法を使い、最後の時刻から最初の時刻へとさかのぼりながら勾配を計算するのがBPTTです。展開した各時刻の層は同じ重みを共有しています。そのため、時刻ごとに求めた勾配を足し合わせて、1つの重みを更新します。

長い系列で起きる問題

さかのぼる時刻が増えるほど、同じ重みに関わる微分を何度も掛け合わせることになります。そのため、勾配が急速に小さくなる勾配消失問題や、急激に大きくなる勾配爆発問題が起きやすくなります。結果として、遠い過去の情報が学習に反映されにくくなります。また、逆伝播のために全時刻の途中の値を保存しておく必要があり、系列が長いほど多くのメモリを使います。

主な対策

• 打ち切り型BPTT（truncated BPTT）：さかのぼる時刻の数を一定で打ち切り、計算量とメモリを抑えます。ただし、打ち切った範囲より前との関係は学習しにくくなります。
• 勾配クリッピング：勾配の大きさに上限を設け、勾配爆発を防ぎます。
• LSTM・GRU：ゲート機構で情報を長く保ち、勾配消失を起こしにくくします。

覚え方

「BPTTは、RNNを横に広げてから逆伝播」と覚えます。