平均値プーリングとは

平均値プーリング（アベレージプーリング）は、CNNで特徴マップを縮小する処理の1つです。窓の中の値をすべて足し、個数で割った平均を出力します。

計算のしかた

特徴マップを2×2などの窓に区切り、窓ごとに平均をとります。窓の値が1、3、2、6なら、出力は(1＋3＋2＋6)÷4＝3です。2×2の窓をストライド2で重ならないように動かすと、縦と横はそれぞれ半分になります。

処理はチャネルごとに行うので、チャネル数は変わりません。学習する重みはなく、窓の大きさとストライドは設計者が決めます。

最大値プーリングとの違い

最大値プーリングは、窓の中で最も強い反応だけを残します。平均値プーリングは、窓の中のすべての値を同じ重さで混ぜて、全体をならします。そのため、際立った特徴は薄まりやすい一方、窓全体の傾向が残ります。どちらも、小さな位置ずれで出力が変わりにくくなる（不変性の獲得）点は共通です。

誤差逆伝播法での扱いも違います。最大値プーリングは最大値の位置にだけ勾配を流します。平均値プーリングは、勾配を窓の要素数で割って、すべての位置に均等に配ります。

どこで使われるか

途中の層の縮小には最大値プーリングがよく使われますが、平均値プーリングを使うモデルもあります。たとえばDenseNetは、ブロックとブロックの間で2×2の平均値プーリングを使い、特徴マップを縮めます。

また、窓を特徴マップ全体に広げた平均値プーリングが、グローバルアベレージプーリング（GAP）です。GAPは各チャネルを1つの値にまとめ、分類の直前で全結合層の代わりに使われます。

覚え方

「最大値はチャンピオンだけ、平均値はみんなの平均点」と覚えます。