CNNとは

CNN（畳み込みニューラルネットワーク）は、画像認識の中心となってきたニューラルネットワークです。画像全体を一度に見るのではなく、小さな窓を少しずつずらしながら見ていく点に特徴があります。

基本の構成

• 畳み込み層：フィルタ（カーネル）と呼ぶ小さな重みの表を入力の上でずらし、重なった値と掛け合わせて合計します。結果を並べたものが特徴マップです。縦の線や角など、フィルタが表す模様がどこにどの程度あるかを示します。
• プーリング層：特徴マップの小さな領域を、最大値や平均値で1つの値にまとめます。サイズが縮み、位置のわずかなずれにも強くなります。
• 全結合層：最後に特徴をまとめ、分類などの結果を出します。近年は、大きな全結合層の代わりにグローバルアベレージプーリングを使う設計も一般的です。

畳み込みとプーリングを重ねるほど、前の層の特徴を組み合わせた、より複雑な特徴を捉えられるようになります。

全結合層だけのネットワークとの違い

全結合層だけで画像を扱うと、すべての画素とすべてのユニットを結ぶため、重みの数が膨大になります。畳み込み層は、近くの画素だけを見ます（局所結合）。さらに、同じフィルタをすべての位置で使い回します（重み共有）。このためパラメータが少なく済み、対象が画像のどこにあっても同じ特徴を見つけられます。

歴史

視覚野の単純型細胞と複雑型細胞の働きを参考にした、福島邦彦のネオコグニトロン（1980年）が原型とされます。その後、ヤン・ルカンらが誤差逆伝播法で学習するCNNを手書き数字の認識に応用し、LeNetとして知られるようになりました。2012年のILSVRCでAlexNetが大差で優勝してから、CNNは画像認識の標準的な手法になりました。

覚え方

「小さな窓で画像をなぞり、模様の地図を作る」と覚えます。