正規化手法と統計量の範囲

CNNの中間層の出力(サンプル数×チャネル数×高さ×幅)に適用する正規化の手法と、平均と分散を計算する範囲の説明として、最も不適切なものを1つ選べ。

正解と解説を見る

解説

正解D

ポイント

グループ正規化は統計量の範囲がグループ数で変わり、グループ数1でレイヤー正規化、チャネル数と同数でインスタンス正規化と同じになります。

選択肢ごとの解説

  1. A

    適切

    バッチ正規化は、同じチャネルの値をミニバッチ全体と縦横の全位置から集めて統計量を求めます。推論時は、学習中に蓄積した平均と分散の移動平均を使います。

  2. B

    適切

    レイヤー正規化は1つのサンプルの中だけで統計量を求めるため、ミニバッチサイズに左右されません。RNNやTransformerでよく使われる手法です。

  3. C

    適切

    インスタンス正規化は、画像1枚・チャネル1つの範囲だけで統計量を求めます。画像ごとのコントラストの違いなどを打ち消せるため、スタイル変換で使われてきました。

  4. D

    不適切 ◯ 正解

    グループ数をチャネル数と同じにすると、各グループは1チャネルだけになり、インスタンス正規化と同じ計算になります。レイヤー正規化と一致するのは、全チャネルを1つにまとめるグループ数1のときです。

試験での狙われ方

各正規化手法と、統計量を計算する範囲(サンプル方向・チャネル方向)の対応や、グループ正規化とほかの手法の関係を入れ替えて問う形が見られます。

関連用語

バッチ正規化、レイヤー正規化、グループ正規化、インスタンス正規化

参考

オリジナル問題(過去問ではありません) AIで作成 人による確認:未 誤りを報告

出典と作成について

作成:ウカトレ編集部(AIで作成し、別のAIが一次資料と照合。手順は編集方針)

公開日: 最終更新日: 最終確認日:

シラバス第1.4版 技術19「正規化層」の問題です。

改訂履歴

表示設定

テーマ
文字の大きさ
問題演習