ディープラーニングの要素技術(G検定 技術分野)
畳み込み層・回帰結合層・Attentionなど、ネットワークを組み立てる部品を扱います。
中項目
概要
この分野で扱うこと
前の分野で学んだ学習の仕組みの上に、モデルを組み立てる「部品」を学ぶ分野です。中項目が9つあり、扱うデータや目的でまとめると見通しがよくなります。
| まとまり | 中項目 | 主な役割 |
|---|---|---|
| 基本の層 | 全結合層 | 多くのモデルの土台 |
| 画像向けの層 | 畳み込み層、プーリング層 | 画像の特徴を取り出す |
| 深くするための工夫 | 正規化層、スキップ結合 | 学習を安定させる |
| 主に系列データ向け | 回帰結合層、Attention | 文章・音声・時系列を扱う |
| データを生かす工夫 | オートエンコーダ、データ拡張 | 特徴の圧縮と生成、学習データの水増し |
学ぶ順番
まず、全結合層、畳み込み層、プーリング層、正規化層、スキップ結合の順に、画像を扱うCNNを組み立てる流れで読みます。次に、回帰結合層からAttentionへ進み、系列データの処理がRNNからTransformerへ移った流れを追います。オートエンコーダとデータ拡張は最後で構いません。
つまずきやすいところ
畳み込み層では出力サイズやパラメータ数の計算、正規化層では平均と分散をどの範囲でとるかが、理解の分かれ目になります。どちらも、小さな数値の例を自分で1つ計算してみると定着します。Attentionはクエリ・キー・バリューの役割が抽象的なので、辞書を引く操作にたとえて理解します。ここで学ぶ部品は、次の分野「ディープラーニングの応用例」に出てくるモデル名を読み解く手がかりになります。
つまずきやすい点
- 最大値プーリングや平均値プーリングには学習で調整する重みがなく、畳み込み層はフィルタの重みを学習する点
- バッチ正規化はミニバッチ内の複数のデータにまたがってチャンネルごとに、レイヤー正規化は1つのデータの中で、平均と分散を計算する点
- スキップ結合は層を飛ばして入力を出力に足す仕組みで、層を深くしても勾配が伝わりやすくなり、ResNetの中心となる仕組みである点
- Transformerは回帰結合層を使わずAttentionで系列を処理するため、語順の情報を位置エンコーディングで加える必要がある点
この分野の用語50語
重み、活性化関数、全結合層、カーネル(畳み込み)、CNN、ストライド、Dilated Convolution、Depthwise Separable Convolution、特徴マップ、ニューラルネットワーク、パディング、インスタンス正規化、グループ正規化、バッチ正規化、レイヤー正規化、グローバルアベレージプーリング、最大値プーリング、不変性の獲得、平均値プーリング、ResNet、RNN、LSTM、エルマンネットワーク、教師強制、ゲート機構、勾配消失問題、勾配爆発問題、GRU、時系列データ、ジョルダンネットワーク、双方向RNN、BPTT、Attention、位置エンコーディング、Seq2Seq、Self-Attention、Source-Target Attention、Transformer、Multi-Head Attention、オートエンコーダ、次元削減、VAE、Cutout、CutMix、データ拡張、noising、paraphrasing、Mixup、Random Erasing、RandAugment
混同しやすい用語の比較
出題の目安約21問
全145問のうち、約21問前後と当サイトで推計しています。幅をもたせると約17〜22問(全体の12〜15%)です。分野別の出題数は公表されていません。
全体の問題数「145問程度」の出典:JDLAのFAQ 最終確認日:2026年10月30日
出典と作成について
作成:ウカトレ編集部(AIで作成し、別のAIが一次資料と照合。手順は編集方針)
最終更新日: 最終確認日:
出典
- G検定 試験出題範囲(シラバス2024)第1.4版(技術分野 ディープラーニングの要素技術(項目17〜25))2026年10月30日閲覧
- Yann LeCun, Léon Bottou, Yoshua Bengio, Patrick Haffner, Gradient-Based Learning Applied to Document Recognition, Proceedings of the IEEE 86(11), 2278–2324 (1998)2026年10月30日閲覧
- Sergey Ioffe, Christian Szegedy, Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift (2015)2026年10月30日閲覧
- Kaiming He, Xiangyu Zhang, Shaoqing Ren, Jian Sun, Deep Residual Learning for Image Recognition (2015)2026年10月30日閲覧
- Ashish Vaswani et al., Attention Is All You Need (2017)2026年10月30日閲覧