エッジAIのためのモデルの軽量化に関する説明として、最も不適切なものを1つ選べ。
1つ選んでください
正解と解説を見る
解説
正解B
ポイント
宝くじ仮説の当たりくじは、元の初期値のまま単独で学習すると、元のネットワークと同等の精度に達する部分ネットワークです。
選択肢ごとの解説
- A
適切
重みを32ビットから8ビットにすると、重みの保存に必要なメモリはおよそ4分の1になります。整数演算は浮動小数点演算より軽いため、計算資源の限られたエッジAIでよく使われます。
- B
不適切 ◯ 正解
宝くじ仮説では、学習前の大きなネットワークに、元の初期値のまま単独で学習すると同等の精度に達する部分ネットワーク（当たりくじ）があるとします。初期化し直すと精度が下がったことが、初期値の組み合わせが当たりである根拠とされました。
- C
適切
プルーニング（枝刈り）は、値が0に近い重みや寄与の小さいチャネルなどを削除する手法です。削除後に再学習して精度の低下を補うことが多く、精度をあまり落とさずにモデルを小さくできます。
- D
適切
蒸留では、教師モデルが出力する各クラスの確率（ソフトターゲット）を生徒モデルの学習目標に使います。正解ラベルより多くの情報を含むため、小さなモデルでも教師モデルの知識を受け継ぎやすくなります。
試験での狙われ方
量子化・プルーニング・蒸留の仕組みの入れ替えや、宝くじ仮説の内容を問う形が典型です。
関連用語
参考
- G検定 試験出題範囲（シラバス2024）第1.4版 （技術分野 項目34 モデルの軽量化） 2026年10月30日閲覧
- Frankle, Carbin, The Lottery Ticket Hypothesis: Finding Sparse, Trainable Neural Networks (2018) 2026年10月30日閲覧
- Hinton, Vinyals, Dean, Distilling the Knowledge in a Neural Network (2015) 2026年10月30日閲覧
- Jacob et al., Quantization and Training of Neural Networks for Efficient Integer-Arithmetic-Only Inference (2017) 2026年10月30日閲覧
- Han et al., Learning both Weights and Connections for Efficient Neural Networks (2015) 2026年10月30日閲覧