モデルの判断根拠を説明する手法を使うときの注意点に関する説明として、最も不適切なものを1つ選べ。
1つ選んでください
正解と解説を見る
解説
正解D
ポイント
Grad-CAMのヒートマップは最後の畳み込み層の解像度に縛られるため、注目領域のおおまかな位置を示すものとして読みます。
選択肢ごとの解説
- A
適切
並べ替えた特徴量の情報を、相関の強い別の特徴量が補うため、性能があまり下がりません。本当は重要でも低く見えることがあるため、相関の強い特徴量をグループにまとめ、代表の1つだけを残して評価するなどの工夫をします。
- B
適切
LIMEは、入力を少しずつ変えたデータをランダムに作り、その予測結果を線形モデルなどで近似します。乱数や近傍の範囲の設定によって結果がぶれるため、何度か試して安定性を確かめるのが望ましいです。
- C
適切
シャープレイ値は、特徴量のあらゆる組み合わせについて、ある特徴量を加えたときの予測の変化を重み付きで平均して求めます。組み合わせの数は指数的に増えるため、サンプリングによる近似や、決定木の構造を利用した計算法などが使われます。
- D
不適切 ◯ 正解
Grad-CAMは通常、最後の畳み込み層の特徴マップをもとに計算します。ヒートマップの解像度はその特徴マップの大きさに限られ、入力画像より粗くなります。細部を示すため、画素単位の可視化手法と組み合わせる方法（Guided Grad-CAM）も提案されています。
試験での狙われ方
各手法の仕組みと、そこから生じる弱点を結びつけて、不適切な記述を選ばせる形がよく出ます。
関連用語
Permutation Importance、LIME、SHAP、Grad-CAM、特徴マップ
参考
- G検定 試験出題範囲（シラバス2024）第1.4版 （技術分野 項目33 モデルの解釈性） 2026年10月30日閲覧
- scikit-learn User Guide, Permutation feature importance 2026年10月30日閲覧
- Ribeiro, Singh, Guestrin, "Why Should I Trust You?": Explaining the Predictions of Any Classifier (2016) 2026年10月30日閲覧
- Lundberg, Lee, A Unified Approach to Interpreting Model Predictions (2017) 2026年10月30日閲覧
- Selvaraju et al., Grad-CAM: Visual Explanations from Deep Networks via Gradient-based Localization (2016) 2026年10月30日閲覧