ある損害保険会社が、AIの判断根拠を説明するための手法を、社内の要件ごとに選んでいる。要件と手法の組み合わせとして、最も不適切なものを1つ選べ。
1つ選んでください
正解と解説を見る
解説
正解D
ポイント
説明手法は、1件ごとの説明か、モデル全体の説明かという観点と、扱うデータやモデルの種類で選び分けます。
選択肢ごとの解説
- A
適切
SHAPは1件ごとの予測について、各特徴量が予測をどちらの向きにどれだけ動かしたかを示す、局所的な説明の手法です。モデルの種類を問わず使え、表形式のデータでもよく用いられます。
- B
適切
Permutation Importanceは、ある特徴量の値をデータ間で並べ替えたときの性能の低下から、モデル全体がその特徴量にどれだけ頼っているかを測る、大域的な説明の手法です。
- C
適切
Grad-CAMは、CNNの特徴マップと、その特徴マップに関する出力の勾配から、判断に効いた画像の領域をヒートマップで示します。構造を変えたり再学習したりせずに、多くのCNNに適用できます。
- D
不適切 ◯ 正解
CAMは、グローバルアベレージプーリングの直後に出力層を置いたCNNで、特徴マップと出力層の重みから画像の注目領域を示す手法です。表形式のデータを扱う勾配ブースティングには使えず、SHAPやLIMEが向いています。
試験での狙われ方
手法の名前と仕組みだけでなく、局所的か大域的か、画像向けかどうかといった観点で、使い分けを場面にあてはめて問う形が考えられます。
関連用語
SHAP、Permutation Importance、Grad-CAM、LIME、説明可能AI（XAI）
参考
- G検定 試験出題範囲（シラバス2024）第1.4版 （技術分野 項目33 モデルの解釈性） 2026年10月31日閲覧
- Zhou et al., Learning Deep Features for Discriminative Localization (2015) 2026年10月31日閲覧
- Selvaraju et al., Grad-CAM: Visual Explanations from Deep Networks via Gradient-based Localization (2016) 2026年10月31日閲覧