物流会社のT社は、インターネット上で公開されている画像認識の学習済みモデルをダウンロードし、自社の荷物の画像でファインチューニングして仕分けに使う計画である。モデル汚染のリスクに関する説明として、最も適切なものを1つ選べ。
1つ選んでください
正解と解説を見る
解説
正解C
ポイント
汚染されたモデルは通常の入力では正常に動くため気づきにくいことから、入手経路の確認と挙動の検証を組み合わせて備えます。
選択肢ごとの解説
- A
不適切
モデル汚染は、学習済みモデルそのものにバックドアなどの細工を仕込む攻撃です。自社のデータをいくら点検しても、ダウンロードした時点でモデルに仕込まれていた細工は見つけられません。
- B
不適切
ファインチューニングで重みが変わっても、仕込まれたバックドアが残る場合があることが研究で示されています。追加学習をしたことを、安全性を確かめたことの代わりにはできません。
- C
適切 ◯ 正解
バックドアを仕込まれたモデルは、トリガーとなる模様を含まない通常の入力には正しく応答します。精度評価に加えて、配布元の信頼性の確認や、トリガーの有無を調べる検証が必要です。
- D
不適切
利用者が多いことは、改ざんされていない保証になりません。精度が高くても細工が潜んでいることがあるため、配布元の信頼性を確かめ、ハッシュ値などでファイルの改ざんの有無を確認します。
試験での狙われ方
学習済みモデルや外部データを流用する場面で、どのような攻撃のリスクがあり、どう備えるかを問う形が考えられます。
関連用語
モデル汚染、事前学習済みモデル、ファインチューニング、データ汚染
参考
- G検定 試験出題範囲（シラバス2024）第1.4版 （法律・倫理分野 項目11 安全性とセキュリティ） 2026年10月30日閲覧
- 総務省・経済産業省「AI事業者ガイドライン（第1.2版）別添」（2026年3月31日） （別添3 表8 機械学習特有の脅威・攻撃界面・攻撃実行フェーズ・攻撃者・攻撃手段の例（モデルポイズニング攻撃）、別添4 機械学習特有の各種攻撃への対策） 2026年10月30日閲覧
- Gu, Dolan-Gavitt, Garg, BadNets: Identifying Vulnerabilities in the Machine Learning Model Supply Chain (2017) 2026年10月30日閲覧