ある総合病院は、胸部X線画像から異常が疑われる部位を示す診断支援AIを導入し、医師がAIの結果を参照して最終的な診断を行う運用を始める。人間の関与を形だけのものにしないための取り組みとして、最も適切なものを1つ選べ。
1つ選んでください
正解と解説を見る
解説
正解A
ポイント
人間の関与は、自動化バイアスで形だけにならない工夫があって初めて機能します。研修や判断手順の設計で支えます。
選択肢ごとの解説
- A
適切 ◯ 正解
人がAIの出力を過信する自動化バイアスへの対策です。AI事業者ガイドラインも、AIの欠点を含む特性を理解するトレーニングや、人がAIの判断を承認する前に自ら根拠を考えることを挙げています。
- B
不適切
医師がAIの結果をほとんど修正していなければ、確認が形だけになっている兆候かもしれません。修正の頻度や、AIと医師の判断が食い違った事例を分析すると、関与が機能しているかを確かめられます。
- C
不適切
厚生労働省は、AIを用いた診療でも診断の主体は医師であり、最終的な判断の責任は医師が負うと示しています。AIの判定だけで診断を確定させる運用はこれに反し、見落としが患者に重大な影響を与えるおそれもあります。
- D
不適切
関与の度合いは、用途のリスクに応じて決めるのが基本です。文書の下書きのようなリスクの低い用途まで一律に承認を求めると、確認の負担が増えて承認が作業化し、かえって重要な判断での関与が形骸化しやすくなります。
試験での狙われ方
人間の関与を置くだけでなく、自動化バイアスや形骸化への対策まで含めて、事例で問われやすい論点です。
関連用語
人間の関与（Human-in-the-Loop）、AIガバナンス、リスクベースアプローチ
参考
- G検定 試験出題範囲（シラバス2024）第1.4版 （法律・倫理分野 項目18 AIガバナンス） 2026年10月30日閲覧
- 総務省・経済産業省「AI事業者ガイドライン（第1.2版）」（2026年3月31日） （第2部C「共通の指針」1）人間中心 ②（脚注23・24 自動化バイアスへの対策）、3）公平性 ②人間の判断の介在） 2026年10月30日閲覧
- 厚生労働省「AIを用いた診断、治療等の支援を行うプログラムの利用と医師法第17条の規定との関係について」 （資料4（2018年12月の通知の概要）） 2026年10月30日閲覧