AIガバナンス（シラバス 法律・倫理18）

原則を「仕組み」に変える

公平性や透明性などの項目は「何を守るか」を扱いました。AIガバナンスは「誰が、いつ、どうやって守らせ、守れているかを確かめるか」という仕組みの話です。原則を掲げるだけでは、現場で守られているかはわかりません。AI事業者ガイドラインは、リスクをステークホルダーが受け入れられる水準に管理しつつ、便益を最大化する仕組みとしています。

回し続けるサイクル

技術も規制も変化が速いため、ルールを決めて固定するのではなく、経営層の主導で次のサイクルを回し続けます。これをアジャイル・ガバナンスと呼びます。

1. 環境・リスク分析：便益とリスク、社会の受け止め方を把握する
2. ゴール設定：AIポリシーを定める
3. システムデザイン：ゴールを達成する体制や手順をつくる
4. 運用：記録を残し、状況を説明できるようにする
5. 評価：仕組みが機能しているかを確かめ、改善する

運用開始後も、規制の変更などがあれば分析からやり直します。

導入前：方針と評価

• AIポリシー：AIで何を目指し、どの原則を守るかを示す自社の方針です。経営上のゴールと整合させ、ステークホルダーに公開することが期待されます。
• 倫理アセスメント：開発や導入の前に、差別、プライバシー侵害、事故など、誰にどんな影響が出うるかを洗い出し、対策を決める評価です。チェックリストなどを使って進めます。
• ダイバーシティ：評価や開発のチームを、技術者だけでなく法務や現場の担当者、性別や年齢、文化の異なる人で構成します。同じ立場の人だけでは気づけないリスクやバイアスを見つけやすくなります。

運用中：人間の関与とモニタリング

影響の大きい判断ほど、人間が関わる度合いを強めます。

方式	人間の役割	例
Human-in-the-loop	判断ごとに確認し、最終決定する	融資を断る判断は担当者が確認する
Human-on-the-loop	自動処理を監視し、異常時に介入する	AIが止めたカード取引を担当者が見直す
Human-out-of-the-loop	関与しない	迷惑メールの自動振り分け

モニタリングは、運用開始後も精度や偏りを監視し続けることです。入力データの傾向が学習時から変わると、性能が落ちるためです。利用者からの指摘を受け付ける窓口も設けます。

記録と監査

	再現性	トレーサビリティ
意味	同じ条件で動かすと同じ結果が得られること	データの出所や判断の経緯をさかのぼれること
残す記録	データ・コード・設定のバージョン、乱数のシード	データの出所、入出力のログ、誰がいつ何を決めたか

生成AIは同じ入力でも出力が変わることがあるため、記録がいっそう重要です。

AIに対する監査は、こうした仕組みが実際に機能しているかを確かめる評価です。当事者の点検だけでは客観性を欠きやすいため、内部監査部門や外部の監査主体など、設計・運用から独立した専門家に評価を求めます。記録がなければ、監査も説明責任も果たせません。