透明性（シラバス 法律・倫理13）

ブラックボックスで何が困るのか

ディープラーニングのモデルは、膨大な数のパラメータが複雑に組み合わさって答えを出します。なぜその答えになったのかを人が追うのは難しく、ブラックボックスと呼ばれます。困るのは次のような場面です。

• 不利な判定を受けた人に説明できない：融資や採用でAIに断られた人に、理由を示せません。
• 偏りや誤りに気づきにくい：AI事業者ガイドラインは、同じ年収の男女で女性の利用限度額が低いと指摘されたクレジットカードで、提供企業が当局に対してアルゴリズムの動作を説明できなかった例を挙げています。
• 事故の原因を調べられない：誤作動の原因がわからず、再発を防げません。

3つの言葉を区別する

言葉	中身	例
透明性	AIを使っている事実、データの集め方、能力と限界などの情報を提供する	「この審査にはAIを使っています」と示す
説明可能性	個々の判断の根拠を、人にわかる形で示せる	「返済の履歴が判定に最も影響しました」と示す
アカウンタビリティ	結果に責任を負い、そのための体制を整える	責任者を決め、問い合わせの窓口を設ける

ガイドラインがいう情報の提供は、アルゴリズムやソースコードの開示を必ずしも想定していません。プライバシーや営業秘密を尊重し、社会的に合理的な範囲で行います。ただし、その場合も、説明可能性・解釈可能性を高める取組やアカウンタビリティの要請は満たす必要があります。

説明可能性を高める工夫

• 解釈しやすいモデルを選ぶ：決定木や線形回帰のように、判断の筋道を読み取りやすいモデルを使います。精度との兼ね合いで選びます。
• 後から根拠を示す：複雑なモデルの判断について、どの入力が効いたかを示します。LIME、SHAP、Grad-CAMなどの手法があり、まとめて説明可能AI（XAI）と呼ばれます。
• ログを残す：入力、出力、判断の根拠などを記録・保存し、後から検証できるようにします。

データの来歴

データの来歴（data provenance）は、学習などに使ったデータを、いつ、どこで、どんな目的で集め、どう加工したかの記録です。来歴が残っていれば、著作権や個人情報の扱いに問題がないか、偏ったデータでないかを後から確かめられます。紛れ込んだ不正なデータを探す手がかりにもなります。

データセットの作り方や想定する用途を文書にまとめる「データシート」、モデルの性能や限界をまとめる「モデルカード」という提案もあります。生成AIでは、作られたコンテンツの来歴を記録して、AIで作ったかどうかを確かめる仕組みも重視されています。