EUでは既にAI法が施行
AIは長年にわたり、社会での議論の的となってきた。しかし、今年は状況が明確になる年となるであろう。8月にEUのAI法が全面施行され、米国でも州レベルの法案（コロラド州は既に可決、カリフォルニア州とニューヨーク州も同様の枠組みを推進中）が成立するにつれ、AI管理はもはや宣言にとどまらなくなった。AI管理は、組織の運営方法に組み込まれたインフラ機能へと進化し、以下の4つの重要な変化が2026年のAIガバナンスを決定づけることになる。
1. AI規制の成熟とシャドウAIの台頭
長年にわたり、多くのリーダーが組織におけるAIへの取り組み方について議論を重ね、組織内でのAIの最適な規制・監視方法を模索してきた。中には、責任あるAI利用と組織の計画に関する公式文書を公表した企業もある。しかし、2026年に施行される新たな法律により、組織は規制当局に対し、口頭での説明ではなく、検証可能な技術的証拠をますます求めるようになる。
EU AI法が8月に全面施行されると、（世界で）初めて統一された包括的なAI規制枠組みとなる。これはAI規制の成熟化の始まりを告げるものであり、今後、各国・地域で急速に進展していくであろう。その直接的な影響の一つとして、EU AI法はAIシステムインベントリの文書化を基本としているため、多くのEU企業にとって、これは主要なコンプライアンス機能となる。
企業は、どのようなAIモデルを使用しているか、それらのモデルがどのようなデータに基づいているか、意思決定プロセス、リスク管理の責任者、そして品質とパフォーマンスのモニタリング方法を明確に示す必要があるのだ。この枠組みは、AI利用状況を把握できていない多くの企業にとって大きな課題となる。結果として、従業員がどのAIツールを使用しているかを把握できなければコンプライアンスは不可能となるため、シャドウAI＊）は深刻なリスクとなる。承認された経路以外でAIツールを使用する従業員は、監査人や規制当局にとってますます大きな懸念事項となる。
＊）訳者注：シャドーAI（Shadow AI）とは、企業・組織の管理部門が把握・許可していないAIツールやサービスを、従業員が個人的な判断で業務に利用すること。無料版などの生成AIに社外秘情報を入力する行為が代表的で、情報漏洩やセキュリティリスク、著作権侵害の危機を招く恐れがある。
2. 監査における技術的証拠重視への転換
現在の規制環境では、最も成熟したAIチームのみがモデルを体系的に文書化している。しかし、2026年を通じてこれらの新法が施行されると、それが標準となり、規制上の要件となる。
まず、監査時にAIモデルカード＊）の提出が義務付けられる。モデルカードには、モデルのアーキテクチャ、使用目的、パフォーマンス指標、リスク、制限事項、およびトレーニングデータの特性が記載される。
＊）訳者注：AIモデルカードとは、AIモデルの性能、使用目的、制限事項、倫理的考慮事項などをまとめた標準化された文書のこと。
次に、データリネージ＊）が監査範囲に明確に組み込まれる。データリネージは、モデルのデータのライフサイクル全体（ソース、変換、アクセス制御、モデルによる使用状況など）を追跡する。モデルと、その開発に貢献したすべてのコンポーネントとの関係をマッピングする。これは、特にリスクの高いAIシステムにとって重要だ。データがどのようにモデルを通過するかを理解せずに、モデルのセキュリティや整合性を確保することは不可能である。
＊）訳者注：データリネージ（Data Lineage）とは、データが「どこから生まれ（生成源）、どのような加工・変換（ETL処理）を経て、どこに格納されたか（利用先）」というデータの来歴・流れを可視化・追跡する仕組みのこと。
その結果、組織はAIモデルの中央集権的なカタログを維持し、バージョンを追跡し、リスクを文書化し、モデル変更に関する正式なガバナンスプロセスを確立することが必要となる。
3. 可視性のギャップからモデルの深い理解へ
規制当局は、AIが特定の意思決定を行った理由と、その結果に影響を与える要因を説明する証拠を組織に求めるようになる。説明可能性とは、AIシステムが特定の意思決定を行う方法と理由を理解する能力を指す。これは、信用スコアリング、保険、人事、医療、公共サービス、不正防止などの分野で特に重要になる。2026年には、特に高リスクまたは規制対象のユースケースにおいて、標準的な運用要件となるであろう。
これに対応するため、組織は、SHApley Additive exPlanations (SHAP)＊１）、Local Interpretable Model-Agnostic Explanations (LIME)＊２）、反事実分析＊３）などの説明可能性手法を本番環境のパイプラインに統合し、自動化された意思決定ごとに明確な洞察を提供し、バイアスが発生した場合はそれを検出して文書化する必要がある。
＊１）訳者注：SHAP (SHapley Additive exPlanations)とは、機械学習モデルの予測結果を解釈するための手法で、各入力特徴量が最終的な予測値にどれだけ貢献したかを定量的に算出するもの。
＊２）訳者注：LIME (Local Interpretable Model-agnostic Explanations) は、複雑で中身が分からない「ブラックボックス」な機械学習モデル（ディープラーニングなど）の予測結果に対して、「なぜそのような予測をしたのか」という根拠を人間が理解できる形で説明する技術のこと。
＊３）訳者注：反事実分析（Counterfactual分析）とは、「もし、ある介入（施策や出来事）がなかったら、どうなっていたか？」という実際には観測できない結果を推定し、因果関係を明らかにする手法。
4. AIの継続的な品質保証に注力せよ
AIシステムが開発段階から本番環境へと移行するにつれ、組織は新たな課題に直面する。それは、AIの品質を継続的に監視することである。AIの品質が低いと重大なリスクにつながるため、規制当局は継続的な監視をますます求めるようになる。例えば、信用スコアリングモデル＊）は、代表的なデータで適切に学習されていない場合、新たな人口統計学的セグメントに属する申請者を体系的に誤って評価する可能性がある。
＊）訳者注：信用スコアリングモデルとは、企業や個人の財務データや属性情報を統計的に分析し、返済能力や倒産確率を数値化する評価ツール。主に金融機関が融資の可否や条件を決定する際に用いられ、客観的なリスク判断を可能にする。
企業など組織は、モデルドリフト＊）を追跡する必要がある。モデルドリフトとは、本番データの統計的特性がトレーニングに使用したデータと乖離し、モデルの精度が低下する現象のこと。例えば、景気後退前の経済データでトレーニングされた融資承認モデルは、景気低迷期には根本的に異なる申請者プロファイルに遭遇する可能性があり、これは入力データの分布の変化を示している。データドリフトに加え、組織は、入力特徴と結果の関係が時間とともに変化する概念ドリフト、そしてデータ収集や処理方法の変更によって現実世界に変化がないにもかかわらず入力データの特性が変化する上流データドリフトにも注意を払う必要がある。
＊）訳者注：モデル・ドリフトとは、現実世界の環境変化やデータ傾向の変動により、開発時より時間が経過した機械学習モデルの予測精度が低下（劣化）する現象のこと。主な原因は入力データ分布の変化（データドリフト）や、ターゲットとの関係性の変化であり、モデルの陳腐化や再学習の必要性を示す重要な指標である。
もう一つの重大なリスクは、パフォーマンスの低下だ。かつては問い合わせの85%を自律的に解決していたカスタマーサービスチャットボットが、新製品の発売、ポリシーの変更、顧客の言語の変化などによって、徐々に70%まで低下することもある。パフォーマンスの低下は、システムが重大な損害が発生するまで十分に機能し続けることが多いため、特に危険である。
これらの問題を検知・防止するためには、組織はベースラインとなるパフォーマンス指標、予測行動の継続的なモニタリング、ドリフトを早期に特定するための検証データセット、そして様々なデータセグメントと期間にわたる精度、応答時間、信頼度較正の包括的なログ記録が必要となる。
今年、AI管理とコンプライアンスは、明確な運用上の義務を伴う技術分野になる。これに備えるため、コンプライアンスチームは、デジタルシステムが実際にどのように動作するかについての技術的な理解を深める必要がある。リスク管理とコンプライアンス担当者は、技術的な複雑さを、説明責任と監査可能性を備えたガバナンスへと展開できる能力が求められるようになる。効果的に実行されれば、AIガバナンスはビジネスを促進する原動力となり、技術チーム、コンプライアンス部門、そして経営陣をつなぐ架け橋となる。
キーワード：
人工知能、コンプライアンス
＊）この記事は、”4 Trends in AI Governance for 2026,” Chris Radkowski | March 31, 2026, RIMS Risk Management Site (https://www.rmmagazine.com/articles/article/2026/03/31/4-trends-in-ai-governance-for-2026)
をRIMS日本支部が翻訳したものである。原文と訳文に差異がある場合には原文を優先します。
原著者クリス・ラドコウスキーは、Pathlock社のGRC（ガバナンス、リスク管理、コンプライアンス）専門家。
訳者鈴木英夫はRIMS日本支部主席研究員。
