今日からできるAIガバナンス実践（前編）——DAGFの5つの柱とDatabricksでの実装マッピング

AIガバナンスが求められる背景

AI活用の現状とリスク

AIガバナンスとは、自律度の高いAIシステムの開発・運用において、安全性・公平性・透明性・説明責任を確保するための組織的な方針・体制・プロセスの総称です。従来のITガバナンスが静的なシステムやデータの管理を前提としていたのに対し、AIガバナンスは継続的に、かつ、自律的に推論・学習・適応するAI Agentシステム固有のリスクに対応する点が特徴です。

2025年6月にMIT Technology Review Insightsとdatabricksが実施した調査によれば、AI-poweredツールの利用率は67%という高い水準に達しています。しかし、AIエージェントの本番デプロイ率はわずか19%と、48ポイントもの大きなギャップが存在しています。このギャップの最大の要因としては「スキルギャップ」や「セキュリティを含むガバナンス観点」が上位に挙げられています。

出典：MIT Technology Review Insights and databricks「Building a high-performance data and AI organization: 2nd edition」

また、スタンフォード大学による調査でもAIエージェントの実装をスケールさせる際の障壁として「セキュリティリスク」を報告しています。

実際、2025年に報告されたエンタープライズ企業におけるAIインシデントは前年比で+55%と急増しており、LLMやAIエージェントの導入を積極的に推進する企業ほど、ガバナンスが伴わずインシデントが集中的に発生する傾向にあります。

出典：Stanford Human-Centered Artificial Intelligence「AI Index Report 2026」

従来のデータガバナンスとAIガバナンスの根本的な違いは、管理対象の「動的さ」にあります。ITガバナンスが静的なシステムやデータフローの管理を前提としていたのに対し、AIガバナンスはモデルの学習・推論プロセス、バイアスの監視、エージェントの自律的判断と行動、さらにはその説明可能性といったAI固有の動的な要素を統制する必要があります。特にAIエージェントは「自ら判断して行動する」存在であるため、事前の設計段階からガバナンスを組み込む必要があり、事後的なルール追加では対処しきれません。

規制環境の変化

世界各国では、AI規制の整備が進んでいます。日本では経済産業省が取りまとめているAI事業者ガイドライン（第1.2版）を中心とし、産業・事業規模によっては、EU AI Act（2024年8月に発効され、段階的に適用が進んでいるEUのリスクベースの包括的AI規則）、NIST AI Risk Management Framework（AIリスクをGovern・Map・Measure・Manageの4機能で管理する米国発の指針）といった国際的な規制・ガイドラインへの遵守など、企業に求められるコンプライアンス要件は複雑化しています。

「ガバナンス」という言葉の意味は「統制、ルール、管理」であり、「保守的なブレーキ機能」をイメージされる方が多いと思います。しかし、databricksによれば、AIエージェントの評価ツールやAIガバナンスソリューションを導入している企業は、未導入企業と比べ、圧倒的にAIエージェントの本番デプロイを成功させています。

出典：databricks「State of AI Agents 2026」

従って、興味深いことに、AIの文脈における「ガバナンス」、すなわち「AIガバナンス」の導入・整備が「アクセル」としての役目を果たしているというわけです。

包括的AIガバナンスとAIエージェント運用の実践原則

AIガバナンスの基盤：Databricks AI Governance Framework (DAGF) v1.0による包括的アプローチ

Databricks AI Governance Framework（DAGF）v1.0は、企業におけるAIエージェントや各種AIサービスを安全かつ責任を持って構築するためのガイドです。AIガバナンスは単一の要素ではなく、「AI組織」、「法務・規制コンプライアンス」、「倫理・透明性」、「データ・AIOps・インフラ」、「AIセキュリティ」という5本の柱から成るものであり、各階層における全45の考慮事項を開発から運用の全ての過程において組み込む包括的なアプローチを推奨しています。

DAGFを構成する5つの柱

DAGFが提唱する「包括的なアプローチ」は、AIプログラムの方向性を定める「組織・法務・倫理的な側面（Pillar I, II, III）」とそれをシステムとして安全かつ持続的・自発的な改善を前提とした実装・運用をするための「技術的な側面（Pillar III, IV, V）」に大別されます。

Pillar IIIが両方に含まれるのは、倫理・透明性が組織の意思決定（方針策定）と技術の実装（トレーシング、評価パイプライン）の両面に関わるためです。

• Pillar I：AI組織（ビジネス目標とのアラインメント、ガバナンスモデルと監視体制の構築）
• Pillar II：法務・規制コンプライアンス（AI特有の法規制・ガイドライン、データプライバシー要件への準拠）
• Pillar III：倫理・透明性・解釈可能性（公平性の担保、モデルの推論ロジックやAIエージェントによる意思決定の透明化）
• Pillar IV：データ・AIOps・インフラ（高品質なデータとコンテキストの管理、MLライフサイクルの自動化とスケーラビリティ）
• Pillar V：AIセキュリティ（AI資産の保護、悪意のある攻撃やデータ漏洩の防止）

開発現場のエンジニアやIT企画担当者が最初に可視化しやすい課題は、Pillar III〜Vの技術的な領域です。しかし、Pillar IやPillar IIの組織・法務基盤が整わなければ、技術的なガバナンスは絵に描いた餅。だからこそ、包括的なアプローチが推奨されているとも解釈できます。

可視化しやすい課題の中でも、「説明責任」や「透明性」といった抽象的なガバナンス要件を実際のシステムや開発プロセスにどう組み込み、どのように監視・評価パイプラインを構築し、いかにしてフィードバックループを自動化するのか——企業基盤の上にこの技術的実装を積み上げることが、AIエージェントを本番運用に導く最大の鍵となります。

抽象的なガバナンス領域を「ソリューション」で担保する3大コンポーネント

DAGF本体は技術的要件を特定のプロダクトには限定しておらず、汎用的なガイドとしての機能を果たしていますが、Databricksのサービスプラットフォームでは、以下の3つの主要コンポーネントを横断的に連携させることで、DAGFの各Pillarをシステムとして実現しています。従って、本記事では、このマッピングを通じて各Pillarの実装アプローチを解説します。

• Unity Catalog（データとAIアセットの統合ガバナンス）
• Unity AI Gateway（AIトラフィックの保護と制御；2026年7月1日時点でβリリース）
• MLflow 3（可観測性と継続的評価）

ここからは、DAGFの5つの柱がこれら3つのコンポーネントによってどのように実務システムへ落とし込まれるのかを紐解きます。

Pillar I：AI組織（AI Organizations）

【DAGFの要件】

AIの導入・活用を組織のビジネス戦略と整合させ、運営体制（中央集権型・分散型・ハイブリッド等）の選定から、リスク評価プロセスの設計、関係者の役割と責任の定義までを包含する柱です。

【実装How-To】

• 組織全体のガバナンス統合基盤としてのUnity Catalog：いかなるガバナンスモデルであっても、Unity Catalogを利用することで、全社統一のガバナンスポリシー（アクセス制御や監査ログなど）を適用しつつ、各部門や階層ごとに独立したワークスペースの提供が可能
• MLflow 3を用いたMLライフサイクル管理と監査：MLflow 3でモデルのライフサイクル管理をしつつ、Model RegistryとUnity Catalogを統合することで、「誰がいつどのモデルを承認・デプロイしたか」という監査証跡を担保
• Governance Hub（2026年7月1日時点でPrivate Preview）によるガバナンス運用の一元化：DAIS 2026で発表された新機能で、データスチュワードや管理者がデータ・AI・コスト・パフォーマンスといったガバナンス運用を一元的に監視、特定、管理できるセントラルコマンドセンターダッシュボード

Pillar II：法務・規制コンプライアンス（Legal and Regulatory Compliance）

【DAGFの要件】

AI事業者ガイドラインやEU AI Act、GDPR等、AI開発・運用に関わる法規制への準拠を体系的に管理する柱です。AIの自律的な意思決定に伴う法的責任の所在を明確化し、コンプライアンスの証跡となる記録を保持する仕組みの構築が求められます。

【実装How-To】

• ペイロード記録保持を可能にするUnity AI Gateway：規制対応において「AIがどのような入出力をしたのか」「どのAPIを叩いたのか」の記録が求められます。Unity AI Gatewayはサードパーティからカスタムに至るAIペイロードログを自動収集でき、Unity Catalogのシステムテーブル（監査ログ）と組み合わせることで、監査要件に対応
• Unified agent tracing（2026年7月1日時点でβリリース）による監査証跡の強化：DAIS 2026で発表されたUnity AI Gatewayの拡張機能で、モデルとMCPのアクティビティを単一管理されたテレメトリーレイヤーでキャプチャし、「いつ、だれの代理で、どのエージェントが、どのツールを、どのような入出力で呼び出したか」をLakewatch経由で分析可能

Pillar III：倫理・透明性・解釈可能性（Ethics, Transparency and Interpretability）

【DAGFの要件】

説明責任や公平性といった倫理原則を、システム実装として具現化する柱です。モデルの推論ロジックが理解可能であること（解釈可能性）、意思決定の根拠を利害関係者に提示できること（説明可能性）、データやモデルの変更履歴を辿れること（追跡可能性）、開示する情報の範囲を戦略的に判断できること（開示可能性）が、技術的な要件として求められます。

【実装How-To】

• ブラックボックスを可視化するMLflow 3 Gen AI Tracing：AIエージェントの複雑な行動（推論プロセスやAgent間のやり取り、また、ツール呼び出しの履歴など）を完全に可視化
• 継続的評価による公平性の担保：MLflow 3のBuilt-inスコアラーやカスタムスコアラーを用いて、正確性・安全性・バイアスの有無を自動的かつ体系的に評価・スコアリング。開発時と本番運用時で同一の評価基準を適用でき、品質の一貫性を担保可能

Pillar IV：データ、AIOps、インフラストラクチャ（Data, AIOps and Infrastructure）

【DAGFの要件】

AIの信頼性は「データの品質」と「運用プロセスの成熟度」に依存します。データの分類・リネージ追跡による品質管理と、MLOps/LLMOps/AgentOpsによる再現性・異常検知・スケーラビリティの確保を扱う柱です。

【実装How-To】

• Unity Catalogを通じたデータ保護と属性ベースのアクセス制御：Data Classification機能を用いてPII（個人情報）を自動検出し、タグ付け。タグベースのABAC（属性ベースのアクセス制御）を用いることで、AIエージェントによる機密データやPIIへのアクセスを構造的に遮断。管理タグの自動伝播機能もDAIS 2026で発表（2026年7月1日時点でPrivate Preview）
• Databricks Workflows & Data Quality MonitoringによるOpsの自動化：データの投入からモデルの評価、デプロイまでのパイプラインをWorkflowsで自動化し、Data Quality Monitoring（旧Lakehouse Monitoring）により本番環境におけるコスト異常やデータドリフトを常時監視
• 拡張ABAC（2026年7月1日時点でモデル向けβ版）：DAIS 2026で発表されたABACの拡張機能で、ABAC Grant Policiesによるモデルへの自動権限付与と、Identity and Context Attributes（いずれも2026年7月1日時点でプレビュー前）によるライブユーザー属性・リクエストコンテキストに基づくアクセス制御が可能（「誰が」「どのコンテキストで」「何にアクセスするか」を動的に制御可能）

Pillar V：AIセキュリティ（AI Security）

【DAGFの要件】

AI固有のセキュリティ脅威（モデルの搾取、データ汚染、プロンプトインジェクション等）に対して、開発から推論・レスポンスに至る全レイヤーでの保護を扱う柱です。Databricks AI Security Framework（DASF）と連動し、生データからプラットフォーム基盤まで12の考慮事項を定義しています。

【実装How-To】

• Unity AI GatewayによるAIトラフィックの保護：全てのAIトラフィックをUnity AI Gatewayに集約し、レート制限（QPM/TPM）によるコスト上限の設定や、プロンプトインジェクション検出、セーフティフィルタリングといった「AIガードレール」を適用可能
• Contextual Service Policies（2026年7月1日時点でβリリース）によるランタイム動作制御：DAIS 2026で発表されたUnity AI GatewayにおけるABACポリシーの一種で、AIエージェントのランタイム動作（何をしてよいか、人間の承認が必要かを定義）を制御可能
• Lakewatchとの統合：DAIS 2026で発表されたUnity AI Gatewayの拡張機能で、Unity AI GatewayのトレースデータをLakewatchに送信し、不審なアクティビティの検出、ポリシー違反の調査、AIセキュリティインシデントへのラピッドレスポンスが可能
• パートナーエコシステムによるセキュリティの強化：Unity AI GatewayにPalo Alto Networks, CrowdStrike, Zscaler, Oktaなどのセキュリティベンダーの製品との直接統合が可能となることをDAIS 2026にて発表

参考リンク：
https://www.databricks.com/blog/whats-new-unity-catalog-data-ai-summit-2026
https://www.databricks.com/blog/ai-governance-data-ai-summit-2026-whats-new-unity-ai-gateway
https://www.databricks.com/product/lakewatch#faq
https://www.databricks.com/blog/databricks-announces-lakewatch-new-agentic-siem

次のステップ：実践への落とし込み

DAGFが示す「5つの柱」は、エンタープライズ企業がAIを安全かつ効果的に運用するための強固な理論的基盤であり、Databricksのプラットフォーム機能（Unity Catalog, Unity AI Gateway, MLflow 3）を用いることで、これらを「実行可能なシステム要件」として実装できることをここまでで解説してきました。

しかし、実際の開発現場でRAGや自律型AIエージェントを本番環境へデプロイする際には、「どの権限を誰に与えるか」、「テストや評価の基準をどうするか」といった、さらに具体的な運用ルールが求められます。

まとめ

AIガバナンスは「ブレーキ」ではなく「アクセル」であるというのが、本記事の核心です。Databricksの調査では、AIガバナンスを導入している企業の本番デプロイ化率は未導入企業の12倍であり、ガバナンスが「やっていいこと」の判断を加速させることがデータで裏付けられています。

DAGF v1.0が示す5つの柱は、AIを、責任をもって運用するための包括的なガイドであり、Unity Catalog・Unity AI Gateway・MLflow 3という3つのコンポーネントを組み合わせることで、抽象的なガバナンス要件をシステムとして実装可能です。

また、DAIS 2026で発表されたContextual Service PoliciesやLakewatch統合等のUnity AI Gatewayの機能拡張、Governance Hubは、「ガバナンスを組織全体で運用する」フェーズに入った企業にとって注目すべきアップデートです。

後編では、このガバナンス基盤の上に構築する「2つの実践原則」と「MVGチェックリスト」を詳しく解説します。自社のAIガバナンスを今日から一歩前に進めたい方は、ぜひ後編もご覧ください。

FAQ

Q1: AIガバナンスと従来のITガバナンスの違いは何ですか？

最大の違いは「動的さ」です。従来のITガバナンスは静的なデータやシステムの管理を前提としていましたが、AIシステムは継続的に推論・学習・適応します。バイアスの監視、説明可能性の確保、エージェントの自律的行動の制御など、従来の枠組みでは想定されていなかった管理領域が生まれています。特にAIエージェントは「自分で判断して実行する」ため、事前の設計段階からガバナンスを組み込む必要があります。

Q2: DAGFは大企業向けですか？中堅・中小企業にも適用できますか？

DAGF v1.0は包括的なフレームワークですが、全ての考慮事項を一度に導入する必要はありません。組織の規模やAI成熟度に応じて、最も関連性の高い柱や考慮事項から段階的に着手できます。後編で解説するMVG（Minimum Viable Governance）は、まさにこの段階的導入のためのアプローチです。

Q3: Databricks以外のプラットフォームでもDAGFは適用できますか？

はい。DAGFの5つの柱は概念的なフレームワークであり、Databricks固有の技術に依存しません。本記事ではDatabricksの3大コンポーネント（Unity Catalog, Unity AI Gateway, MLflow 3）への実装マッピングを解説しましたが、各Pillarの要件自体は他のプラットフォームにも読み替えて適用できます。

Q4: 5つの柱のうち、最初に着手すべきはどれですか？

多くの組織では、まずPillar I（AI組織）でガバナンスモデルの方向性とリスク管理体制を定め、次にPillar IV（データ・AIOps・インフラ）でデータの品質管理とアクセス制御を整備するのが現実的です。Pillar III（倫理・透明性）とPillar V（AIセキュリティ）は並行して進められます。Pillar II（法務・規制）は該当する規制の有無に応じて優先度を判断してください。

Q5: DAGFとAI事業者ガイドラインの関係は？

DAGFはDatabricksが策定した民間のフレームワークであり、日本の経済産業省が取りまとめるAI事業者ガイドラインとは独立したものです。ただし、DAGFのPillar II（法務・規制コンプライアンス）はAI事業者ガイドラインを含む各国規制への準拠を要件としており、両者は補完関係にあります。DAGFで技術的な実装基盤を整備しつつ、AI事業者ガイドラインで日本固有の法規制要件を充足するアプローチが推奨されます。