Databricks Certified Generative AI Engineer Associate 教科書
第6章 ガバナンス(Governance, 8%)
🎯 この節の学習目標
本章の締めくくりとして、これまで学んだ個別の対策を1つの統治基盤の上に統合します。生成AIアプリケーションは、実に多くの種類の資産から構成されます。
これらがバラバラの場所でバラバラの権限体系のもとに管理されていると、「誰がこのモデルを使えるのか」「このインデックスの元データはどこか」「顧客データがどのモデルに流れ込んだのか」に答えられなくなります。Databricks の答えが、すべての資産を Unity Catalog(UC)という単一のガバナンスレイヤーの下に置くことです。UC はテーブルだけでなく、モデル、AI Search インデックス、関数、ボリューム(ファイル)を同じ カタログ.スキーマ.資産名 の3階層名前空間で管理し、同じ権限モデル・同じ監査体系を適用します。
📝 試験のポイント
「生成AIアプリケーションのデータ・モデル・その他の資産を一元的に統制(govern)する Databricks の仕組みは?」と問われたら、答えは Unity Catalog です。MLflow(実験管理・モデルのパッケージング)や Unity AI Gateway(エンドポイントの統制)と役割を混同しないようにしましょう。モデルレジストリも現在は UC 上のモデル(Models in Unity Catalog)として管理され、UC のガバナンスに統合されています。
生成AIの文脈で特に重要なUCの機能を4つに整理します。
| 機能 | 内容 | 生成AIでの使いどころ |
|---|---|---|
| 一元的アクセス制御 | GRANT/REVOKE による権限付与。テーブルもモデルもインデックスも関数も同じ構文・同じ権限モデルで管理 | 機密文書テーブルは人事部のみ、モデルの実行権限はアプリのサービスプリンシパルのみ、といった最小権限の実装 |
| リネージ(lineage) | 資産間の依存関係(どのテーブルからどのテーブル・インデックス・モデルが作られたか)を自動追跡 | 「この回答の元になったインデックスはどの文書テーブル由来か」「PIIを含むテーブルがどのモデルの学習に使われたか」を追跡。問題発覚時の影響範囲調査に必須 |
| 監査ログ(audit log) | 誰が・いつ・どの資産にアクセスしたか(クエリ、モデル呼び出し、権限変更など)の記録 | コンプライアンス対応、情報漏えい調査、プロンプトインジェクション等のインシデント調査(6-2) |
| タグ付け | 資産・カラムへのタグ(例:PII タグ)の付与と、タグに基づく検索・管理 | PIIを含む列・テーブルをタグで可視化し、マスキング(6-1)や権限設定の適用漏れを防ぐ |
💼 例:リネージが効く場面
ある日、RAGボットの回答に本来含めてはならない機密情報が混入していることが発覚したとします。UC のリネージをたどれば、「回答の根拠となった AI Search インデックス → その同期元のチャンクテーブル → さらにその元のソース文書テーブル」という系譜を逆に追跡でき、どの文書の取り込みが原因かを特定できます。さらに監査ログで「その文書テーブルに誰がいつデータを追加したか」を調べられます。ガバナンスが単一基盤に統合されているからこそ、この調査が一気通貫でできるのです。
UC の保護機能は「資産全体への権限」と「データの中身への細かい制御」の2段構えです。
GRANT。たとえばエージェントのツールである UC 関数に実行権限を絞れば、ツール権限の最小化(6-2)を仕組みとして実装できます。モデル/エンドポイントへの権限管理(4-3)もこの一部です。この2段構えにより、「そもそもアクセスできる人を絞る」と「アクセスできる人にも必要以上の生データは見せない」を同時に実現します。
第4章・第5章で学んだ仕組みと合わせると、「データからモデル、エンドポイント、運用まで」の各段階に対応するガバナンスの部品が揃います。試験対策としても、この対応表を頭に入れておくと「どの段階の統制が問われているか」で機能を選べるようになります。
| 段階 | 統制の対象 | 使う仕組み |
|---|---|---|
| データ | ソース文書・チャンクテーブルへのアクセス、PII保護 | UC の GRANT、カラムマスク・行フィルタ、PIIタグ(6-1) |
| インデックス | AI Search インデックスの利用権限、元データの追跡 | UC の権限管理、リネージ |
| モデル | 登録モデルのバージョン・権限・昇格(エイリアス)管理 | Models in Unity Catalog(4-3) |
| ツール | エージェントが実行できる関数の制限 | UC 関数への実行権限(3-4、6-2) |
| エンドポイント | 推論トラフィックの統制:レート制限、ガードレール(PII・セーフティ)、外部モデルの一元管理 | Unity AI Gateway(4-4) |
| 運用 | リクエスト・応答の記録、品質・コストの監視、問題出力の分析 | 推論テーブル(5-5)、モニタリング(第5章)、UC 監査ログ |
まとめると:静的な資産(データ・インデックス・モデル・関数)は Unity Catalog が、動的なトラフィック(推論のリクエスト)は Unity AI Gateway が統制し、運用の記録は推論テーブルと監査ログが担う——これが Databricks における生成AIのエンドツーエンドガバナンスの全体像です。
図:ガバナンススタックの全体像。動的なトラフィックは Unity AI Gateway が、静的な資産は Unity Catalog が統制します。
💼 例:ガバナンス要件を仕組みに落とす
「顧客データを扱うRAGアプリについて、①PII列は開発者に見せない、②本番モデルを変更できる人を限定する、③どの文書からモデルが作られたか追跡できるようにする、④モデルへの全リクエストを記録する」という要件があるとします。対応は次のとおりです。
要件の言葉(見せない/限定する/追跡する/記録する)から対応する機能を即座に選べるようにしておきましょう。
本章で学んだガバナンスの各テーマは、次のように整理できます。
| 節 | テーマ | キーワード |
|---|---|---|
| 6-1 | 入力の保護 | PIIマスキング(インデックス作成時・推論時)、Presidio、Unity AI Gateway ガードレール、カラムマスク |
| 6-2 | 攻撃への防御 | プロンプトインジェクション(直接型・間接型)、多層防御、ツール権限最小化 |
| 6-3 | 法的・契約的統制 | モデルライセンス(Apache 2.0/MIT vs コミュニティライセンス)、商用条件、利用規約 |
| 6-4 | 出力の統制 | 有害出力の分類、6つの緩和層、Llama Guard、human-in-the-loop |
| 6-5 | 基盤としての統合 | Unity Catalog:一元的アクセス制御、リネージ、監査ログ、タグ |
Governance セクションの出題比率は8%と大きくありませんが、「シナリオに対して適切な統制手段を選ぶ」という素直な問題が多い領域です。本章の対応表を確実に得点源にしてください。
✅ この節のまとめ
問1. ある企業が、RAGアプリケーションを構成するソース文書テーブル、AI Search インデックス、埋め込みモデル、チェーンモデル、エージェント用の関数を、単一の権限モデルとリネージ・監査のもとで一元管理したい。使用すべき Databricks の仕組みはどれか。
正解:B
テーブル・インデックス・モデル・関数といった異なる種類の資産を、同一の名前空間・権限モデル・リネージ・監査ログで統治するのが Unity Catalog です。AのMLflow Trackingは実験の記録、Cはデータパイプラインの構築、Dはジョブのスケジュール実行の仕組みであり、いずれも資産全体の一元ガバナンス基盤ではありません。
問2. RAGボットの回答に機密情報の混入が発覚した。「そのインデックスがどのソーステーブルから作られたか」を遡って特定するために使うべきUCの機能はどれか。
正解:B
資産間の由来・依存関係(どのテーブルからどのインデックス・モデルが作られたか)を追跡するのがリネージです。AのカラムマスクとCの行フィルタはデータの中身の表示を制御する保護機能、Dのタグ付けは資産の分類・可視化の機能であり、いずれも系譜の追跡はできません。なお「誰がいつアクセスしたか」を調べるのは監査ログで、リネージ(資産のつながり)とは区別して覚えましょう。
問3. 顧客テーブルには電話番号の列があり、データサイエンティストは分析のためにテーブル自体へのアクセスは必要だが、電話番号の実値を見る必要はない。適切なUCの機能はどれか。
正解:B
「テーブルには触れるが特定列の実値は見せない」という要件には、UC のカラムマスクが正確に対応します。Aは分析業務自体を不可能にする過剰制限です。Cは手作業でエラーが起きやすく、統制(ガバナンス)ではなく運用でカバーする悪いパターンです。Dのリネージは由来の追跡機能であり、値の秘匿はできません。
問4. 生成AIアプリのエンドツーエンドガバナンスにおける各仕組みの役割の説明として、最も適切なのはどれか。
正解:B
役割分担の全体像はB のとおりです。静的な資産の権限・リネージ・監査は Unity Catalog、エンドポイントを通る動的なトラフィックの統制(レート制限・ガードレール・外部モデル管理)は Unity AI Gateway、推論の入出力の記録は推論テーブルが担います。Aは両者の役割が逆です。Cの推論テーブルは記録の仕組みにすぎず、権限管理やガードレールは提供しません。Dはチャンク化・埋め込み計算というデータ処理の話であり、どちらの仕組みの役割でもありません。