目次 › 第3章 › 3-7

第3章 アプリケーション開発 / 想定学習時間:30〜40分 / 最終確認:2026年8月

3-7. Foundation Model APIによるモデル呼び出し

1. Foundation Model API とは

Databricks の Model Serving は、自分で学習・登録したモデルだけでなく、基盤モデル(Foundation Model)をAPIとしてすぐに呼び出せる仕組みを提供しています。GPUのプロビジョニングやモデルのダウンロード・デプロイ作業なしに、ワークスペース内のエンドポイントとしてLLMを利用できるのが最大の利点です。しかも Unity Catalog の権限管理、監査ログ、Unity AI Gateway(旧 Mosaic AI Gateway)(4-4)といったガバナンス機構と統合されています。

提供形態は次の3つに大別されます。この区別は試験でもよく問われます。

2. 呼び出し方法①:OpenAI互換クライアント

Databricks の Foundation Model API は OpenAI 互換の REST API を提供しているため、広く使われている openai パッケージのクライアントをそのまま使えます。base_url をワークスペースの serving-endpoints に向けるだけです。

from openai import OpenAI

client = OpenAI(
    api_key=DATABRICKS_TOKEN,  # Databricksのアクセストークン
    base_url="https://<workspace-host>/serving-endpoints"
)

response = client.chat.completions.create(
    model="databricks-meta-llama-3-3-70b-instruct",  # エンドポイント名
    messages=[
        {"role": "system", "content": "あなたは簡潔に答えるアシスタントです。"},
        {"role": "user", "content": "RAGとは何ですか?"}
    ],
    temperature=0.1,
    max_tokens=500
)
print(response.choices[0].message.content)

3. 呼び出し方法②:SQL の ai_query() 関数

SQLから直接LLMを呼び出せるのが ai_query() 関数です。Delta テーブルの各行に対してバッチでLLM処理(要約・分類・抽出など)を適用する場面で特に便利で、データエンジニアリングのパイプラインに自然に組み込めます。

SELECT
  review_id,
  ai_query(
    'databricks-meta-llama-3-3-70b-instruct',
    CONCAT('次のレビューを positive / negative / neutral のいずれかに分類してください: ',
           review_text)
  ) AS sentiment
FROM main.reviews.customer_reviews;

4. 呼び出し方法③④:MLflow Deployments SDK と LangChain

4-1. MLflow Deployments SDK

MLflow の Deployments クライアントを使うと、Databricks のサービングエンドポイントを統一的なインターフェースで呼び出せます。

from mlflow.deployments import get_deploy_client

client = get_deploy_client("databricks")
response = client.predict(
    endpoint="databricks-meta-llama-3-3-70b-instruct",
    inputs={
        "messages": [{"role": "user", "content": "RAGとは何ですか?"}],
        "max_tokens": 500
    }
)

4-2. LangChain の ChatDatabricks

3-1〜3-2 で学んだ LangChain のチェーンに Databricks のエンドポイントを組み込むには、ChatDatabricks を使います。

from databricks_langchain import ChatDatabricks

llm = ChatDatabricks(
    endpoint="databricks-meta-llama-3-3-70b-instruct",
    temperature=0.1,
    max_tokens=500
)
answer = (prompt | llm | parser).invoke({"question": "RAGとは?"})

チェーン内のLLM部品としてそのまま差し込めるため、RAGチェーンやエージェント(3-9)の構築ではこの方式が標準的です。

5. 主要な推論パラメータ

どの呼び出し方法でも共通して指定できる主要パラメータを押さえます。1-4 のプロンプト設計と合わせて、出力の品質・形式・コストを制御する基本手段です。

練習問題