Simple MCP Ollama Bridge

🚀 MCP LLM ブリッジ

MCP LLM ブリッジは、モデルコンテキストプロトコル（MCP）サーバーと、Ollama などの OpenAI 互換の大規模言語モデル（LLM）を接続するツールです。 Anthropic が開発した MCP についての詳細は、以下のリンクを参照してください。

• リソース
• プロンプト
• ツール
• サンプリング

🚀 クイックスタート

インストール

# インストール
curl -LsSf https://astral.sh/uv/install.sh | sh
git clone https://github.com/bartolli/mcp-llm-bridge.git
cd mcp-llm-bridge
uv venv
source .venv/bin/activate
uv pip install -e .

⚠️ 重要提示

.env ファイル内のキーを使用するには、環境を再アクティブ化してください：source .venv/bin/activate

ブリッジの設定

次に、src/mcp_llm_bridge/main.py でブリッジを設定します。

mcp_server_params=StdioServerParameters(
            command="uv",
            # この行を変更 = 絶対パスである必要があります！このディレクトリに MCP フェッチサーバーを追加します（https://github.com/modelcontextprotocol/servers/ からクローン）
            args=["--directory", "~/llms/mcp/mc-server-fetch/servers/src/fetch", "run", "mcp-server-fetch"],
            env=None
        ),
        # llm_config=LLMConfig(
        #     api_key=os.getenv("OPENAI_API_KEY"),
        #     model=os.getenv("OPENAI_MODEL", "gpt-4o"),
        #     base_url=None
        # ),
        llm_config=LLMConfig(
            api_key="ollama",  # ローカルテスト用に任意の文字列にできます
            model="llama3.2",
            base_url="http://localhost:11434/v1"  # ローカルモデルのエンドポイントを指定
        ),
)

追加エンドポイントのサポート

このブリッジは、OpenAI API 仕様を実装した任意のエンドポイントと互換性があります。

Ollama

llm_config=LLMConfig(
    api_key="不要",
    model="mistral-nemo:12b-instruct-2407-q8_0",
    base_url="http://localhost:11434/v1"
)

📄 ライセンス

MIT

貢献

PR の投稿を歓迎します。