Ollama MCP Bridge

🚀 MCP-LLM ブリッジ

このプロジェクトは TypeScript で実装されており、ローカルの大規模言語モデル（Ollama を通じて）をモデルコンテキストプロトコル（MCP）サーバーに接続することを目的としています。このブリッジにより、オープンソースモデルは Claude のように同じツールや機能を使用でき、強力なローカル AI アシスタントを実現します。

🚀 クイックスタート

このブリッジは、ローカルの大規模言語モデルを MCP サーバーに接続します。MCP サーバーは、以下のような様々な機能を提供します。

• ファイルシステム操作
• Brave のウェブ検索
• GitHub とのやり取り
• Google Drive と Gmail の統合
• メモリ/ストレージ管理
• Flux を使用した画像生成

ブリッジは、LLM の出力と MCP の JSON-RPC プロトコルの間で変換を行い、Ollama 互換のモデルが Claude のようにこれらのツールを使用できるようにします。

✨ 主な機能

• 複数の MCP サポートと動的なツールルーティング
• ツール呼び出しの構造化出力検証
• ユーザーのプロンプト内の自動ツール検出
• 強力な Ollama プロセス管理
• 詳細なログ記録とエラー処理

📦 インストール

1. Ollama と必要なモデルのインストール

ollama pull qwen2.5-coder:7b-instruct

2. MCP サーバーのインストール

npm install -g @modelcontextprotocol/server-filesystem
npm install -g @modelcontextprotocol/server-brave-search
npm install -g @modelcontextprotocol/server-github
npm install -g @modelcontextprotocol/server-memory
npm install -g @patruff/server-flux
npm install -g @patruff/server-gmail-drive

3. 認証情報の設定

• 勇敢な検索には BRAVE_API_KEY を設定します。
• GitHub には GITHUB_PERSONAL_ACCESS_TOKEN を設定します。
• Flux には REPLICATE_API_TOKEN を設定します。
• Gmail の認証情報は、以下のコマンドで設定します。cp $HOME/.config/Google/credentials.json ~/.config/gmail-credential

4. 設定ファイルの作成または編集

$HOME/.config/mcp-llm/config.json に設定ファイルを作成または編集します。以下は設定ファイルの例です。

{
  "ollama": {
    "host": "http://localhost:11434"
  },
  "gmail": {
    "enable": false,
    "credential_path": "~/.config/gmail-credential"
  }
}

💻 使用例

基本的な使用法

ブリッジの起動

npm run start

リクエストの送信例

• 単純なメッセージを送信する場合

curl -X POST http://localhost:3000/api/v1/message -H "Content-Type: application/json" -d '{"message": "こんにちは、世界！"}'

• ツール呼び出し付きのメッセージを送信する場合

curl -X POST http://localhost:3000/api/v1/message -H "Content-Type: application/json" -d '{"message": "笑い話を教えてください。joke-teller ツールを使用して。"}'

🔧 技術詳細

• ブリッジはマルチスレッド処理をサポートし、最大接続数は 100 です。
• リクエストのタイムアウト時間は 30 秒で、リトライ回数は 3 回です。
• ファイル添付のアップロードとダウンロードをサポートしています。

🔮 将来の改善計画

• より多くの MCP サーバーのサポートを実装する。
• 並列ツール実行機能を追加する。
• ストリーミングレスポンス出力をサポートする。
• エラー回復能力を向上させる。
• 会話記憶機能を追加する。
• より多くの Ollama モデルのサポートを拡張する。

🔗 関連プロジェクト

このプロジェクトは、より広範な Claude エコシステムと統合されています。

• モデルコンテキストプロトコル（MCP）
• Claude デスクトップ設定
• Ollama プロジェクト
• 様々な MCP サーバーの実装

これにより、Claude と同様の多くの機能を備えた強力なローカル AI アシスタントを、自分自身のハードウェア上で完全に動作させることができます。