Local Ai With Ollama Open Webui MCP On Windows

🚀 WindowsでのOllama、WebUI、MCPを用いたローカルAI

このプロジェクトは、言語モデルを実行するOllama、ユーザーフレンドリーなチャットインタラクションを提供するOpen WebUI、そしてモデルを集中管理するMCPを組み合わせたセルフホスト型のAIスタックです。クラウドに依存することなく、完全なコントロール、プライバシー、柔軟性を提供します。

このサンプルプロジェクトは、従業員の休暇残高、申請、履歴を管理するためのMCPベースのツールサーバーを提供します。mcpoを使用してOpenAPI経由で公開されており、Open WebUIや他のOpenAPI互換クライアントとの簡単な統合が可能です。

✨ 主な機能

• ✅ 従業員の休暇残高を確認する
• 📆 特定の日付での休暇申請
• 📜 休暇履歴を表示する
• 🙋 パーソナライズされた挨拶機能

📁 プロジェクト構造

leave-manager/
├── main.py                  # 休暇管理のためのMCPサーバーロジック
├── requirements.txt         # MCPサーバーのPython依存関係
├── Dockerfile               # 休暇管理ツールのDockerイメージ設定
├── docker-compose.yml       # 休暇管理ツールとOpen WebUIを実行するためのDocker Composeファイル
└── README.md                # プロジェクトドキュメント（このファイル）

📋 前提条件

1. Windows 10以降 (Ollamaに必要)
2. Windows用Docker Desktop (Open WebUIとMCPに必要)
   • インストール先: Windows用Docker Desktop

🛠️ ワークフロー

1. WindowsにOllamaをインストールする
2. deepseek-r1モデルを取得する
3. リポジトリをクローンし、プロジェクトディレクトリに移動する
4. docker-compose.ymlファイルを実行してサービスを起動する

Ollamaのインストール

➤ Windows

1. インストーラーをダウンロードする:

   • Ollama Downloadにアクセスし、Download for WindowsをクリックしてOllamaSetup.exeを取得します。
   • あるいは、Ollama GitHub Releasesからダウンロードすることもできます。

2. インストーラーを実行する:

   • OllamaSetup.exeを実行し、インストールの指示に従います。
   • インストール後、Ollamaはバックグラウンドサービスとして実行され、http://localhost:11434からアクセスできます。
   • ブラウザで確認すると、以下のように表示されます。

     Ollama is running
     

3. Ollamaサーバーを起動する（実行中でない場合）:

   ollama serve
   

   • サーバーはhttp://localhost:11434からアクセスできます。

インストールの確認

Ollamaのインストールバージョンを確認します。

ollama --version

期待される出力:

ollama version 0.7.1

deepseek-r1モデルの取得

1. デフォルトモデル（7B）を取得する:

PowerShellを使用する場合

ollama pull deepseek-r1

特定のバージョンを取得するには:

ollama run deepseek-r1:1.5b
ollama run deepseek-r1:671b

2. インストールされたモデルをリストする:

ollama list

期待される出力:

NAME                    ID              SIZE
deepseek-r1:latest      xxxxxxxxxxxx    X.X GB

4. APIを介した代替確認方法:

curl http://localhost:11434/api/tags

期待される出力: deepseek-r1:latestを含むインストールされたモデルのリストが含まれるJSONレスポンス。

4. PowerShellを介してAPIをテストする:

Invoke-RestMethod -Uri http://localhost:11434/api/generate -Method Post -Body '{"model": "deepseek-r1", "prompt": "Hello, world!", "stream": false}' -ContentType "application/json"

期待されるレスポンス: "Hello, world!"のプロンプトに対するモデルのレスポンスを含むJSONオブジェクト。

5. PowerShellを介してモデルを実行し、チャットする:

ollama run deepseek-r1

• これにより、deepseek-r1モデルとの対話型チャットセッションが開きます。
• /byeと入力し、Enterを押すとチャットセッションを終了できます。

🐳 Docker ComposeでOpen WebUIとMCPサーバーを実行する

1. リポジトリをクローンする:

   git clone https://github.com/ahmad-act/Local-AI-with-Ollama-Open-WebUI-MCP-on-Windows.git
   cd Local-AI-with-Ollama-Open-WebUI-MCP-on-Windows
   

2. MCPツールとOpen WebUIをローカル（Docker Desktop上）で起動するには:

   docker-compose up --build
   

これにより、以下のことが行われます。

• ポート8000で休暇管理ツール（MCPサーバー）が起動します。
• http://localhost:3000でOpen WebUIが起動します。

🌐 Open WebUIにMCPツールを追加する

MCPツールは、OpenAPI仕様を介してhttp://localhost:8000/openapi.jsonで公開されています。

1. ブラウザでhttp://localhost:3000を開きます。
2. プロフィールアイコンをクリックし、設定に移動します。
3. ツールメニューを選択し、追加 (+) ボタンをクリックします。
4. URLを入力して新しいツールを追加します: http://localhost:8000/。

💬 プロンプトの例

Open WebUIで以下のプロンプトを使用して、休暇管理ツールと対話します。

• 休暇残高を確認する:

  Check how many leave days are left for employee E001
  

• 休暇を申請する:

  Apply
  

• 休暇履歴を表示する:

  What's the leave history of E001?
  

• パーソナライズされた挨拶を受け取る:

  Greet me as Alice
  

🛠️ トラブルシューティング

• Ollamaが実行されていない場合: サービスがアクティブであることを確認し（ollama serve）、http://localhost:11434を確認します。
• Dockerに問題がある場合: Docker Desktopが実行されていることと、十分なディスク容量があることを確認します。
• モデルが見つからない場合: ollama listでdeepseek-r1モデルがリストされていることを確認します。
• ポートの競合がある場合: ポート11434、3000、8000が使用可能であることを確認します。

📚 追加リソース

• Ollama Documentation
• Open WebUI Documentation
• Docker Desktop Documentation
• MCP Documentation
• OpenAPI Tool Servers
• mcpo - Works with OpenAPI tools, SDKs, and UIs