Llama MCP Server

🚀 LibreModel MCP Server 🤖

このModel Context Protocol (MCP)サーバーは、Claude Desktopとllama-serverを介して実行されるローカルの大規模言語モデル（LLM）インスタンスを橋渡しします。

✨ 主な機能

• 💬 Claude Desktopを通じたLibreModelとの完全な会話サポート
• 🎛️ 完全なパラメータ制御（temperature、max_tokens、top_p、top_k）
• ✅ ヘルスモニタリングとサーバーのステータスチェック
• 🧪 様々な機能の組み込みテストツール
• 📊 パフォーマンスメトリクスとトークン使用状況の追跡
• 🔧 環境変数を通じた簡単な設定

🚀 クイックスタート

1. 依存関係のインストール

cd llama-mcp
npm install

2. サーバーのビルド

npm run build

3. LibreModelの起動

モデルを使用してllama-serverが実行されていることを確認します。

./llama-server -m lm37.gguf -c 2048 --port 8080

4. Claude Desktopの設定

Claude Desktopの設定ファイル（~/.config/claude/claude_desktop_config.json）に以下を追加します。

{
  "mcpServers": {
    "libremodel": {
      "command": "node",
      "args": ["/home/jerr/llama-mcp/dist/index.js"]
    }
  }
}

5. Claude Desktopの再起動

これでClaudeはMCPを通じてLibreModelにアクセスできるようになります！

💻 使用例

基本的な使用法

💬 chat - 主な会話ツール

chatツールを使ってLibreModelに「あなたの名前は何ですか？何ができますか？」と尋ねます。

🧪 quick_test - LibreModelの機能をテスト

"creative"タイプのquick_testを実行して、LibreModelが詩を書けるかどうかを確認します。

🏥 health_check - サーバーのステータスを監視

health_checkを使用して、LibreModelが正常に動作しているかどうかを確認します。

📚 ドキュメント

設定

動作をカスタマイズするには、環境変数を設定します。

export LLAMA_SERVER_URL="http://localhost:8080"  # デフォルトのllama-serverのURL

利用可能なツール

リソース

• 設定：現在のサーバー設定を表示します。
• 説明書：詳細な使用ガイドとセットアップ手順が記載されています。

開発

# 依存関係のインストール
npm install

# 開発モード（自動再ビルド）
npm run dev

# 本番用ビルド
npm run build

# サーバーを直接起動
npm start

🔧 技術詳細

Claude Desktop ←→ LLama MCP Server ←→ llama-server API ←→ Local Model

MCPサーバーは橋渡しの役割を果たし、MCPプロトコルメッセージをllama-server API呼び出しに変換し、Claude Desktop用にレスポンスを整形します。

🛠️ トラブルシューティング

"Cannot reach LLama server"

• llama-serverが設定されたポートで実行されていることを確認します。
• モデルがロードされ、応答していることを確認します。
• ファイアウォール/ネットワーク設定を確認します。

"Tool not found in Claude Desktop"

• 設定を変更した後、Claude Desktopを再起動します。
• index.jsへのパスが正しく絶対パスであることを確認します。
• MCPサーバーがエラーなくビルドされることを確認します。

応答品質が低い場合

• temperatureとサンプリングパラメータを調整します。
• 異なるシステムプロンプトを試してみます。

📄 ライセンス

CC0-1.0 - パブリックドメイン。自由に使用できます！

このプロジェクトは、オープンソースAIとLibreModelプロジェクトのためにClaude Sonnet4によって愛情を込めて作成されました。