Otter Bridge

🚀 OtterBridge

OtterBridge 是一個輕量級、靈活的服務器，可將應用程序連接到各類大型語言模型提供者。它遵循簡潔性和組合性原則，為連接大語言模型提供了簡潔接口，同時能適應不同用例。目前支持 Ollama，後續還計劃支持 ChatGPT 和 Claude 等。

📦 文件結構

├── .env.example           # 環境變量示例文件
├── .gitignore             # 用於排除git的文件
├── LICENSE                # 開源許可證（MIT、Apache等）
├── README.md              # 項目文檔
├── server.py              # MCP服務器實現（以前稱為 fastmcp_server.py）
├── requirements.txt       # Python依賴項
└── src/                   # 源代碼目錄
    ├── __init__.py        # 包初始化文件
    └── services/          # 服務目錄
        ├── __init__.py    # 包含服務的初始化代碼
        └── ollama.py      # Ollama服務實現

✨ 主要特性

• 提供者無關：設計用於與多個 LLM 提供者一起工作（目前支持 Ollama，不久將推出 ChatGPT 和 Claude）
• 簡單、組合式設計：遵循構建 LLM 代理的最佳實踐
• 輕量級服務器：使用 FastMCP 構建，以實現可靠且高效的服務器實施
• 模型管理：輕鬆訪問有關可用模型的信息和功能

🤔 為什麼是“OtterBridge”？

就像水獺在河岸之間建立連接一樣，OtterBridge 在您的應用程序與各種 LLM 提供者之間創建無縫的橋樑。與水獺一樣適應性強和資源豐富，OtterBridge 適應不同的 LLM 後端，同時提供一致的接口。

🚀 快速開始

先決條件

在安裝 OtterBridge 之前，您需要：

1. 安裝並運行 Ollama（https://ollama.ai/download）到默認端口
2. 安裝 uv（https://github.com/astral-sh/uv）用於 Python 包管理

安裝步驟

1. 克隆此倉庫：

git clone https://github.com/yourusername/otterbridge.git
cd otterbridge

2. 使用 uv 安裝依賴項：

uv add -r requirements.txt

3. 基於提供的 .env.example 創建一個 .env 文件：

cp .env.example .env

4. 在 .env 文件中配置您的環境變量。

集成到Claude桌面

對於使用 Claude 桌面的用戶，您需要將 OtterBridge 添加到您的 Claude 桌面配置中：

1. 打開您的 Claude 桌面配置文件
2. 添加以下配置（調整路徑以匹配您的本地安裝）：

"otterbridge": {
    "command": "uv",
    "args": [
        "--directory",
        "C:\\Path\\To\\Your\\otterbridge",
        "run",
        "server.py"
    ]
}

啟動服務器

OtterBridge 可以通過兩種方式啟動：

1. 手動啟動用於測試目的：

uv run server:app -- host 0.0.0.0 port 8000

2. 作為生產環境啟動：

uv run server:app -- host 0.0.0.0 port 8000 -- reload off

💻 使用示例

請參考 API 文檔 瞭解如何使用 OtterBridge 提供的接口。

🤝 貢獻指南

歡迎貢獻！請隨意提交 Pull Request。

開發指南

1. 叉倉庫
2. 創建功能分支（git checkout -b feature/amazing-feature）
3. 提交更改（git commit -m 'Add some amazing feature'）
4. 推送到分支（git push origin feature/amazing-feature）
5. 打開 Pull Request

📄 許可證

此項目根據 MIT License 發佈。

🙏 致謝

• MCP（模型上下文協議） 為服務器框架
• Ollama 為本地 LLM 主機提供支持
• Anthropic 的構建高效代理指南 提供了架構方面的啟發