AIBase
TW
探索
Locallama MCP
L

Locallama MCP

LocaLLama MCP Server是一個智能路由服務，通過動態決策將編碼任務分配給本地LLM或付費API，以優化成本。包含成本監控、決策引擎、API集成、錯誤處理和性能基準測試等核心模塊，支持與多種工具集成。
開發者工具人工智能聊天機器人#成本優化#智能路由#LLM管理#API集成.TypeScript
2.5分
8.8K
打開站點

概述

安裝

內容詳情

替代品

什麼是LocaLLama MCP 服務器？

LocaLLama MCP 服務器是一個旨在減少編碼任務中API使用成本的工具。它通過動態分析任務複雜度和預算限制，決定是否將任務交給本地LLM模型處理或直接調用付費API。

如何使用LocaLLama MCP 服務器？

只需簡單配置環境變量並啟動服務器即可開始使用。它會自動監控成本、性能並分配任務。

適用場景

適合需要頻繁進行代碼生成或優化的開發者，特別是在預算有限的情況下。

主要功能

成本監控模塊
即時跟蹤API費用和本地模型使用情況，確保成本最優。
智能決策引擎
根據任務規模、質量需求及成本閾值自動選擇本地或雲端模型。
本地LLM集成
支持多種主流本地LLM框架如LM Studio和Ollama。
OpenRouter集成
訪問多種付費和免費的LLM服務，無需額外配置。
全面基準測試
評估不同模型的響應時間、質量和成本，生成詳細報告。
優勢
顯著降低API使用成本
提高開發效率
支持多種模型集成
自動化決策減少人工干預
侷限性
初次配置可能較複雜
對高精度任務可能影響模型表現
需要一定的本地硬件支持

如何使用

克隆項目代碼
通過Git克隆LocaLLama MCP服務器代碼到本地。
安裝依賴
運行npm命令安裝所需的依賴項。
配置環境變量
複製.env.example文件並填寫你的API密鑰和本地模型端點。
啟動服務器
執行npm start啟動LocaLLama MCP服務器。

使用案例

示例1：啟動服務器
通過簡單的npm命令啟動服務器，即可開始處理編碼任務。
示例2：獲取免費模型列表
使用命令獲取當前可用的免費LLM模型。

常見問題

如何快速開始使用LocaLLama MCP服務器？
如果遇到免費模型無法加載的問題怎麼辦？
如何知道我的API成本是否超支？

相關資源

GitHub倉庫
項目源代碼和文檔
官方文檔
詳細的技術文檔和教程
基準測試報告
模型性能對比報告

安裝

複製以下命令到你的Client進行配置
{
  "mcpServers": {
    "locallama": {
      "command": "node",
      "args": ["/path/to/locallama-mcp"],
      "env": {
        "LM_STUDIO_ENDPOINT": "http://localhost:1234/v1",
        "OLLAMA_ENDPOINT": "http://localhost:11434/api",
        "DEFAULT_LOCAL_MODEL": "qwen2.5-coder-3b-instruct",
        "TOKEN_THRESHOLD": "1500",
        "COST_THRESHOLD": "0.02",
        "QUALITY_THRESHOLD": "0.07",
        "OPENROUTER_API_KEY": "your_openrouter_api_key_here"
      },
      "disabled": false
    }
  }
}
注意：您的密鑰屬於敏感信息，請勿與任何人分享。

替代品

V
Vestige
Vestige是一個基於認知科學的AI記憶引擎，通過實現預測誤差門控、FSRS-6間隔重複、記憶夢境等29個神經科學模塊，為AI提供長期記憶能力。包含3D可視化儀表板和21個MCP工具，完全本地運行，無需雲端。
Rust
5.4K
4.5分
M
Moltbrain
MoltBrain是一個為OpenClaw、MoltBook和Claude Code設計的長期記憶層插件，能夠自動學習和回憶項目上下文，提供智能搜索、觀察記錄、分析統計和持久化存儲功能。
TypeScript
5.4K
4.5分
B
Bm.md
一個功能豐富的Markdown排版工具，支持多種樣式主題和平臺適配，提供即時編輯預覽、圖片導出和API集成能力
TypeScript
5.5K
5分
S
Security Detections MCP
Security Detections MCP 是一個基於Model Context Protocol的服務器，允許LLM查詢統一的安全檢測規則數據庫，涵蓋Sigma、Splunk ESCU、Elastic和KQL格式。最新3.0版本升級為自主檢測工程平臺，可自動從威脅情報中提取TTPs、分析覆蓋差距、生成SIEM原生格式檢測規則、運行測試並驗證。項目包含71+工具、11個預構建工作流提示和知識圖譜系統，支持多SIEM平臺。
TypeScript
6.7K
4分
P
Paperbanana
PaperBanana是一個自動化生成學術圖表和統計圖的智能框架，支持從文本描述生成高質量的論文插圖，採用多智能體管道和迭代優化，提供CLI、Python API和MCP服務器等多種使用方式。
Python
6.9K
5分
B
Better Icons
一個提供超過20萬圖標搜索和檢索的MCP服務器和CLI工具，支持150多個圖標庫，幫助AI助手和開發者快速獲取和使用圖標。
TypeScript
7.7K
4.5分
A
Assistant Ui
assistant-ui是一個開源TypeScript/React庫，用於快速構建生產級AI聊天界面，提供可組合的UI組件、流式響應、無障礙訪問等功能，支持多種AI後端和模型。
TypeScript
7.8K
5分
A
Apify MCP Server
Apify MCP服務器是一個基於模型上下文協議（MCP）的工具，允許AI助手通過數千個現成的爬蟲、抓取器和自動化工具（Apify Actor）從社交媒體、搜索引擎、電商等網站提取數據。它支持OAuth和Skyfire代理支付，可通過HTTPS端點或本地stdio方式集成到Claude、VS Code等MCP客戶端中。
TypeScript
6.7K
5分
M
Markdownify MCP
Markdownify是一個多功能文件轉換服務，支持將PDF、圖片、音頻等多種格式及網頁內容轉換為Markdown格式。
TypeScript
31.2K
5分
B
Baidu Map
已認證
百度地圖MCP Server是國內首個兼容MCP協議的地圖服務，提供地理編碼、路線規劃等10個標準化API接口，支持Python和Typescript快速接入，賦能智能體實現地圖相關功能。
Python
38.5K
4.5分
F
Firecrawl MCP Server
Firecrawl MCP Server是一個集成Firecrawl網頁抓取能力的模型上下文協議服務器，提供豐富的網頁抓取、搜索和內容提取功能。
TypeScript
122.9K
5分
S
Sequential Thinking MCP Server
一個基於MCP協議的結構化思維服務器，通過定義思考階段幫助分解複雜問題並生成總結
Python
31.8K
4.5分
N
Notion Api MCP
已認證
一個基於Python的MCP服務器，通過Notion API提供高級待辦事項管理和內容組織功能，實現AI模型與Notion的無縫集成。
Python
18.4K
4.5分
M
Magic MCP
Magic Component Platform (MCP) 是一個AI驅動的UI組件生成工具，通過自然語言描述幫助開發者快速創建現代化UI組件，支持多種IDE集成。
JavaScript
19.7K
5分
E
Edgeone Pages MCP Server
EdgeOne Pages MCP是一個通過MCP協議快速部署HTML內容到EdgeOne Pages並獲取公開URL的服務
TypeScript
23.4K
4.8分
C
Context7
Context7 MCP是一個為AI編程助手提供即時、版本特定文檔和代碼示例的服務，通過Model Context Protocol直接集成到提示中，解決LLM使用過時信息的問題。
TypeScript
80.4K
4.7分
AIBase
智啟未來，您的人工智慧解決方案智庫
English简体中文繁體中文にほんご
© 2026AIBase