Web Fetch

🚀 获取 MCP 服务器

此 MCP 服务器具备强大的网页内容抓取能力，可提供 HTML、JSON、纯文本和 Markdown 等多种格式的抓取结果，满足多样化的使用需求。

✨ 主要特性

• 使用现代 fetch API 抓取网络内容，高效便捷。
• 支持自定义请求头，可灵活调整请求参数。
• 提供多种格式的内容，包括 HTML、JSON、纯文本和 Markdown。
• 使用 JSDOM 进行 HTML 解析和文本提取，确保内容处理准确。
• 使用 TurndownService 进行 HTML 到 Markdown 转换，方便格式转换。

📦 安装指南

1. 克隆仓库。
2. 安装依赖项：

npm install

3. 构建服务器：

npm run build

💻 使用示例

基础用法

要使用该服务器，可以直接运行：

npm start

这将启动在标准输入输出上运行的 Fetch MCP Server。

高级用法

要将此服务器集成到桌面应用程序中，请将以下内容添加到应用程序的服务器配置中：

{
  "mcpServers": {
    "fetch": {
      "command": "node",
      "args": [
        "{ABSOLUTE PATH TO FILE HERE}/dist/index.js"
      ]
    }
  }
}

🔧 技术细节

组件

工具

• fetch_html

  • 功能：抓取网站并返回 HTML 内容。
  • 输入：
    • url (字符串，必填)：要抓取的网站 URL。
    • headers (对象，可选)：请求中包含的自定义头。
  • 返回：网页的原始 HTML 内容。

• fetch_json

  • 功能：从 URL 获取 JSON 文件。
  • 输入：
    • url (字符串，必填)：要获取的 JSON URL。
    • headers (对象，可选)：请求中包含的自定义头。
  • 返回：解析后的 JSON 内容。

• fetch_txt

  • 功能：抓取网站并返回纯文本内容（无 HTML）。
  • 输入：
    • url (字符串，必填)：要抓取的网站 URL。
    • headers (对象，可选)：请求中包含的自定义头。
  • 返回：去除 HTML 标签、脚本和样式后的网页文本内容。

• fetch_markdown

  • 功能：抓取网站并返回 Markdown 格式的内容。
  • 输入：
    • url (字符串，必填)：要抓取的网站 URL。
    • headers (对象，可选)：请求中包含的自定义头。
  • 返回：网页内容转换为 Markdown 格式的结果。

资源

此服务器不提供任何持久资源，它是按需抓取和转换网络内容的设计。

📚 详细文档

开发

• 运行 npm run dev 以启动 TypeScript 编译器的监视模式。
• 使用 npm test 运行测试套件。

📄 许可证

此项目根据 MIT 许可证发布。