Omni Nli

🚀 Omni - NLI

Omni - NLIは、RESTfulおよびModel Context Protocol (MCP)インターフェースを介して、自然言語推論 (NLI) 機能を提供する自己ホスト型サーバーです。非常にスケーラブルなスタンドアロンのステートレスマイクロサービスとして（REST API経由）、またAIエージェントのMCPサーバーとして、AIベースのアプリケーションの検証レイヤーを実装するために使用できます。

🚀 クイックスタート

1. インストール

pip install omni-nli[huggingface]

2. サーバーの起動

omni-nli

3. NLIの評価 (REST APIを使用)

curl -X POST \
  -H "Content-Type: application/json" \
  -d '{
    "premise": "A football player kicks a ball into the goal.",
    "hypothesis": "The football player is asleep on the field."
  }' \
  http://127.0.0.1:8000/api/v1/nli/evaluate

応答例:

{
    "label": "contradiction",
    "confidence": 0.99,
    "model": "microsoft/Phi-3.5-mini-instruct",
    "backend": "huggingface"
}

4. NLIの評価 (MCPインターフェースを使用)

✨ 主な機能

• 生成されたコンテンツが事実に基づいているかを検証することで、LLMの幻覚を軽減します。
• Ollama、HuggingFace（公開および非公開/ゲート付きモデル）、OpenRouterなど、さまざまなバックエンドが提供するモデルをサポートします。
• REST API（従来のアプリケーション用）とMCP（AIエージェント用）インターフェースをサポートします。
• 完全に設定可能で非常にスケーラブルで、組み込みのキャッシュ機能があります。
• 説明性のために信頼度スコアと（オプションで）推論トレースを提供します。

実装済みおよび計画されている機能の一覧については、ROADMAP.md を参照してください。

⚠️ 重要提示 Omni - NLIは開発初期段階であるため、バグや破壊的な変更が予想されます。バグの報告や機能のリクエストは、issuesページ を使用してください。

📚 ドキュメント

設定オプション、APIリファレンス、および例を含む詳細情報については、Omni - NLIドキュメント を参照してください。

🤝 コントリビューション

コントリビューションはいつでも歓迎されます！ 開始方法の詳細については、CONTRIBUTING.md を参照してください。

📄 ライセンス

Omni - NLIはMITライセンスの下でライセンスされています（LICENSE を参照）。

🙏 謝辞

• ロゴは SVG Repo から取得し、一部を変更して使用しています。