AnythingLLM avec Claude, GPT et Gemini

Connect in three fields

AnythingLLM dispose d'un fournisseur Generic OpenAI pour tout endpoint compatible OpenAI. Pointez-le vers avots.

Setup

LLM Provider:         Generic OpenAI
Base URL:             https://api.avots.ai/openai/v1
API Key:              av_mcp_YOUR_KEY
Chat Model Name:      anthropic/claude-sonnet-4.6
Token context window: 200000
Max Tokens:           4096

Generic OpenAI n'a pas de découverte automatique des modèles, tapez le Chat Model Name exact à la main. Réglez correctement la Token context window et Max Tokens, des valeurs erronées tronquent ou provoquent une erreur silencieuse. Ceci configure uniquement le LLM de chat, les embeddings sont un fournisseur distinct.

Example request

curl https://api.avots.ai/openai/v1/chat/completions \
  -H "Authorization: Bearer av_mcp_YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "anthropic/claude-sonnet-4.6",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

The same key also unlocks MCP tools

Your av_mcp_ key is not only for chat. avots also runs as an MCP server, so AnythingLLM can call avots creative tools, image, video, music, talking avatars, on the same key and the same balance.

MCP setup guide →

Models and prices

Set the model field to any id below, or a lazy name like claude / gpt / gemini that maps to a sensible default.

* Price in ⚡ per 1,000,000 tokens, input / output (1000⚡ ≈ $1). Free models need a positive balance. Full list via GET /openai/v1/models.

Questions

Autres clients