AnythingLLM mit Claude, GPT und Gemini

Connect in three fields

AnythingLLM hat einen Generic OpenAI Anbieter für jeden OpenAI-kompatiblen Endpoint. Richten Sie ihn auf avots.

Setup

LLM Provider:         Generic OpenAI
Base URL:             https://api.avots.ai/openai/v1
API Key:              av_mcp_YOUR_KEY
Chat Model Name:      anthropic/claude-sonnet-4.6
Token context window: 200000
Max Tokens:           4096

Generic OpenAI hat keine automatische Modellerkennung, tippen Sie den exakten Chat Model Name von Hand. Setzen Sie das Token context window und Max Tokens korrekt, falsche Werte kürzen still oder führen zu Fehlern. Dies konfiguriert nur das Chat-LLM, Embeddings sind ein separater Anbieter.

Example request

curl https://api.avots.ai/openai/v1/chat/completions \
  -H "Authorization: Bearer av_mcp_YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "anthropic/claude-sonnet-4.6",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

The same key also unlocks MCP tools

Your av_mcp_ key is not only for chat. avots also runs as an MCP server, so AnythingLLM can call avots creative tools, image, video, music, talking avatars, on the same key and the same balance.

MCP setup guide →

Models and prices

Set the model field to any id below, or a lazy name like claude / gpt / gemini that maps to a sensible default.

* Price in ⚡ per 1,000,000 tokens, input / output (1000⚡ ≈ $1). Free models need a positive balance. Full list via GET /openai/v1/models.

Fragen

Weitere Clients