AnythingLLM с Claude, GPT и Gemini

Подключение в три поля

У AnythingLLM есть провайдер Generic OpenAI для любого OpenAI-совместимого endpoint. Направь его на avots.

Настройка

LLM Provider:         Generic OpenAI
Base URL:             https://api.avots.ai/openai/v1
API Key:              av_mcp_YOUR_KEY
Chat Model Name:      anthropic/claude-sonnet-4.6
Token context window: 200000
Max Tokens:           4096

У Generic OpenAI нет авто-обнаружения моделей, впиши точное Chat Model Name вручную. Задай Token context window и Max Tokens правильно, неверные значения тихо обрезают контекст или дают ошибку. Это настраивает только чат-LLM, эмбеддинги - отдельный провайдер.

Пример запроса

curl https://api.avots.ai/openai/v1/chat/completions \
  -H "Authorization: Bearer av_mcp_YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "anthropic/claude-sonnet-4.6",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Тот же ключ открывает и MCP-инструменты

Ключ av_mcp_ нужен не только для чата. avots работает ещё и как MCP-сервер, поэтому AnythingLLM может вызывать творческие инструменты avots, картинки, видео, музыку, говорящие аватары, на том же ключе и том же балансе.

Гайд по MCP →

Модели и цены

Укажи в поле model любой id ниже или «ленивое» имя (claude / gpt / gemini) - подставится разумная модель.

* Цена в ⚡ за 1 000 000 токенов, вход / выход (1000⚡ ≈ $1). Бесплатным моделям нужен положительный баланс. Полный список - GET /openai/v1/models.

Вопросы

Другие клиенты