convez.ai
AgenteIntegração & APIsIntermediário
acidvegas

LiteLLM Loader

acidvegas/litellm-loader

Carrega todos os modelos de IA em uma config unificada LiteLLM

Ver no GitHub
InicialPluginScore · de 0 a 100

Agent que carrega dinamicamente modelos de todos os principais provedores de IA (Anthropic, OpenAI, Gemini, xAI, Perplexity, ElevenLabs, Ollama, vLLM) em uma única configuração LiteLLM. Automatiza a descoberta e integração de modelos, eliminando a necessidade de configuração manual.

Instalação

$npx convez-ai acidvegas/litellm-loader

1 comando no terminal: detecta o formato do repositório (marketplace ou plugin avulso) e instala via Claude Code. Requer Node 18+ e o Claude Code instalado.

Métricas

Estrelas
1
Forks
0
Acompanhando
0
Saúde
71%
Último commit
há 9 meses
Versão
—
Issues abertas
0
Contribuidores
1

Casos de uso

  • Centralizar acesso a múltiplos provedores de modelos de IA
  • Sincronizar automaticamente novos modelos disponibilizados pelos provedores
  • Facilitar switching entre modelos sem reconfiguração manual
  • Ambiente de desenvolvimento e teste com acesso a vários LLMs

Veredito

Solução prática para quem trabalha com múltiplos provedores de IA e quer evitar configurações manuais repetitivas. Bem estruturado, suporta os principais players do mercado e oferece CLI intuitiva com modo debug útil.

README

A tradução para o português deste README ainda está na fila.

LiteLLM Config Generator

Automatically fetches available models from multiple AI providers and generates a LiteLLM config file.

Supported Providers

  • Anthropic
  • OpenAI
  • Gemini
  • xAI
  • Perplexity
  • ElevenLabs
  • Ollama
  • vLLM

Setup

pip install -r requirements.txt

Create a .env file with your API keys:

ANTHROPIC_API_KEY=your_key
OPENAI_API_KEY=your_key
GEMINI_API_KEY=your_key
XAI_API_KEY=your_key
PERPLEXITYAI_API_KEY=your_key
ELEVEN_LABS_API_KEY=your_key
OLLAMA_API_BASE=http://localhost:11434
HOSTED_VLLM_API_BASE=http://localhost:8000

Usage

# Fetch all models and start LiteLLM
python run_litellm.py

# Fetch specific provider(s) only
python run_litellm.py -p openai anthropic

# List supported providers
python run_litellm.py -l

# Debug mode
python run_litellm.py -d

LiteLLM will start on port 4000.

Ver o original no GitHub

Bom para

Relacionados