Providers
LiteLLM
LiteLLM, 100+ model sağlayıcısına birleşik API sunan açık kaynaklı bir LLM Gateway’idir. Merkezi maliyet takibi, günlükleme ve OmeniaClaw yapılandırmanızı değiştirmeden arka uçlar arasında geçiş esnekliği elde etmek için OmeniaClaw’ı LiteLLM üzerinden yönlendirin.
Hızlı başlangıç
Başlangıç kurulumu (önerilir)
Şunun için en iyisi: çalışan bir LiteLLM kurulumuna en hızlı yol.
Başlangıç kurulumunu çalıştırın
OmeniaClaw onboard --auth-choice litellm-api-keyUzak bir proxy’ye karşı etkileşimsiz kurulum için proxy URL’sini açıkça iletin:
OmeniaClaw onboard --non-interactive --auth-choice litellm-api-key --litellm-api-key "$LITELLM_API_KEY" --custom-base-url "https://litellm.example/v1"Manuel kurulum
Şunun için en iyisi: kurulum ve yapılandırma üzerinde tam denetim.
LiteLLM Proxy’yi başlatın
pip install 'litellm[proxy]'litellm --model claude-opus-4-6OmeniaClaw’ı LiteLLM’e yönlendirin
export LITELLM_API_KEY="your-litellm-key" OmeniaClawHepsi bu. OmeniaClaw artık LiteLLM üzerinden yönlendirilir.
Yapılandırma
Ortam değişkenleri
export LITELLM_API_KEY="sk-litellm-key"Yapılandırma dosyası
{ models: { providers: { litellm: { baseUrl: "http://localhost:4000", apiKey: "${LITELLM_API_KEY}", api: "openai-completions", models: [ { id: "claude-opus-4-6", name: "Claude Opus 4.6", reasoning: true, input: ["text", "image"], contextWindow: 200000, maxTokens: 64000, }, { id: "gpt-4o", name: "GPT-4o", reasoning: false, input: ["text", "image"], contextWindow: 128000, maxTokens: 8192, }, ], }, }, }, agents: { defaults: { model: { primary: "litellm/claude-opus-4-6" }, }, },}Gelişmiş yapılandırma
Görsel üretimi
LiteLLM, OpenAI uyumlu /images/generations ve /images/edits rotaları üzerinden
image_generate aracını da destekleyebilir. agents.defaults.imageGenerationModel
altında bir LiteLLM görsel modeli yapılandırın:
{ models: { providers: { litellm: { baseUrl: "http://localhost:4000", apiKey: "${LITELLM_API_KEY}", }, }, }, agents: { defaults: { imageGenerationModel: { primary: "litellm/gpt-image-2", timeoutMs: 180_000, }, }, },}http://localhost:4000 gibi loopback LiteLLM URL’leri genel bir özel ağ
geçersiz kılması olmadan çalışır. LAN’da barındırılan bir proxy için
models.providers.litellm.request.allowPrivateNetwork: true ayarını yapın; çünkü API anahtarı
yapılandırılmış proxy ana makinesine gönderilecektir.
Sanal anahtarlar
OmeniaClaw için harcama limitleri olan özel bir anahtar oluşturun:
curl -X POST "http://localhost:4000/key/generate" \ -H "Authorization: Bearer $LITELLM_MASTER_KEY" \ -H "Content-Type: application/json" \ -d '{ "key_alias": "OmeniaClaw", "max_budget": 50.00, "budget_duration": "monthly" }'Üretilen anahtarı LITELLM_API_KEY olarak kullanın.
Model yönlendirme
LiteLLM, model isteklerini farklı arka uçlara yönlendirebilir. LiteLLM config.yaml dosyanızda yapılandırın:
model_list: - model_name: claude-opus-4-6 litellm_params: model: claude-opus-4-6 api_key: os.environ/ANTHROPIC_API_KEY - model_name: gpt-4o litellm_params: model: gpt-4o api_key: os.environ/OPENAI_API_KEYOmeniaClaw claude-opus-4-6 istemeye devam eder — yönlendirmeyi LiteLLM yönetir.
Kullanımı görüntüleme
LiteLLM’in panosunu veya API’sini kontrol edin:
# Key infocurl "http://localhost:4000/key/info" \ -H "Authorization: Bearer sk-litellm-key" # Spend logscurl "http://localhost:4000/spend/logs" \ -H "Authorization: Bearer $LITELLM_MASTER_KEY"Proxy davranışı notları
- LiteLLM varsayılan olarak
http://localhost:4000üzerinde çalışır - OmeniaClaw, LiteLLM’in proxy tarzı OpenAI uyumlu
/v1uç noktası üzerinden bağlanır - Yerel OpenAI’ye özel istek biçimlendirmesi LiteLLM üzerinden uygulanmaz:
service_tieryok, Responsesstoreyok, prompt cache ipuçları yok ve OpenAI reasoning uyumluluk yükü biçimlendirmesi yok - Gizli OmeniaClaw atıf başlıkları (
originator,version,User-Agent) özel LiteLLM temel URL’lerine eklenmez
