آموزش کامل نصب LiteLLM Proxy روی سرور مجازی؛ ساخت API واحد برای OpenAI، Claude، Gemini و مدل‌های Local

🔹 در این مقاله یاد می‌گیرید:

🔹 LiteLLM Proxy چیست و چرا به آن نیاز دارید

🔹 پیش‌نیازهای سخت‌افزاری و انتخاب VPS مناسب

🔹 نصب گام‌به‌گام با Docker Compose

🔹 اتصال به OpenAI، Claude، Gemini و Ollama

🔹 مدیریت کلیدها و محدودیت مصرف

🔹 رفع خطاهای رایج

⚠️ نکته مهم: اگر قصد اتصال به مدل‌های Local دارید، حتماً از قبل فضای دیسک کافی برای دانلود مدل‌ها در نظر بگیرید. یک مدل 7B معمولاً ۴ تا ۵ گیگابایت فضا می‌گیرد.

ssh root@SERVER_IP
apt update && apt upgrade -y

apt install docker.io docker-compose-plugin -y
docker --version

mkdir /opt/litellm && cd /opt/litellm

nano docker-compose.yml

version: "3.9"
services:
  litellm:
    image: ghcr.io/berriai/litellm:v1.97.0
    ports:
      - "4000:4000"
    volumes:
      - ./config.yaml:/app/config.yaml
    env_file:
      - .env
    command: ["--config", "/app/config.yaml"]
    restart: always

nano config.yaml

model_list:
  - model_name: gpt
    litellm_params:
      model: openai/gpt-4o
      api_key: os.environ/OPENAI_API_KEY

  - model_name: claude
    litellm_params:
      model: anthropic/claude-3-5-sonnet-20241022
      api_key: os.environ/ANTHROPIC_API_KEY

  - model_name: gemini
    litellm_params:
      model: gemini/gemini-2.0-flash
      api_key: os.environ/GEMINI_API_KEY

general_settings:
  master_key: os.environ/LITELLM_MASTER_KEY

nano .env

OPENAI_API_KEY=sk-your-openai-key
ANTHROPIC_API_KEY=sk-ant-your-claude-key
GEMINI_API_KEY=AIza-your-google-key
LITELLM_MASTER_KEY=sk-your-secret-master-key

⚠️ هشدار امنیتی: هرگز فایل .env را در Git commit نکنید. این فایل شامل کلیدهای حساس شماست.

docker compose up -d
docker ps

curl http://localhost:4000/models \
  -H "Authorization: Bearer sk-your-secret-master-key"

curl http://localhost:4000/v1/chat/completions \
  -H "Authorization: Bearer sk-your-secret-master-key" \
  -H "Content-Type: application/json" \
  -d '{"model": "claude", "messages": [{"role": "user", "content": "سلام"}]}'

🚀 زیرساخت هوش مصنوعی‌تان را روی سرور مجازی ایرانیکاسرور بالا بیاورید

LiteLLM به تنهایی سبک است، اما وقتی پای مدل‌های لوکال، Ollama یا vLLM به میان می‌آید، منابع اختصاصی CPU و RAM تفاوت را در سرعت پاسخ‌دهی ایجاد می‌کند. سرورهای مجازی ایرانیکاسرور با دیسک NVMe، پهنای باند پایدار و آپ‌تایم ۹۹.۹٪ بستر مناسبی برای اجرای AI Gateway شما فراهم می‌کنند .

📞 تماس با پشتیبانی: 021-91302460 | ایرانیکاسرور

curl https://ollama.ai/install.sh | sh
ollama run llama3

  - model_name: llama-local
    litellm_params:
      model: ollama/llama3
      api_base: http://localhost:11434

  - model_name: local-gpu
    litellm_params:
      model: openai/your-model-name
      api_base: http://localhost:8000/v1

curl http://localhost:4000/key/generate \
  -H "Authorization: Bearer sk-your-master-key" \
  -H "Content-Type: application/json" \
  -d '{"models": ["claude"], "max_budget": 50, "budget_duration": "30d"}'

server {
    listen 443 ssl;
    server_name ai.yourdomain.com;

    location / {
        proxy_pass http://localhost:4000;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
    }
}

کانتینر اجرا نمی‌شود

لاگ را بررسی کنید:

docker logs litellm

دلایل رایج: خطای سینتکس در config.yaml، API Key اشتباه، یا کمبود RAM.

خطای Invalid API Key

مقدار کلیدها را در .env دوباره چک کنید و سرویس را ری‌استارت کنید: docker compose restart

مدل Local پاسخ نمی‌دهد

اتصال Ollama را تست کنید: curl localhost:11434. اگر پاسخ نداد، سرویس Ollama در حال اجرا نیست.

Timeout در درخواست‌ها

معمولاً به دلیل منابع کم سرور یا کندی شبکه است. request_timeout را در تنظیمات افزایش دهید یا منابع VPS را ارتقا دهید .

مشکل دیتابیس در راه‌اندازی

اگر PostgreSQL اضافه کرده‌اید و کانتینر LiteLLM به دیتابیس وصل نمی‌شود، حتماً healthcheck و depends_on را در Compose تنظیم کنید .

🔧 در راه‌اندازی LiteLLM یا هر سرویس دیگر روی VPS به مشکل خوردید؟

تیم پشتیبانی ایرانیکاسرور آماده کمک به شماست. از کانفیگ اولیه سرور تا رفع خطاهای Docker و شبکه، می‌توانید درخواست خود را ثبت کنید.

📞 تماس با پشتیبانی: 021-91302460 | ایرانیکاسرور

from openai import OpenAI

client = OpenAI(
    api_key="sk-your-virtual-key",
    base_url="http://SERVER_IP:4000"
)

response = client.chat.completions.create(
    model="claude",
    messages=[{"role": "user", "content": "Explain VPS"}]
)
print(response.choices[0].message.content)

📌 جمع‌بندی

LiteLLM Proxy یک راهکار بالغ و سبک برای یکپارچه‌سازی دسترسی به مدل‌های هوش مصنوعی است. با نصب آن روی یک سرور مجازی مناسب، به جای مدیریت چندین API جداگانه، یک endpoint واحد با کنترل کامل روی هزینه، دسترسی و routing خواهید داشت. برای پروژه‌های شخصی، تیم‌های توسعه و حتی سرویس‌های سازمانی، این Gateway می‌تواند اولین قطعه زیرساخت AI شما باشد.

📌 لینک‌های مرتبط ایرانیکاسرور

🔹 محصولات سرور مجازی

🔹 خرید سرور مجازی ایران

🔹 کانفیگ و رفع مشکل

🔹 تماس با ما