بایگانی‌های vLLM - مرکز دانش ایرانیکاسرور

آموزشی 📅 9 مهر 1405

اجرای مدل‌های بینایی Qwen-VL روی سرور: راهنمای کامل پیاده‌سازی Vision Language Model در محیط عملیاتی

تا چند سال پیش، تصور اینکه یک ماشین بتواند تصویر ببیند، متن داخل آن را بخواند و درباره‌اش استدلال کند،...

آموزشی 📅 8 مهر 1405

اگر یک چت‌بات، AI Agent، سیستم RAG یا API هوش مصنوعی دارید، احتمالاً بخشی از درخواست‌های کاربران از نظر معنا...

آموزشی 📅 8 مهر 1405

تصور کنید یک AI Agent سازمانی دارید که روزانه هزاران درخواست دریافت می‌کند. هر درخواست شامل یک System Prompt بزرگ،...

آموزشی 📅 8 مهر 1405

اگر روی یک سرور GPU مدل زبانی بزرگ سرو می‌کنید، احتمالاً با این واقعیت روبه‌رو شده‌اید که با وجود VRAM...

آموزشی 📅 8 مهر 1405

اگر روی سرور خود یک مدل زبانی بزرگ مثل Llama 70B یا Qwen 32B اجرا می‌کنید، احتمالاً با این مشکل...

آموزشی 📅 8 مهر 1405

اجرای مدل‌های زبانی بزرگ روی سرور شخصی، یکی از جذاب‌ترین روش‌ها برای ساخت سرویس‌های AI خصوصی، چت‌بات، RAG و API...

آموزشی 📅 8 مهر 1405

تصور کنید یک سرور مجازی قدرتمند با یک کارت گرافیک حرفه‌ای اجاره کرده‌اید. همه‌چیز طبق محاسبات شما پیش می‌رود: حجم...

دسته‌بندی نشده 📅 6 مهر 1405

امروزه تیم‌های توسعه نرم‌افزار به‌شدت به ابزارهای هوش مصنوعی وابسته شده‌اند. از تولید کد و رفع خطا تا بررسی Pull...

آموزشی 📅 6 مهر 1405

اگر روی پروژه‌ای کار می‌کنید که چندین مدل هوش مصنوعی را همزمان صدا می‌زند — یکی GPT، یکی Claude، یکی...

آموزشی 📅 5 مهر 1405

اگر قصد راه‌اندازی سرور هوش مصنوعی شخصی یا سرویس API مبتنی بر LLM دارید، احتمالاً با دو نام آشنا روبرو...

آموزشی 📅 5 مهر 1405

اگر قصد دارید یک مدل زبانی بزرگ متن‌باز را روی سرور خودتان اجرا کنید و به‌جای وابستگی به APIهای خارجی،...