اجرای vLLM روی چند GPU؛ آموزش Tensor Parallel و رفع خطاهای NCCL بین سرورها
فرض کنید یک مدل زبانی بزرگ را روی سرور GPU اجرا می‌کنید، اما حافظه یک کارت گرافیک برای بارگذاری آن کافی نیست.…
آموزشی
دسته آموزشی
آموزشی
مجموعه آموزش‌ها و راهنماهای مرتبط با این موضوع را در این صفحه دنبال کنید.
آموزش‌های این بخش
402 مطلبمقالات منتشرشده
آموزشی
رفع خطای CUDA Out of Memory در vLLM؛ آموزش عیب‌یابی و کاهش مصرف GPU Memory
اگر هنگام اجرای یک مدل زبانی با vLLM با پیام CUDA out of memory مواجه شده‌اید، احتمالاً اولین راه‌حلی که پیدا می‌کنید…
آموزشی
vLLM چیست؟ آموزش ساخت API مدل زبانی روی سرور GPU با vLLM Server
اگر بخواهید یک مدل هوش مصنوعی متن‌باز را روی سرور خود اجرا کنید و از طریق وب‌سایت، نرم‌افزار یا Agent به آن…
آموزشی
ساخت AI Server Monitoring Agent؛ مانیتورینگ هوشمند سرور و پیشنهاد رفع خطا بدون اجرای خطرناک
فرض کنید یک سرور مجازی دارید که وب‌سایت، دیتابیس یا سرور بازی روی آن اجرا می‌شود. ساعت سه بامداد مصرف CPU افزایش…
آموزشی
ساخت AI Log Analyzer برای سرور؛ تشخیص خطا با هوش مصنوعی بدون Root Access
فرض کنید یک سرور مجازی دارید که وب‌سایت، دیتابیس یا سرویس بازی روی آن اجرا می‌شود. ناگهان کاربران از کندی، خطای 502…
آموزشی
ساخت AI Support Agent؛ آموزش پاسخ‌گویی هوشمند با بررسی پاسخ قبل از ارسال
فرض کنید یک مشتری از پشتیبانی شرکت هاستینگ می‌پرسد: «چرا سرور مجازی من قطع شده و چه زمانی وصل می‌شود؟» یک Agent…
آموزشی
حافظه Agent هوش مصنوعی؛ آموزش جداسازی Short-Term و Long-Term Memory
فرض کنید یک Agent هوش مصنوعی برای پاسخ‌گویی به مشتریان یا مدیریت سرویس‌های یک شرکت هاستینگ ساخته‌اید. کاربر در اولین گفتگو می‌گوید:…
آموزشی
آموزش LangGraph روی VPS؛ ساخت AI Agent مقاوم در برابر Crash با Checkpoint
فرض کنید یک Agent هوش مصنوعی ساخته‌اید که باید اطلاعات یک سرور را بخواند، گزارش فنی تهیه کند، منتظر تأیید مدیر بماند…
آموزشی
ساخت تیم چند Agent با AutoGen؛ چه زمانی Multi-Agent بهتر از یک Agent است؟
فرض کنید می‌خواهید یک دستیار هوش مصنوعی بسازید که وضعیت سرورهای شما را بررسی کند، مشکلات احتمالی را تحلیل کند و در…
آموزشی
ساخت Human-in-the-Loop برای AI Agent؛ اجرای عملیات حساس فقط با تأیید انسان
تصور کنید یک Agent هوش مصنوعی به پنل مدیریت سرور متصل است و می‌تواند وضعیت سرویس‌ها را بررسی کند، گزارش تهیه کند…
آموزشی
Agent هوش مصنوعی دائمی؛ آموزش حفظ State و ادامه کار بعد از Restart سرور
فرض کنید یک Agent هوش مصنوعی ساخته‌اید که هر روز اطلاعات سرویس‌های شما را بررسی می‌کند، گزارش تهیه می‌کند و پس از…
آموزشی
ساخت AI Agent با قابلیت Computer Use؛ آموزش کنترل مرورگر روی VPS
فرض کنید می‌خواهید یک دستیار هوش مصنوعی بسازید که بتواند مانند یک کاربر واقعی وارد محیط مرورگر شود، صفحات وب را مشاهده…