اپلیکیشن LLM Studio برای ویندوز آرم منتشر شد؛ اجرای مدل‌های زبانی روی لپ‌تاپ‌های اسنپدراگون

اپلیکیشن LM Studio، پلتفرمی محبوب برای اجرای محلیِ مدل‌های زبانی بزرگ (LLM-ها) روی کامپیوتر، برای ویندوز آرم منتشر شد؛ بدین ترتیب اجرای مدل‌های زبانی روی لپ‌تاپ‌های اسنپدراگون هم ممکن می‌شود.

به گزارش XDA-Developers، نسخه‌ی مخصوص LM Studio برای لپ‌تاپ‌های مجهز به تراشه‌ی اسنپدراگون ایکس الیت، درحال حاضر تنها امکان اجرای مدل‌های زبانی با استفاده از سی‌پی‌یو این دستگاه‌ها را دارد و پشتیبانی از واحد پردازش عصبی (NPU) تراشه‌ی اسنپدراگون، در به‌روزرسانی‌های آینده به آن افزوده خواهد شد.

توانایی‌های چشم‌گیر اسنپدراگون ایکس الیت در زمینه‌ی هوش مصنوعی، امکان اجرای محلیِ مدل‌های هوش مصنوعی با حداکثر ۱۳ میلیارد پارامتر را ممکن می‌کند؛ این یعنی طیف گسترده‌ای از مدل‌های زبانی بزرگ از جمله نسخه‌هایی از Llama 3 و WizardLM را می‌توان روی لپ‌تاپ‌های مجهز به تراشه‌ی یاد شده اجرا کرد.

از جمله فواید اجرای محلی مدل‌های زبانی بزرگ با بهره‌گیری از ابزار‌هایی مانند LM Studio، اطمینان از حفظ حریم خصوصی و هم‌چنین از بین رفتن نیاز به پرداخت اشتراک ماهانه برای چت‌بات‌های معروفی مانند ChatGPT و جمنای از گوگل است. از طرفی، مدل‌های اجرای شده روی LM Studio، بر خلاف چت‌بات‌های تجاری یاد شده که گاهی به دلایل مختلف از ایجاد پاسخ خودداری می‌کنند، قادر به تولید تمامی خروجی‌های دلخواه کاربر هستند.

نسخه‌ی منتشر شده‌ی LM Studio برای اسنپدراگون را می‌توانید مستقیماً از صفحه‌ی مربوطه در وب‌سایت LM Studio دانلود کنید؛ به‌خاطر داشته باشید که نسخه‌ی فعلی نهایی نیست و ممکن است با باگ‌ها و دیگر مشکلات روبه‌رو شوید.