غوغای انویدیا با Chat with RTX؛ چت‌بات هوش مصنوعی بی‌نیاز از اینترنت

انویدیا نسخه‌ی آزمایشی Chat With RTX را منتشر کرده است که به کاربران امکان می‌دهد چت‌بات هوش مصنوعی شخصی‌شده‌ی خودشان را روی کامپیوتر اجرا کنند.

می‌توانید ویدئوها و اسناد خود را به ابزار هوش مصنوعی انویدیا بدهید و خلاصه‌های آن‌ها یا پاسخ‌های مرتبط با درخواست‌های خودتان را دریافت کنید. همه‌چیز به‌صورت محلی روی کامپیوتر اجرا می‌شود. برای دسترسی به هوش مصنوعی Chat With RTX به کارت گرافیک انویدیا سری RTX 30 یا RTX 40 با حداقل ۸ گیگابایت حافظه‌ی گرافیکی نیاز خواهید داشت.

ابزار چت با RTX می‌تواند ویدئوهای یوتیوب را پردازش کند؛ بنابراین، به‌سادگی آدرس ویدئو را وارد می‌کنید و این ابزار به شما امکان می‌دهد تا موضوع خاصی را در محتوای ویدئو جست‌وجو کنید یا از آن بخواهید کل ویدیو را برای شما خلاصه کند.

نرم‌افزار هوشمند انویدیا در مرحله‌ی آزمایشی قرار دارد و ممکن است خطاهای متعددی در آن پیدا شود؛ از‌جمله تجربه‌ی یکی از کاربران که سعی کرده بود از‌طریق زیرنویس یکی از ویدئوهای یوتیوب به‌دنبال مطلب مدنظر خود بگردد؛ اما Chat With RTX متن کاملاً متفاوتی را دانلود کرده بود.

چت‌بات Chat with RTX برای جست‌وجوی اسناد محلی داخل کامپیوتر به‌خوبی کار می‌کند. کاربر می‌تواند موضوع مدنظر خود را در محتوای فایل‌های متنی و حتی ویدئویی جست‌وجو و دسته‌بندی کند و از چت‌بات بخواهد بر‌اساس داده‌هایی که پیدا کرده است، متن خلاصه‌شده‌ای را ارائه دهد.

تجربه‌ی اولیه‌ی کاربران نشان می‌دهد که ابزار هوش مصنوعی تیم سبز می‌تواند با دقت زیاد و تأخیر بسیار کمی برای جست‌و‌جو در میان فایل‌های PDF نیز استفاده شود. درحالی‌که دستیار هوشمند کوپایلت مایکروسافت از کیفیت مطلوبی در برخورد با این نوع فایل‌ها برخوردار نیست.

یکی از ضعف‌های بزرگ نرم‌افزار Chat with RTX این است که ازنظر رابط کاربری واقعاً احساس می‌شود که در حد نمونه‌ای اولیه است. این نرم‌افزار درواقع وب‌سرور و برنامه‌ی پایتون را روی کامپیوتر نصب و از مدل‌های Mistral یا Llama 2 برای تحلیل درخواست‌هایی استفاده می‌کند که به آن داده می‌شود. سپس به‌کمک هسته‌های تنسور موجود در کارت گرافیک RTX، به‌کل فرایند سرعت می‌بخشد.

حجم نرم‌افزار Chat with RTX تقریباً ۴۰ گیگابایت است و برنامه‌ی پایتون حدود ۳ گیگابایت از رم را اشغال می‌کند. بعد از اجرا، ازطریق مرورگر به نرم‌افزار دسترسی پیدا می‌کنید؛ در‌حالی‌که Command Prompt در پس‌زمینه اجرا می‌شود و اطلاعات در حال پردازش و هر کد خطا را نمایش می‌دهد.

یکی از ویژگی‌های چت‌بات هوشمند انویدیا این است که گفت‌وگوهای قبلی را به‌خاطر نمی‌سپارد؛ بنابراین، سؤالات جدید نمی‌توانند بر‌اساس درخواست‌های قبلی مطرح شوند.

نرم‌افزار چت با RTX انویدیا دموی خوبی از آن چیزی را به‌نمایش می‌گذارد که چت‌بات هوش مصنوعی می‌تواند در آینده به‌صورت محلی با کامپیوترهای ما انجام دهد؛ به‌ویژه اینکه لازم نیست برای تحلیل فایل‌های شخصی‌ از کوپایلت پرو یا ChatGPT Plus اشتراک بخریم.