مایکروسافت: ابزار ایمنی هوش مصنوعی ما هم خطاها را تشخیص می‌دهد، هم آن‌ها را اصلاح می‌کند [تماشا کنید]

مایکروسافت در راستای تلاش برای مبارزه با خطاهای هوش مصنوعی، ویژگی جدیدی به نام Correction معرفی کرد. مشتریانی که از Microsoft Azure برای تقویت سیستم‌های هوش مصنوعی خود استفاده می‌کنند، اکنون می‌توانند از این قابلیت برای تشخیص خودکار و بازنویسی محتوای نادرست هوش مصنوعی استفاده کنند.

ویژگی Correction به‌عنوان بخشی از نسخه‌ی پیش‌نمایش Azure AI Studio دردسترس قرار می‌گیرد؛ مجموعه‌ای از ابزارهای ایمنی که برای تشخیص آسیب‌پذیری‌ها، یافتن «توهمات هوش مصنوعی» و مسدودکردن درخواست‌های مخرب طراحی شده است. پس‌از فعال‌سازی، سیستم Correction با مقایسه‌ی خروجی هوش مصنوعی با داده‌های اصلی، نادرستی‌ها را شناسایی و اصلاح می‌کند.

قابلیت Correction اشتباه هوش مصنوعی را برجسته می‌کند و اطلاعاتی درباره‌ی اینکه چرا نادرست است، ارائه می‌دهد.

پلتفرم ابری Vertex AI گوگل که به‌منظور توسعه‌ی سیستم‌های هوش مصنوعی توسط شرکت‌ها طراحی شده است، ابزار مشابهی دارد که خروجی‌های مدل‌های هوش مصنوعی را با جست‌وجوی گوگل، داده‌های داخلی شرکت و دیتاست‌های متفرقه مقایسه می‌کند.

سخنگوی مایکروسافت در بیانیه‌ای به تک‌کرانچ گفت که سیستم Correction با بهره‌گیری از «مدل‌های زبانی کوچک و بزرگ و مقایسه‌ی خروجی هوش مصنوعی با اسناد مرجع»، تلاش می‌کند تا پاسخ‌ها را دقیق‌تر کند؛ اما این سیستم نیز از خطا مصون نیست.

مایکروسافت تأکید می‌کند که Correction اگرچه به بهبود تطابق پاسخ‌های هوش مصنوعی با اطلاعات موجود کمک می‌کند؛ اما نمی‌تواند تضمین‌کننده‌ی «دقت مطلق» باشد.