بازیکنی خلاق با پرت‌کردن حواس هوش مصنوعی، آن را در بازی Go شکست داد
فایننشال‌تایمز گزارش داده است کلین پلرین، یکی از بازیکنان بازی Go، با سوءاستفاده از ضعف شناسایی‌شده در سیستم هوش مصنوعی KataGo، موفق شد آن را شکست دهد. از سال ۲۰۱۹ که AlphaGo حتی قدرتمندترین انسان‌ها را در بازی Go شکست داد، این اولین‌بار است که شاهد پیروزی انسان بر هوش مصنوعی هستیم. این موضوع نشان می‌دهد حتی پیشرفته‌ترین سیستم‌های مبتنی‌بر هوش مصنوعی نیز می‌توانند همچنان ضعف‌هایی داشته باشند.
پیروزی پلرین با کمک شرکت تحقیقاتی FAR AI محقق شد. این شرکت برنامه‌ای را برای بررسی ضعف‌های KataGo توسعه داد و پس از انجام‌دادن بیش از یک‌میلیون بازی شبیه‌سازی‌شده موفق شد باگی را کشف کند که حتی بازیکنان تازه‌کار می‌توانند از آن بهره ببرند. پلرین می‌گوید:
استفاده از برنامه‌ی FAR AI برای بهرده‌برداری از نقص سیستم هوش مصنوعی کار خیلی سختی نیست.- کلین پلرین
پلرین درواقع از روشی مشابه با راهکار استفاده‌شده برای شکست هوش مصنوعی Leela Zero بهره گرفت. او با اشاره به آسان‌بودن تشخیص استراتژی شکست‌دادن هوش مصنوعی، توضیحاتی درباره‌ی آن ارائه داد:
هدف این است حلقه‌ی بزرگی از سنگ‌ها ایجاد کنید تا گروه حریف محاصره شوند و سپس با انجام حرکات در بخش‌های دیگر صفحه، حواس کامپیوتر را پرت کنید. حتی زمانی‌که گروه تقریباً در حالت محاصره باشد، کامپیوتر متوجه استراتژی کاربر نخواهد شد.- پلرین
همان‌طور‌که انگجت اشاره می‌کند، نقص موجود در KataGo نشان می‌دهد سیستم‌های هوش مصنوعی درحال‌حاضر واقعاً نمی‌توانند فراتر از آموزش‌های خود عمل کنند؛ بنابراین، اغلب کارهایی که انجام می‌دهند، برای انسان‌ها عجیب و غیر‌منتظره و گاهی احمقانه به‌نظر می‌رسند.
ما مواردی مشابهی را در بینگ جدید مایکروسافت مشاهده کردیم. به‌عنوان مثال، این چت‌بات بارها اطلاعات را اشتباه نمایش داد یا گاهی برخی کاربران را تهدید کرد. این اشکالات احتمالاً به‌دلیل مدل‌هایی است که هوش مصنوعی مایکروسافت براساس آن‌ها آموزش دیده است.
لایت وکتور، توسعه‌دهنده‌ی KataGo، قطعاً از مشکلی که بازیکنان در چند ماه گذشته از آن سوءاستفاده کرده‌اند، آگاه است. وکتور با انتشار پستی در گیت‌هاب اعلام کرد در حال کار روی اصلاحیه‌ای است که باگ مذکور را از سیستم هوش مصنوعی آن حذف می‌کند.