چگونه سیستم‌های یادگیری ماشین ما را غافلگیر می‌کنند

این صفحه گسترده از عملکرد سیستم‌های یادگیری ماشین که توسط پژوهشگری به‌نام ویکتوریا کراکنا درست شده است شامل رویدادهای شگفت‌انگیزی از نحوه‌ی «تفکر» ماشین‌ها است.

در ویدیوی زیر یک الگوریتم یادگیری ماشین فهمیده است که می‌تواند بهترین امتیازها را نه با شرکت کردن در مسابقه با قایق‌ها، بلکه با چرخیدن به اطراف کسب کند. در یک شبیه‌سازی دیگر که زنده ماندن نیاز به انرژی داشت ولی به دنیا آوردن هزینه‌‌ای نداشت، یک گونه توانست زندگی ماندگاری را شکل دهد که بیشتر شامل جفت‌گیری بود؛ برای اینکه بچه‌های جدید خورده شوند (یا به‌عنوان جفت برای تولید بچه‌های جدید قابل خوردن استفاده شوند). این مسئله را کراکنا «آدمخوارهای تنبل» می‌نامد.

لینک دانلود

مشخص است که این ماشین‌ها به معنای واقعی کلمه فکر نمی‌کنند اما با توجه به پارامترهایی که به سیستم داده می‌شود و توانایی تکامل برای یافتن پاسخ، به نظر می‌رسد که این ربات‌ها پاسخ‌هایی خنده‌دار پیدا می‌کنند. در آزمایشی دیگر، یک ربات که باید بلوکی را حرکت می‌داد تا جای آن را روی میز عوض کند تصمیم گرفت برای رسیدن به هدف خود میز را حرکت دهد. رباتی خود را در انتهای مرحله یک کشت تا در مرحله دو نبازد. ماشین خودرانی که به خاطر سرعتش جایزه می‌گرفت تصمیم گرفت تا بی‌انتها به دور خود بچرخد. یک سیستم تشخیص سرطان نشان داد که تصاویر تومورهای بدخیم معمولا حاوی الگوهای خط‌کشی شکل هستند و در نتیجه تعداد زیادی تشخیص نادرست برگرداند.

هرکدام از این مثال‌ها نتایج ناخواسته اعتماد به ماشین‌ها برای یادگیری را نشان می‌دهند. آن‌ها یاد می‌گیرند اما گاهی ما را متعجب خواهند کرد. یادگیری ماشین درواقع نوعی یادگیری است که فقط توسط ماشین درک می‌شود.

مثال آخر، در بازی تتریس که در آن ربات نباید ببازد، به‌صورت نامتناهی بازی را متوقف می‌کند تا از باختن جلوگیری کند؛ و حالا فقط مانده است کج‌خلقی هم کند تا ما یک بچه سه‌ساله‌ی باهوش داشته باشیم.