مارک زاکربرگ: نباید نگران تسلط هوش مصنوعی بر انسان بود مگر اشتباهی در ساخت آن رخ دهد
یکی از نگرانی‌ها یا به تعبیر بهتر هراس‌های بسیار شایع و همه‌گیر در مورد آینده، دورنمای رشد و تکامل هوش مصنوعی و احتمال از دست دادن کنترل آن توسط انسان و حتی انقلاب ماشین‌های هوشمند علیه بشریت است. به گمان بسیاری از رهبران دنیای فناوری، اگر روزی پیشرفت هوش مصنوعی به تقابل آن با انسان یا به تعبیری «رستاخیز ماشین‌ها» منتهی شود، برتری از آن ماشین خواهد بود. پیشگامان صنعت و فناوری، از ایلان ماسک گرفته تا رید هافمن، با سرمایه‌گذاری در پروژه‌ی پیشگیرانه‌ی Y Combinator سعی در جلوگیری از این اتفاق دارند.
ولی با توجه به گفتگوی مارک زاکربرگ با ماتیاس دافنر، مدیرعامل شرکت رسانه‌ای اکسل اسپرینگر به نظر می‌رسد مدیرعامل جوان فیس‌بوک در این نگرانی سهیم نیست و واکنش ایلان ماسک را ناشی از تمرکز بیش‌ازحد به جنبه‌های منفی و شاید دراماتیک این پیش‌بینی می‌داند.
به عقیده‌ی زاکربرگ، ماشین‌ها تنها در صورتی قادر به غلبه و کنترل انسان خواهند بود که برای این منظور برنامه‌ریزی شوند. به‌عنوان‌مثال کامپیوترهایی که انسان را در بازی شطرنج شکست می‌دهند، برای هوشمند بودن طراحی می‌شوند و انجام این بازی برای آن‌ها مهارتی یادگرفتنی نیست. او می‌گوید:
من فکر می‌کنم که قابلیت پیش‌فرض همه‌ی ماشین‌هایی که ما می‌سازیم، صرفا خدمت به انسان است و اگر خودمان مرتکب اشتباهی در ساخت آن‌ها نشویم، این اصل تغییری نخواهد کرد.
در ادامه به گفتگوی مارک زاکربرگ با ماتیاس دافنر در مورد رستاخیز روبات‌ها و ماشین‌ها و دلایل اینکه چرا آینده‌ی هوش مصنوعی لزوما وحشت‌آور نیست، می‌پردازیم:
- ماتیاس دافتر: هوش مصنوعی چگونه می‌تواند اجتماع را تغییر دهد؟
- مارک زاکربرگ: از دیدگاه من، یادگیری انسان به دو شکل انجام می‌شود، یادگیری تحت نظارت و یادگیری بدون نظارت. یادگیری تحت نظارت را می‌توان به نحوه‌ای که شما آموختنی‌های یک کتاب مصور کودکانه را با اشاره به تک‌تک تصاویر و تکرار نام آن‌ها برای فرزند خردسالتان توضیح می‌دهید، تشبیه کرد. با تکرار این کار سرانجام کودک در ذهن خود بین تصاویر و نام‌ها ارتباط مستقیم برقرار می‌کند و با دیدن هرکدام از تصاویر نام آن را خواهد گفت یا بالعکس، این روش که در واقع همان توانایی تشخیص الگو محسوب می‌شود، روشی است که امروزه آموزش و مهارت‌های ما بر آن تکیه دارد.
یادگیری بدون نظارت، روشی است که در آینده بیشتر مردم از آن برای یادگیری استفاده خواهد کرد. در این روش هر کس با توجه به دیدگاهی که از عملکرد فعلی محیط اطراف در ذهن خود دارد و تعمیم آن به مسائل ناشناخته و جدید، اتفاقات آینده را پیش‌بینی می‌کند. استفاده از این پیش‌بینی و پیش‌آگاهی استنتاجی، تعیین‌کننده‌ی نوع عملکرد انسان و الگویی برای آینده است. در این الگو استدلال شما این‌گونه خواهد بود: «من تصمیم به انجام این کار دارم و با توجه به شناخت من از محیط اطراف و نتیجه‌گیری منطقی، بازخورد آن این‌گونه خواهد بود». در آینده هوش مصنوعی با کمک به افزایش شناخت از محیط اطراف، بالا بردن دقت نتیجه‌گیری منطقی و ارائه‌ی الگوهایی با ضریب اطمینان بیشتر، یادگیری بدون نظارت را تسهیل خواهد کرد.
- دافنر: آیا شما نگرانی‌های ایلان ماسک به‌عنوان یک چهره‌ی متنفذ در دنیای فناوری را برای آینده‌ی هوش مصنوعی درک می‌کنید؟ او به‌صورت جدی نگران رستاخیز هوش مصنوعی در آینده و استیلای آن بر هوش انسان است و برتری ماشین بر انسان را امکان‌پذیر و حتی اجتناب‌ناپذیر می‌داند. به نظر شما این یک هراس منطقی است یا واکنشی هیستریک؟
- زاکربرگ: به نظر من این واکنش بیشتر هیستریک است تا منطقی.
- دافنر: چطور می‌توانیم مطمئن شویم که هوش مصنوعی همیشه در خدمت انسان باقی بماند؟
- زاکربرگ: من فکر می‌کنم که توانایی پیش‌فرض همه‌ی ماشین‌هایی که ما می‌سازیم، صرفا خدمت به انسان است و اگر خودمان مرتکب اشتباهی در ساخت آن‌ها نشویم، این اصل تغییری نخواهد کرد.
- دافنر: ولی بیگ بلو (هوش مصنوعی شطرنج‌باز آی‌بی‌ام) گری کاسپارف را در شطرنج شکست داد؛ بنابراین دور از انتظار نیست اگر در موقعیت‌های دیگر نیز کامپیوتر هوشمندانه‌تر از انسان عمل کند.
- زاکربرگ: بله ولی مطمئنا در چنین شرایطی سازنده‌ی این کامپیوتر، طوری آن را طراحی کرده است که از انسان هوشمندتر باشد. در طول تاریخ بارها ماشین‌هایی طراحی شده‌اند که فعالیت مشخصی را بسیار بهتر از انسان انجام می‌دهند. به عقیده‌ی من همین مسئله باعث دست بالا گرفتن توانایی‌های هوش مصنوعی توسط مردم شده است.
- دافنر: بنابراین رستاخیز ماشین‌ها فقط یک فانتزی در ادبیات علمی تخیلی است و هراس از تحقق آن در دنیای واقعی و به خطر افتادن امنیت هوش انسان بی‌مورد است؟
- زاکربرگ: به نظر من در مسیر رساندن هوش مصنوعی به کارایی و قدرت نگران‌کننده، مطمئنا راه‌های مهار این قدرت را نیز پیدا خواهیم کرد. طرح سناریوهایی این‌چنینی پیش‌بینی شخصی در اوایل قرن ۱۸ را به خاطر می‌آورد که در مجامع مختلف علمی می‌گفت: «شاید انسان در آینده وسیله‌ی پرواز را اختراع کند ولی به‌احتمال‌زیاد این وسیله سقوط خواهد کرد». باوجود همه‌ی این پیش‌بینی‌ها، انسان ابتدا هواپیما را اختراع کرد و بعد مشکلات مربوط به امنیت استفاده از آن یک‌به‌یک برطرف شدند. اگر انسان توجه به موانع امنیتی پرواز را در اولویت قرار می‌داد، هواپیما هیچ‌وقت اختراع نمی‌شد.
شاید بتوان تفکر محتاطانه و توأم با ترس را مانع واقعی پیشرفت دانست. به‌عنوان‌مثال خودروهای بدون راننده با هدف به حداقل رساندن آمار تصادفات در حال توسعه هستند و به‌این‌ترتیب هوش مصنوعی در آینده نزدیک بزرگ‌ترین عامل مرگ غیرطبیعی انسان را از بین خواهد برد یا تجهیزات پزشکی مجهز به هوش مصنوعی، تشخیص و درمان بیماری‌ها را به‌مراتب آسان‌تر خواهند کرد. به‌این‌ترتیب برای کسی که می‌خواهد دنیا را به مکان بهتری تبدیل کند، ممانعت از پیشرفت هوش مصنوعی و مبارزه با آن، احتمالا یکی از بدترین رویکردهای ممکن است.
