گفتگویی با کاسپارف در مورد هوش مصنوعی و تعامل آن با انسان (بخش اول)

گری کاسپارف، یکی از بزرگ‌ترین شطرنج‌بازان همه‌ی دوران است که بیشتر از هر چیزی به خاطر دو تقابل خود با سوپرکامپیوتر‌ دیپ بلوی کمپانی IBM معروف شده است.

کاسپارف نخستین بازی را در سال ۱۹۹۶ و با نتیجه‌ی ۴ بر ۲ بر کامپیوتر پیروز شد؛ اما بازی دوم را در سال ۱۹۹۷ با نتیجه‌ی ۳ و نیم به ۲ و نیم واگذار کرد. وی اخیرا کتابی با عنوان تفکر عمیق (Deep Thinking) در مورد تجربه‌های خود در دنیای شطرنج منتشر کرده است.

پایگاه بیزنس اینسایدر به‌تازگی گفتگویی با کاسپارف در مورد سوپرکامپیوتر دیپ بلو و افکار وی در مورد هوش مصنوعی داشته است. آن‌ها همچنین در مورد پیشرفت‌های ماشینی در طی ۲۰ سال اخیر صحبت کرده‌اند و کاسپارف در مورد دیدگاهش نسبت به تعامل هوش ماشینی و بشریت حرف زده است. در این گزارش به مصاحبه‌ی النا هولودنی با گری کاسپارف می‌پردازیم:

النا هولودنی: بزرگ‌ترین برداشت نادرستی که در مورد مفهوم هوش مصنوعی وجود دارد چیست؟

گری کاسپارف: هوش مصنوعی مفهومی است که کاملا با افسانه‌سرایی احاطه شده است. ما در مورد بیشتر مواردی که صحبت می‌کنیم، کاملا اتفاق نظر داریم و آن را کاملا می‌فهمیم. برای مثال وقتی که در مورد رنگ سفید حرف می‌زنیم، همه‌مان می‌دانیم که سفید به چه رنگی اطلاق می‌شود. یا وقتی که در مورد برخی از عناصر و المان‌های دنیای علوم کامپیوتر صحبت می‌کنیم، همه‌مان روی آن پدیده اتفاق نظر داریم و نیازی نیست که هر بار به معنی دقیق آن پدیده‌ی مورد بحث رجوع کنیم.

در مورد هوش مصنوعی داستان به گونه‌ی دیگری است؛ وقتی که حرف از هوش مصنوعی به میان می‌آید، شما باید زمان قابل توجهی صرف کنید تا فرد مقابلتان دقیقا متوجه شود که تعریف یا برداشت شخص شما از مفهوم هوش مصنوعی چه بوده است. این امر در واقع یکی از اهداف اصلی کتاب من بوده است تا تنها بتوانم باورهای غیر واقعی و افسانه‌پردازی در مورد هوش مصنوعی را از بین ببرم و بتوانم به‌طور واقع‌بینانه‌ای به مسئله نگاه کنم؛ بدون انتظارات آرمان‌گرایانه یا همین‌طور ترس‌های بی‌مورد.

همچنین ما خواسته‌ایم پی ببریم که طبیعت هوش انسانی دارای چه ماهیتی است. کاملا واضح است که من می‌توانم محدودیت‌های ذهنی خودم را درک کنم. اما مهم است که ما بتوانیم بفهمیم وقتی از هوش مصنوعی صحبت می‌شود، منظورمان چیست و اینکه چه انتظاراتی از آن داریم؟

یکی از بزرگ‌ترین مسئله‌هایی که در آغاز بحث مطرح می‌شود این است که آیا منظور شما از هوش به‌عنوان پدیده‌ای است که در نتیجه‌ی هوش مصنوعی به دست می‌آید؟ یا هوشی که در قالب یک فرایند معین به دست آمده است؟ حال اگر بخواهیم ازنقطه‌نظر باهوش بودن یا نبودن در مورد دیپ بلو نظر دهیم، به عقیده‌ی من باید آن را دارای هوش قلمداد کنیم؛ زیرا توانسته است بازی شطرنج را در بالاترین رده‌ی آن انجام دهد. از طرف دیگر اگر به آن به‌عنوان یک فرایند مشخص نگاه کنیم و اگر شما سعی کنید به جزییات ریز و پرشمار هوش بشری پی ببرید نیز می‌توانیم چنین توضیح دهیم که دیپ بلو دارای سرعت شگفت‌آور ۲۰۰ میلیون حرکت در ثانیه است؛ اما هیچ اطلاعات جدیدی برای شما ارائه نمی‌دهد و از این‌رو شاید چنین استدلال کنیم که هوش آن دقیقا به اندازه‌ی هوش ساعت زنگ‌دار قدیمی اتاقتان است.

و این معضل بزرگی است. بسیاری از افراد به‌سادگی نمی‌توانند این بحث را تشخیص و تمییز دهند و جدل بر سر آن همچنان ادامه دارد و می‌تواند افراد را به نتایجی بسیار متفاوت از همدیگر برساند. در حالت کلی اگر بخواهیم از برداشت نادرست از مفهوم هوش مصنوعی صحبت کنیم، نخستین برداشت نادرست این است که افراد نمی‌توانند به‌سادگی روی منظورشان از کلمه‌ی هوش مصنوعی و همچنین بررسی چرایی خوب یا بد بودن هوش مصنوعی برایشان در آینده به توافق برسند.

هولودنی: شما بین فرایند فکر کردن و نتیجه‌ی آن تمایز قائل می‌شوید. واضح است که کامپیوترها در انجام دادن محاسبه‌ها عملکرد خوبی دارند و از سویی انسان‌ها نیز در تفکر تحلیلی و دیدن الگوها دارای عملکرد بسیار خوبی هستند.

کاسپارف: ما برای ارزیابی حرکات و موقعیت‌ها روش‌های گوناگونی داریم. برای مثال، اگر شما سعی کنید در بازی شطرنج چیزی را بیش از حد ساده کنید، برای این هدف یک حرکت خاص وجود دارد و من باید انتخابم را انجام دهم. در واقع انتخابی که من می‌کنم تقریبا تنها شاید به میزان ۱ درصد بر پایه‌ی محاسبه باشد و به میزان ۹۹ درصد یا حتی بیشتر از آن، بر پایه‌ی درک به‌دست‌آمده از نگاه کردن به الگوها و استخراج اطلاعاتی از تجربه‌های قبلی من در بازی شطرنج خواهد بود.

با این حال عملکرد ماشین کاملا برعکس این حالت خواهد بود. عملکرد ماشین به مقدار ۹۹ درصد متکی بر محاسبه و شاید حدود ۱ درصد بر پایه‌ی ادراک خواهد بود؛ با این وجود میزان ادراک ماشین‌ها در حال افزایش است.

امروزه، برنامه‌های شطرنجی وجود دارند که عملکردشان بسیار بهتر و پخته‌تر از دیپ بلو است. می‌توان گفت اینک یک برنامه‌ی کاربردی شطرنج رایگان روی گوشی هوشمندتان از دیپ بلو بهتر و قوی‌تر است. بنابراین شاید دیگر نتوانیم برای عملکردهای فعلی از درصد ۱ به ۹۹ استفاده کنیم؛ ولی هنوز هم هسته‌ی اصلی تصمیم‌گیری یک ماشین همواره مبتنی بر محاسبه است.

از این‌رو ما باید توجه داشته باشیم که تمامی‌ آزمایش‌ها و تجربه‌های مرتبط با بازی‌ها در زمانی که یک طرف بازی انسان و طرف دیگرش یک ماشین باشد - فرقی نمی‌کند که آن بازی شطرنج یا Go یا هر بازی دیگری باشد - ماشین‌ها به حریف خود فائق خواهند آمد و دلیل آن‌هم لزوما به خاطر توانایی حل مسئله در آن‌ها نخواهد بود.

شطرنج از نظر ریاضی حل‌ نشدنی است. تعداد حرکت‌های مجاز در این بازی حدود ۱۰ به توان ۴۵ است؛ اما در پایان کار هیچ نیازی نیست که ماشین، بازی را به‌اصطلاح «حل» کند. ماشین باید بتواند بازی را برنده شود. برای بردن بازی هم فقط باید اشتباهاتش از حریف که در اینجا انسان‌ها هستند، کمتر باشد. این خیلی هدف دشواری نیست؛ زیر ما انسان‌ها معمولا از این جهت ضعف پذیر هستیم و پایداری و ثبات ما در انجام کارها همانند کامپیوتر نیست.

از طرفی شطرنج هم بر پایه‌ی آنچه ما پی برده‌ایم، می‌تواند با قوی‌تر شدن سخت‌افزار و فراهم شدن دیتابیس کافی و هوشمندتر شدن الگوریتم‌ها به میزان کافی، مورد تحلیل و پردازش قرار گیرد. اما دوباره تأکید می‌کنم که اگر از دیپ بلو تا آلفاگو هم پیشرفت کرده باشیم؛ با اینکه همه‌مان می‌دانیم که مورد دومی بسیار پیشرفته‌تر و استراتژیک‌تر و به باور من، بسیار نزدیک‌تر به انتظارات ما از هوش مصنوعی است؛ اما ما هنوز هم در جایگاهی هستیم که دلیل پیروز شدن ماشین‌ها بر انسان‌ها این است که انسان‌ها دچار اشتباه می‌شوند و ماشین‌ها کمتر اشتباه می‌کنند.

منظور از این گفته‌ها این نیست که ماشین‌ها بدون عیب و نقص هستند. برای نمونه با نگاه کردن به بازی‌هایی که ما در سال ۱۹۹۷ بازی کرده بودیم و با استفاده از کامپیوترهای مدرن، من به این نتیجه رسیدم که این فقط من نبودم که در بازی دچار اشتباه شده بودم؛ بلکه دیپ بلو هم مرتکب چند حرکت اشتباه در بازی شده بود، اشتباهاتی جدی که می‌توانستند بازی را از حالت مساوی به نتیجه‌ی باخت برای ماشین سوق دهند. من مطمئن هستم که با گذشت ۲۰ سال از آن زمان، ما ماشین‌های بسیار قوی‌تری در اختیار خواهیم داشت و شاید هم‌اینک با نگاه کردن به عملکرد آن‌ها پی ببریم که مواجهه با آن‌ها دیگر به آن سادگی‌ها نیست.

ما باید به‌سادگی این واقعیت را بپذیریم که روش تصمیم‌گیری ماشین‌ها با روش‌های ما تفاوت دارد و آن‌ها بیشتر به نتیجه نگاه می‌کنند. اگر ماشین‌ها همان نتایجی را توسعه می‌دهند که ما به دنبالش هستیم، پس می‌توان در مورد اینکه در چنین فرایندی تا چه میزان از درک و فهم انسانی استفاده شده‌ است، فکر کرد. از همین رو من باور دارم که نقش آینده‌ی بشریت نیز همین امر است؛ اینکه ما اطمینان حاصل کنیم ماشین‌ها از آن قوه‌ی عظیم محاسباتی و عاری از تحلیل و استدلال خودشان برای سود رساندن به ما و در راستای منافع ما استفاده کنند.

هولودنی: ارزش نسبی مهره‌های شطرنج می‌تواند در طول بازی تغییر کند؛ یا اینکه یک مهره‌ی ضعیف‌تر می‌تواند در موقعیت قوی‌تری نسبت به یک مهره‌ی برتر باشد. یک کامپیوتر در مورد این تغییرات چگونه فکر می‌کند؟

کاسپارف: ماشین به مسئله‌های روان‌شناختی از قبیل فدا کردن یک مهره‌ی قوی‌تر هیچ اهمیتی نمی‌دهد. به‌جای آن سعی می‌کند به بازگشت‌های فوری نگاه کند. بنابراین الگوریتم‌های هوشمند و سخت‌افزارهای بسیار سریع به ماشین اجازه می‌دهند که بتواند به‌دقت و به‌طور واقعی نتایج را ببیند.

آنچه شما اشاره کردید هنوز هم یکی از ضعیف‌ترین عناصر است؛ زیرا جبران‌ها و کمبودپوشی‌های بلندمدتی از قبیل فدا کردن برخی موارد برای سودهای استراتژیک بلندمدت، می‌توانند برای یک ماشین چالش‌برانگیز باشند، زیرا یک ماشین همواره باید نتایج و بازگشت‌های فوری را در نظر داشته باشد. اما در بیشتر موارد، چنین قربانی‌ کردن‌هایی هم در دسترس ماشین هستند. یعنی اگر ماشین ببیند که با انجام دادن یک حرکت، در ۴ یا ۵ حرکت بعدی می‌تواند نتیجه‌ و سود حاصل از آن را دریافت کند، در این صورت هیچ مشکلی برای انجام آن کار نخواهد داشت.

برای نمونه، از نقطه‌نظر یک ماشین، روش حل بسیار بسیار ساده است: شما باید مهره‌ی وزیر را فدا کنید. برای یک ماشین، این موضوع هیچ اهمیتی ندارد و بلادرنگ تنها این را در نظر می‌گیرد که با دو حرکت برنده خواهند بود و در واقع تنها روش برای بردن بازی را نیز همین می‌داند.

اما در همین حال برای یک انسان، از دست دادن وزیر به خاطر هیچ‌چیز (حتی برای یک حرکت) مورد قبول نیست و معمولا این حرکت را انجام نمی‌دهد. انسان‌ها به‌نوعی دارای برخی نواحی مرده هستند. منِ انسان به آن نواحی نگاه نمی‌کنم؛ زیر با آنچه قبلا آموخته‌ام در تناقض است: اینکه تو هیچ‌وقت نباید وزیر را از دست بدهی.

اما ماشین به هر چیزی نگاه می‌کند و همین امر خودش یک برتری بزرگ دیگر بر انسان به‌حساب می‌آید. همان‌طور که گفتم، بخش‌هایی که ماشین‌ها در آن‌ها به نسبت آسیب‌پذیرند نیز بسیار محدود و انگشت‌شمار هستند. اما هنوز هم اگر شما در یک طرف انسان و ماشین را در کنار هم و در طرف دیگر حتی قوی‌ترین ماشین را داشته باشید، ترکیب انسان و ماشین برنده خواهد بود؛ زیرا هدایت‌ها و تصمیم‌های انسانی در این موقعیت‌ها می‌تواند بسیار حیاتی و تعیین‌کننده باشد.

هولودنی: این موضوع جالب است؛ زیرا در مورد سایر صنعت‌ها هم صدق می‌کند. در رادیولوژی عصبی، یک انسان دارای دقت کمتری نسبت به یک ماشین است؛ اما ترکیب انسان و ماشین از یک ماشین منفرد دارای دقت بیشتری است.

کاسپارف: بله دقیقا همین‌طور است. ماشین به ما کمک می‌کند ضعف‌هایمان را از میان برداریم. ما مثلا دارای دست خیلی پایداری نیستم. ما گاهی ممکن است هشیاری‌مان را از دست بدهیم (یا اصطلاحا حواسمان پرت شود). ممکن است تمرکزمان توسط چیزهای نه‌چندان مرتبط به موضوع فعالیت از بین برود. اما با وجود این‌ها ما دارای شهود هستیم، می‌توانیم برخی پدیده‌های خاص را حس کنیم. از طرفی شما با یک ماشین می‌توانید درست یا نادرست بودن چیزی را چک کنید. این همان دلیلی است که باعث می‌شود با کنار هم آمدن این دو سیستم (انسان و ماشین)، ما یک ترکیب بسیار بسیار قدرتمند داشته باشیم.

حال سؤال این است که مهم‌ترین مؤلفه‌ی این ترکیب چیست؟ یک رابط. اجازه بدهید که شطرنج را مثال بزنم، اما مطمئنم که شما هم می‌توانید در پی مثال‌های دیگری جستجو کنید. گاهی اوقات ما یک بازی‌کننده‌ی ضعیف در اختیار داریم و نه یک بازی‌کننده‌ی خیلی سطح بالا؛ دلیلش هم این است که شاید مثلا آن فرد بتواند یک اپراتور بهتر باشد. با بودن ماشین، خیلی مهم است که بتوانیم به نحوه‌ی درست به ماشین کمک کنیم؛ به‌جای آنکه تنها سعی کنیم بازی خودمان را بکنیم. بنابراین در این حالت شما به خیلی از ایده‌هایتان نیازی نخواهید داشت. بله همین‌طور است! شما باید نگاه و رصد کنید؛ اما در این مرحله اگر یک رابط قوی داشته باشید و به‌ویژه اگر با بیش از یک کامپیوتر سروکار داشته باشید؛ در آن صورت اگر شما آن‌ها را در کنار هم جمع و حالات مختلف را چک کنید، اپراتور دارای یک برتری خواهد بود. یک اپراتور خوب در اینجا نسبت به یک بازی‌کننده‌ی بسیار توانمند دارای برتری خواهد بود. زیرا گذشته از همه چیز، این مهارت‌های انسانی‌ هستند که برای به حد اعلا رساندن خروجی یک ماشین مورد نیازند؛ در عوضِ اینکه درک عالی انسانی بخواهد از کمک ماشین‌ها استفاده کند.

هولودنی: دیدن اینکه قوه‌ی شهودی انسان‌ها به چه شکلی می‌تواند در قیاس با کامپیوترها ضعیف‌تر باشد، راحت است؛ اما آیا شما فکر می‌کنید مثال‌هایی هم وجود داشته باشند که در آن‌ها عمل کردن بر پایه‌ی شهودگری به‌عنوان یک مزیت یا برتری تلقی شود؟

کاسپارف: دوباره می‌گویم که ما در زمینه‌ی بسیار دگرگونی پذیر و متغیری از معناشناسی قرار داریم. آیا شما به‌طور دقیق می‌دانید که شهودگری به چه مفهومی است؟ برخی از جنبه‌های شهود بر مبنای تجربه است.

هولودنی: بله همین‌طور است؛ برای مثال: نگاه ناپلئونی (اشاره به توانایی مورد نظر ناپلئون در تشخیص وضعیت و توانایی یک گروه نظامی با یک نگاه اجمالی و سریع).

کاسپارف: بله، اما فقط باید این نکته را در نظر داشته باشیم که در مورد تقابل تصمیم خالص انسانی و ماشین‌ها، من باور دارم که اگر مثلا شما به دنبالش رفته باشید یا اگر یک تست در موردش داشته باشید یا اینکه اگر نمونه‌های کافی در اختیار داشته باشید، در آن صورت نهایتا خواهیم دید که ماشین بر انسان فائق خواهد آمد. اما برخی لحظات خاص و کلیدی هم هست که من به‌طور شهودگرانه‌ای دوست دارم روی موفقیت شهود انسانی شرط ببندم؛ به‌ویژه اگر در ناحیه‌ای باشیم که مهارت و تخصص ماشینی در آن اندک باشد.

هولودنی: مانند یک برنامه‌ی اولیه‌ی شطرنج؟

کاسپارف: اجازه بدهید در مورد سال ۲۰۱۷ صحبت کنیم. برنامه‌های اولیه‌ی شطرنج را فراموش کنیم. من به این نتیجه رسیده‌ام که هر چیزی را که ما به نحوه‌ی انجام دادنش پی برده‌ایم، ماشین‌ها بهتر می‌توانند آن را انجام دهند. الان عنصر کلیدی در عبارتی که گفتم این است: ما به نحوه‌ی انجام دادنش پی برده‌ایم. علت اهمیتش هم این است که ما بسیاری از کارها را واقعا بدون اینکه نحوه‌ی انجامش را به‌طور دقیق بشناسیم، انجام می‌دهیم. پس این همان زمینه‌ای است که ماشین‌ها در آن آسیب‌پذیرند؛ زیرا ماشین ذاتا باید از نوعی تجربه‌ی دیگر بیاموزد. ماشین دست کم به دانستن قواعد بازی نیاز دارد. شما باید چیزی را ارائه کنید که به ماشین در آغاز آموختنش کمک کند. موضوع خیلی مشخصی است.

اگر چیزی وجود نداشته باشد و اگر شما نتوانید آن را توضیح دهید، در آن صورت مشکل‌ساز می‌شود. یکی از پیش‌گویی‌های خوش‌بینانه‌ی من بر این فرض استوار است که ماشین‌ها می‌توانند بهترین الگوریتم‌های موجود در جهان را داشته باشند؛ اما یک ماشین هرگز هدف نخواهد داشت؛ و مشکل ما برای تشریح هدف به یک ماشین در این است که خودمان هم نمی‌دانیم هدفمان چیست. ما هدف داریم؛ اما هنوز هم...هنگامی که به این تصویر جهانی نگاه می‌کنیم، هنگامی که به این تصویر کلی نگاه می‌کنیم، سعی می‌کنیم که بفهمیم هدف ما از بودن روی زمین چیست؟ ما نمی‌دانیم.

پس یعنی اینکه ما هنوز هم در حال جستجو هستیم و قادر نخواهیم بود که این پیام را به یک ماشین برسانیم. چنین حالتی برای ما می‌تواند به‌نوعی مشکل‌ساز و به‌نوعی هم آسایش‌بخش باشد. شاید بعضی افراد بگویند که این حرف‌ها بیشتر شبیه موعظه است؛ خب شاید هم حق با آن‌ها باشد و بله؛ شبیه موعظه است!

علت آن همان‌طور که من در کتاب و سخنرانی‌هایم اشاره کرده‌ام، این است که ذهن‌های افراد بیشتر با تصوراتی از آینده‌ای پر شده است که هالیوود و فیلم‌های تخیلی برای زمین ترسیم کرده‌اند: ترمیناتور، اسکای‌نت، ماتریکس و سایر فیلم‌ها. همه‌ی این‌ها ترسیم‌کننده‌ی دنیایی است که در آن جایی برای بشر نیست یا اینکه بشر باید با ماشین‌ها نبرد کند. من باور دارم که این حالت تنها یکی و تنها یکی از حالت‌های ممکن برای آینده است. آیا قرار است اتفاق بیفتد؟ من نمی‌دانم. برای من همه‌ی این بحث‌ها و جدل‌ها مشابه نیستند؛ اما به‌نوعی شبیه بحث‌هایی می‌نمایند که در مورد خورشید و تبدیل آن به یک ابرنواختر در ۴ یا ۵ میلیارد سال آینده می‌شود. راستش را بخواهید من اهمیتی نمی‌دهم! [می‌خندد]...

ادامه دارد...