همه چیز درباره بخش‌های تاریک و نقاط ضعف هوش مصنوعی و تقابل آن با انسان (بخش اول)
سال گذشته، یک خودروی عجیب از نوع خودران پا به جاده‌های ساحلی شهر مونموت نیوجرسی گذاشت. وسیله‌ی نقلیه آزمایشی که توسط محققان شرکت انویدیا ساخته شده بود، با سایر خودروهای خودران تفاوت چندانی نداشت؛ اما این خودرو با آنچه از کمپانی‌های گوگل، تسلا یا جنرال موتورز دیده بودیم، تا حدودی متفاوت بود و شاهد افزایش قدرت هوش مصنوعی در آن بودیم. این خودرو تنها یک دستورالعمل ارائه‌شده توسط مهندس یا برنامه‌نویس را دنبال نمی‌کند؛ بلکه در عوض، به‌طور کامل به الگوریتمی متکی است که با تماشای یک انسان در حال رانندگی، آموزش می‌گیرد.
هدایت کردن یک ماشین برای رانندگی با این روش یک شاهکار چشمگیر بود. اما از سویی نیز کمی نگران‌کننده است؛ زیرا به‌طور کامل مشخص نیست که خودرو چگونه تصمیمات خود را می‌گیرد. اطلاعات به‌دست‌آمده از سنسورهای وسیله‌ی نقلیه، مستقیما به یک شبکه‌ی عظیم از نورون‌های مصنوعی می‌رسد و این نورون‌ها داده‌ها را پردازش می‌کنند و سپس دستورات مورد نیاز برای استفاده از فرمان، ترمز و سایر سیستم‌ها را ارائه می‌دهند. به نظر می‌رسد نتیجه مطابق با همان پاسخ‌هایی باشد که شما از یک راننده‌ی انسان انتظار دارید.
اما پرسش این است که اگر یک روز اتفاق غیر منتظره‌ای همانند سقوط یک درخت رخ دهد، چه خواهد شد؟ همان‌طور که از شواهد حال حاضر در این زمینه برمی‌آید، ممکن است پیدا کردن علت دشوار باشد. سیستم به‌اندازه‌ای پیچیده است که حتی مهندسانی که آن را طراحی کرده‌اند هم ممکن است در تلاش به‌منظور یافتن علت یک عمل خاص در هر یک از واحدهای خاص دچار مشکل شوند. واقعیت این است که شما هیچ‌گاه نمی‌توانید از آن سیستم سؤال کنید. هیچ روش مشخصی برای طراحی چنین سیستمی وجود ندارد؛ سیستمی که همیشه بتواند توضیح دهد چرا کار مشخصی را در آن زمان انجام داده است.
ذهن اسرارآمیز این وسیله‌ی نقلیه به یک مسئله‌ی ناشناخته مرتبط با هوش مصنوعی اشاره دارد. فناوری هوش مصنوعی زیربنایی این خودرو، با عنوان یادگیری عمیق شناخته شده است. این فناوری در سال‌های اخیر در حل مسئله‌های دشوار بسیار قدرتمند بوده و به‌طور گسترده‌ای برای وظایفی همانند کپشن‌گذاری تصویر، تشخیص صدا و ترجمه‌ی زبان استفاده می‌شود. در حال حاضر امیدواریم که تکنیک‌های مشابه قادر به تشخیص بیماری‌های کشنده، تصمیم‌گیری‌های تجاری میلیون دلاری و انجام کارهای بی‌شماری برای تبدیل و تحول کل صنایع باشد.
اما این اتفاق نخواهد افتاد یا شاید نباید اتفاق بیافتد؛ مگر اینکه راهی پیدا کنیم تا تکنیک‌هایی مانند یادگیری عمیق را برای سازندگان آن قابل‌درک‌تر و برای کاربران آن قابل‌اتکاتر کنیم. در غیر این صورت، پیش‌بینی اینکه چه زمانی خرابی یا اشتباهی رخ می‌دهد، سخت و اجتناب‌ناپذیر خواهد بود. این یکی از دلایلی است که خودروی انویدیا هنوز در مرحله‌ی آزمایش است و نمی‌تواند به خیابان‌ها بیاید.
در حال حاضر، مدل‌های ریاضی برای تعیین اینکه چه کسانی در قید ضمانت هستند، چه کسی برای وام تأیید شده است یا اینکه چه کسی برای یک شغل خاص استخدام می‌شود، به کار می‌روند. اگر بتوانید به این مدل‌های ریاضی دسترسی پیدا کنید، ممکن است استدلال آن‌ها را درک کنید. اما بانک‌ها، ارتش، کارفرمایان و دیگران در حال حاضر توجه خود را به روش‌های پیچیده‌تر یادگیری ماشین معطوف می‌کنند؛ روشی که می‌تواند تصمیم اتخاذشده را کاملا تصحیح کند. یادگیری عمیق، متداول‌ترین مورد در میان این رویکردها است؛ یک راه کاملا متفاوت برای برنامه‌های کاربردی. تامی جاکولا، استاد مرکز MIT که در زمینه‌ی برنامه‌های کاربردی برای یادگیری ماشینی کار می‌کند، می‌گوید:
این مشکلی است که در حال حاضر مطرح شده و در آینده نیز بسیار مهم‌تر خواهد بود. خواه در یک تصمیم مرتبط با سرمایه‌گذاری و خواه یک تصمیم پزشکی و شاید حتی در یک تصمیم نظامی، شما نمی‌خواهید که فقط به یک «جعبه سیاه» وابسته باشید.
در حال حاضر بحثی وجود دارد در مورد اینکه قادر بودن به تحقیق در مورد یک سیستم هوش مصنوعی و چگونگی دستیابی آن به نتایج مطلوبش، یک حق قانونی پایه‌ای است. اتحادیه‌ی اروپا ممکن است از تابستان سال ۲۰۱۸ درخواست کند که شرکت‌ها بتوانند به تصمیم‌گیری‌های مربوط به سیستم‌های خودکار دست پیدا کنند. البته این کار ممکن است غیر ممکن باشد؛ حتی برای سیستم‌هایی که در سطحی نسبتا ساده به نظر می‌رسند؛ سیستم‌هایی مانند برنامه‌ها و وب‌سایت‌هایی که از یادگیری عمیق برای ارائه‌ی تبلیغات یا آهنگ‌های درخواستی استفاده می‌کنند. کامپیوترهایی که این سرویس‌ها را اجرا می‌کنند، به‌نوعی خودشان کار برنامه‌ریزی خود را صورت داده‌اند و این کار را هم به شیوه‌ای انجام داده‌اند که نمی‌توانیم درک کنیم. حتی مهندسانی که این برنامه‌ها را می‌سازند نیز نمی‌توانند رفتار آن‌ها را به‌طور کامل توضیح دهند.
این روند باعث افزایش سؤالات در ذهنمان می‌شود. با پیشرفت تکنولوژی، ممکن است به‌زودی از یک آستانه‌ی کلیدی فراتر رویم؛ آستانه‌ای مبنی بر اینکه استفاده از هوش مصنوعی نیاز به اطمینان کامل و آگاهی از تمام روندهای آن نداشته باشد. با اطمینان می‌توان گفت که ما انسان‌ها هم همیشه نمی‌توانیم فرایند تفکر خود را توضیح دهیم؛ بااین‌حال راه‌هایی برای اطمینان به‌صورت شهودی و ارزیابی آن‌ها پیدا می‌کنیم. آیا ممکن خواهد بود در قبال ماشین‌هایی که فکر می‌کنند و تصمیم‌های مختلفی همانند یک انسان می‌گیرند، چنین رویکردی داشته باشیم؟
ما پیش از این هرگز با ساخت ماشین‌هایی سروکار نداشته‌ایم که حتی سازندگان آن‌ها نیز عملکرد آن‌ها را به‌طور دقیق ندانند. به‌راستی چطور می‌توانیم انتظار داشته باشیم با ماشین‌های هوشمندی ارتباط برقرار کنیم و هماهنگ شویم که می‌توانند غیر قابل پیش‌بینی باشند؟ این سؤالات، ما را به انجام تحقیقی در مورد الگوریتم‌های هوش مصنوعی استفاده‌شده در گوگل، اپل و بسیاری محل‌های دیگر وا‌داشت؛ ملاقات با یکی از فیلسوفان بزرگ زمان ما نیز بخشی از این تحقیق بود.
ما نمی‌توانیم تشخیص دهیم که هوش مصنوعی در یک برنامه به چه شکلی به نتیجه نهایی می‌رسد؛ در واقع تنها به یک مدل کلی دسترسی داریم...
در سال ۲۰۱۵، یک گروه تحقیق در بیمارستان مونت سینای در نیویورک تصمیم گرفتند یادگیری عمیق را روی پایگاه داده‌ی وسیع بیمارستان و پروندهی بیماران اعمال کنند. این داده‌ها شامل صدها متغیر در بدن بیماران، شامل نتایج آزمایش‌ها، ویزیت پزشکان و سایر موارد بود. برنامه‌ی حاصله که محققان از آن به نام دیپ پیشنت (Deep Patient) یاد می‌کنند، با استفاده از داده‌های حدود ۷۰۰ هزار نفر تهیه شده بود و پس از آزمایش روی پرونده‌های جدید، در پیش‌بینی بیماری‌ها دارای عملکرد فوق‌العاده خوبی بود. دیپ پیشنت بدون استفاده از هیچ‌گونه دستورالعملی از سوی متخصصان، الگوهای پنهانی در اطلاعات بیمارستانی را کشف کرده بود. به نظر می‌رسید این الگوها زمانی را نشان می‌دهند که افراد در معرض طیف وسیعی از بیماری‌ها، از جمله سرطان کبد قرار می‌گیرند. جوئل دادلی، سرپرست تیم پزشکی مونت سینا، معتقد است که روش‌های بسیاری برای پیش‌بینی بیماری از روی پروندهی بیمار وجود دارد که روش‌های خوبی هم هستند. اما او اضافه می‌کند که روش اخیر بسیار بهتر بود.
دیپ پیشنت در عین حال کمی گیج‌کننده است. به نظر می‌رسد که دیپ پیشنت در تشخیص شروع اختلالات روان‌پزشکی نظیر اسکیزوفرنی به‌طور شگفت‌انگیزی عمل می‌کند. اما ازآنجاکه پیش‌بینی اسکیزوفرنی برای پزشکان بسیار دشوار است، دادلی از چگونگی انجام این کار شگفت‌زده شده است. او طرز کار آن را هنوز نمی‌داند. ابزار جدید هیچ اشاره‌ای به نحوه‌ی انجام این کار نمی‌کند. اگر قرار باشد که ابزاری مانند دیپ پیشنت به کمک پزشکان بیاید، در حالت ایده‌آل باید بتواند منطق پیش‌بینی خود را به آن‌ها ارائه کند تا پزشکان از دقت و همین‌طور توجیه علمی آن اطمینان حاصل کنند و در ادامه مثلا تغییری در داروهای تجویز‌شده به فرد ایجاد کنند. دادلی می‌گوید:
ما می‌توانیم این مدل‌ها را بسازیم؛ اما نمی‌دانیم که چگونه کار می‌کنند.
هوش مصنوعی همیشه هم به شکل فعلی نبوده است. از همان ابتدا، دو مکتب فکری در مورد چگونگی قابل فهم بودن یا قابل توضیح بودن هوش مصنوعی وجود داشت. بسیاری فکر می‌کردند که ساختن ماشین‌هایی منطبق بر قواعد و منطق کار معقول‌تری است و می‌توانند با بررسی در کدهای آن‌ها به روند کار آن‌ها دست یابند. دسته‌ی دیگر احساس می‌کردند که اگر ماشین‌ها از دنیای زیست‌شناسی الهام بگیرند و بر مبنای مشاهده و تجربه کار کنند، هوشمندی آن‌ها بیشتر پدیدار می‌شود. این برداشت مستلزم این بود که آن‌ها مرحله‌ی برنامه‌نویسی کامپیوتری را در مغز آن سیستم جای دهند تا به‌جای اینکه یک برنامه‌نویس دستورات را برای حل یک مسئله بنویسد، خود برنامه، الگوریتم مختص خود را بر اساس داده‌های نمونه و خروجی مورد نظر تولید کند.
تکنیک‌های یادگیری ماشینی که بعدها به توانمندترین سیستم‌های هوش مصنوعی دنیای امروز تبدیل شدند، همگی بر اساس روش دوم به وجود آمده‌اند؛ و جان‌مایه‌ی روش دوم این بود: ماشین به‌طور پایه‌ای، خود را برنامه‌نویسی می‌کند.
در ابتدا این رویکرد دارای کاربردی محدود بود و در دهه‌های ۱۹۶۰ و ۷۰ میلادی عمدتا به زمینه‌های حاشیه‌‌ای محدود می‌شد. با گذشت زمان و با کامپیوتری شدن بسیاری از صنایع و ظهور مجموعه‌ی داده‌های بزرگ، این روش دوباره مورد توجه قرار گرفت. همین امر در ادامه الهام‌بخش توسعه‌ی تکنیک‌های یادگیری ماشین قدرتمندتر، به‌ویژه نسخه‌های جدیدی از یک شبکه‌ی عصبی مصنوعی شد. تا دهه ۱۹۹۰ میلادی شبکه‌های عصبی می‌توانستند به‌طور خودکار کاراکترهای متون دست‌نویس را دیجیتال کنند.
اما روند پیشرفت‌های هوش مصنوعی تا آغاز دهه‌ی ۱۹۹۰ میلادی به طول انجامید. پس از چندین اصلاح هوشمندانه و پیشرفته، شبکه‌های بسیار بزرگ یا به تعبیری عمیق، پیشرفت چشمگیری را در زمینه‌ی ادراک خودکار نشان دادند.
یادگیری عمیق سرآغاز شکوفایی امروز هوش مصنوعی است. این کامپیوترها توانایی‌های فوق‌العاده‌ای به ارمغان آورده‌اند؛ از جمله توانایی تشخیص کلمات گفتاری افراد با دقتی تقریبا برابر با یک انسان؛ مهارت بسیار پیچیده‌ای که پیاده‌سازی آن به‌صورت عادی روی یک ماشین بسیار دشوار است. یادگیری عمیق که دنیای کامپیوتر را دگرگون می‌کند و به‌طور چشمگیری ترجمه‌ی ماشینی را بهبود می‌بخشد، اکنون برای هدایت انواع تصمیمات کلیدی در پزشکی، امور مالی، تولید و فراتر از آن استفاده می‌شود.
کارهای هر نوع تکنولوژی مبتنی بر یادگیری ماشین در قیاس با سیستم کدنویسی‌شده‌ی دستی ذاتا شفاف‌تر است. گفته‌ی فوق به این معنی نیست که همه‌ی تکنیک‌های هوش مصنوعی آینده به همان اندازه قابل شناسایی نخواهند بود. اما به‌هرحال، طبیعت یادگیری عمیق همانند یک جعبه‌ی سیاه مخصوص است.
شما نمی‌توانید صرفا با نگاه کردن در یک شبکه‌ی عصبی به طرز کار آن پی ببرید. نحوه‌ی استدلال و منطق شبکه در رفتار هزاران نورون شبیه‌سازی‌شده، جایگذاری شده است؛ نورون‌هایی که به ده‌ها یا حتی صدها لایه‌ی پیچیده‌ی مرتبط متصل شده‌اند. نورون‌های واقع در اولین لایه، هر ورودی را مانند شدت یک پیکسل در یک تصویر دریافت می‌کنند و سپس یک محاسبه را قبل از بیرون فرستادن سیگنال جدید انجام می‌دهند. این خروجی‌ها، در یک شبکه‌ی پیچیده، به نورون‌های لایه‌ی بعدی داده می‌شوند و روند به همین ترتیب ادامه می‌یابد؛ تا زمانی که یک خروجی کلی تولید شود. به‌علاوه، فرآیندی شناخته‌شده با عنوان Back-propagation وجود دارد که محاسبات نورون‌های منفرد را به‌گونه‌ای تنظیم می‌کند که به شبکه، اجازه‌ی تولید خروجی دلخواه را بدهد.
وجود لایه‌های زیاد در یک شبکه‌ی عمیق، آن را قادر می‌سازد مواردی با سطوح مختلف انتزاع را تشخیص دهد. به‌عنوان مثال، در سیستم طراحی‌شده برای تشخیص سگ‌ها، لایه‌های پایین‌تر می‌توانند ویژگی‌های ساده‌ای مانند خطوط یا رنگ را تشخیص دهند. از سویی لایه‌های بالاتر موارد پیچیده‌تر مانند موها یا چشم را تشخیص می‌دهند و در نهایت بالاترین لایه، همه‌ی آن مجموعه را به‌عنوان یک سگ شناسایی می‌کند. همان رویکرد را می‌توان به‌طور کلی به سایر ورودی‌هایی که دستگاه را برای یاد دادن یک روند خاص به خودش هدایت می‌کنند، اعمال کرد: صداهایی که کلمات را تشکیل می‌دهند، حروف و کلماتی که جملات را در متن ایجاد می‌کنند یا حرکت‌های مورد نیاز غربیلک فرمان برای رانندگی، همگی نمونه‌هایی از روند فوق هستند.
ادامه دارد...
نظرات