الگوریتم‌ها چگونه به‌جای ما تصمیم‌گیری می‌کنند

دیونیسوس دمیتس، مدرس مدیریت سیستم‌ها از دانشگاه هال است. او در مقاله‌ای به‌دنبال پژوهش‌های خود به بررسی تاثیر الگوریتم‌ها در قدرت تصمیم‌گیری انسان می‌پردازد. آنچه در ادامه می‌خوانید، از زبان او بیان شده است.

هنوز می‌توانم شگفتی خودم را به‌یاد بیاورم؛ هنگامی‌که کتاب The making of a fly از پیتر لارنس، متخصص زیست‌شناس فرگشتی با قیمت نجومی ۲۳٬۶۹۸٬۶۵۵.۹۳ دلار به اضافه ۳/۹۹ دلار هزینه حمل‌ونقل در سایت آمازون ارائه شد. درحالی‌که همکاران من در سراسر دنیا به همان نسبت افسرده می‌شوند که یک کتاب علمی می‌تواند به چنین بازیچه‌ای تبدیل شود، در حقیقت این قیمت گزاف را باید نتیجه الگوریتم‌های اصلاحی دانست که یک‌دیگر را پشتیبانی می‌کنند و گاهی مارپیچی را بنا می‌کنند که هر لحظه با نسبت بیشتری از روال معمول خارجی می‌شود. این نشان می‌دهد که فقط کارکنان فروش شخصیتی خلاق ندارند بلکه الگوریتم‌ها نیز می‌توانند بلندپروازی شگفت‌آوری را تجربه کنند.

این نمونه فراموش‌نشدنی تشخیص داده و اصلاح شد؛ اما اگر چنین تداخل الگوریتمی‌ به‌طور پیوسته اتفاق می‌افتد و البته دفعاتی نیز وجود داشته باشد که ما متوجه وقوع آن‌ها نشویم، چه سرانجامی در‌پی خواهد داشت؟ اگر واقعیت زندگی ما به‌طور فزاینده‌ای با قدرت الگوریتم‌ها ساخته شود چقدر طول می‌کشد تا هویت انسانی و اختیار ما از بین برود؟

من و همکارم، پروفسور آلن لی با الهام از چنین نمونه‌هایی، اخیراً کشفی مطرح کردیم و آثار عمیق‌تری از تاثیر فناوری الگوریتم را در مقاله‌ای در ژورنال Association for Information Systems منتشر کردیم. کشف ما باعث شد به‌ این نتیجه برسیم که در طول زمان نقش فناوری اطلاعات و انسان‌ها به‌جای پیشرفت نوعی پسرفت است. در گذشته ما انسان‌ها از فناوری همچون ابزاری استفاده می‌کردیم، اکنون فناوری پیشرفته به نقطه‌ای رسیده است که از ما استفاده می‌کند و حتی فراتر از آن، ما را کنترل می‌کند.

مثال‌های از این دست فراوانند، هوش مصنوعی که به‌تدریج جایگزین تحلیل‌گران قانون می‌شود به‌این معنا است که در یک دفاع موفق حقوقی یا پیگیری یک پرونده می‌توان تا حدی به الگوریتم‌ها اعتماد کرد. حتی به نرم‌افزارها این فرصت داده شده که آینده جنایتکاران را پیش‌بینی کنند و درنهایت نیز کنترل آزادی انسان‌ها در رد عفو مشروط یا اعطای آن به زندانیان وابسته به تصمیم آن‌هاست. به‌این‌ترتیب ذهن قاضی با مکانیزم تصمیم‌های از قبل گرفته‌شده شکل می‌‌گیرد. قضات نیز نمی‌توانند آن را درک کنند؛ چراکه فرایندی پیچیده است و داده‌های بسیاری در آن نهفته‌ است.

وابستگی بیش‌ازحد به فناوری در بازار کار، باعث شده که بعضی از بزرگ‌ترین شرکت‌ها به‌وسیله نرم‌افزارها به فیلتر رزومه‌‌ها نیز دست بزنند که نتیجه آن، روال استخدامی است که در آن هرگز حتی به استعدادهای بالقوه در جزئیات رزومه متقاضیان توجه نخواهد شد. این‌کار نه‌تنها باعث‌ می‌شود معاش مردم تحت‌تاثیر تصمیم‌ها و فرصت‌های ماشینی قرار گیرد، بلکه این امکان را نیز ایجاد می‌کند تا مشکلاتی رخ دهد که حتی خود شرکت‌ها نیز تمایلی به مواجهه با آن‌ها ندارند. همانند اتفاقی که در آمازون تجربه شد و سیستم هوشمند استخدام از متقاضیان کار مونث استقبالی نکرد.

همان‌طور که در گزارش‌های خبری نیز منعکس‌ شده، شرکت‌های که در دنیای وب خدمات می‌دهند، از ابزاری به‌نام تجزیه‌وتحلیل احساسات خودکار استفاده می‌کنند و به‌دنبال پیدا کردن یک معنی یا مفهوم از احساسات خوب و بد کاربران هستند تا درنهایت به حقایق بیشتری دست پیدا کنند. این ابزارها نیز به‌نوبه‌خود توسط الگوریتم‌های تجاری مورد استفاده قرار می‌گیرند که به‌صورت خودکار تصمیم‌های مالی را اتخاذ می‌کنند؛ بدون اینکه انسان‌ها واقعا اخبار را بخوانند.

عواقب ناخواسته

در حقیقت، الگوریتم‌های عملیاتی بدون دخالت انسان نقش مهمی را در بازی‌های مالی برعهده دارند. به‌عنوان مثال ۸۵ درصد از همه تجارتی که در بازار ارز خارجی وجود دارد، به‌تنهایی توسط الگوریتم‌ها انجام می‌شود. از سویی مسابقه تسلیحات الگوریتم در حال رشد برای توسعه سیستم‌های پیچیده به‌منظور رقابت در بازاها در جریان است. این بدان معنا است که مبالغ بزرگی از پول براساس تصمیم‌های ماشین‌ها تخصیص داده می‌شود.

در مقیاسی کوچک‌تر، مردم و شرکت‌هایی که این الگوریتم‌ها را می‌سازنند، هنوز توانایی تاثیرگذاری دارند تا چه‌کاری انجام دهند و حتی چگونگی آن را مشخض کنند؛ اما از آنجا که هوش مصنوعی سهم عمده‌ای در برنامه‌نویسی نرم‌افزارها ایفا می‌کند تا بتواند فرایندها را به‌صورت خودکار تکمیل کند، ما از دانستن بیشتر حقایق پشت‌پرده‌ی عوامل تصمیم‌گیری محروم هستیم. همانند همه تکنولوژی‌ها، این شرایط نیز می‌تواند منجر به‌عواقب ناخواسته‌ای شود که فراتر از انتظارات پیش‌بینی‌شده طراحان است.

نگاهی به سقوط ناگهانی شاخص میانگین صنعتی داو جونز در سال ۲۰۱۰، نمایشی از تاثیر الگوریتم‌ها است. عملکرد الگوریتم‌ها باعث شد که شاخص واحد بزرگ‌ترین سقوط خود را در تاریخ با لغزشی در حدود ۹ درصد در عرض چند دقیقه تجربه کند. اگرچه اکثر این افت تا آخر روز جبران شد اما تنها یک تحقیق ۵ ماهه می‌تواند توضیح دهد دقیقا چه عاملی موجب این نزول شد، چراکه انواع نظریه‌های دیگر نیز مطرح شده است؛ اما مسله اینجا است که الگوریتم‌هایی که مشکلات اولیه را رقم زدند، مشکلی نداشتند و اشکالی نیز در برنامه‌نویسی آن‌ها وجود نداشت.

اگر نگاهی به سقوط سال ۱۹۸۷ داشته باشیم، یعنی هنگامی‌که بازار سهام ایالات متحده در حدود ۲۲/۶۱ درصد افت کرد، آشفته‌بازاری را می‌بینیم که موج وحشت را به همه سطوح جامعه منتقل کرد. از‌همین‌رو برخی از کارگزاران وال استریت از برداشتن گوشی‌های تلفن خود دست برداشتند تا سفارش مشتریان وحشت‌زده برای فروش سهام متوقف شود؛ هرچند به‌اعتبار آن‌ها نیز لطمه می‌خورد. این رفتار آغازگر روندی جدیدی در تصمیمات بود، همان‌طور که مایکل لوئیس در کتابش به‌نام فرزندان شوک (Flash Boys) به آن اشاره کرد و نوشت: «کامپیوترها به‌طور کامل جایگزین مردم شدند.»

دنیای مالی، سرمایه‌گذاری هنگفتی در کابل‌های خیلی سریع و ارتباطات مایکرویو انجام داده تا الگوریتم‌ها بتوانند در کسری از هزارم ثانیه، دستور‌های خود را ارسال کنند. هنگامی این سرعت مهم است که بدانیم یک شخصیت انسانی به ۲۱۵ هزارم ثانیه برای لمس دکمه‌ای که تقریباً بی‌فایده است، نیاز دارد. گویی تنها هدف باقی‌مانده این است که وقتی سیستم با تصمیم‌های فناوری به خطر می‌افتد، به تنظیم مجدد الگوریتم‌ها دست بزنیم.

نیاز است که مرزهای جدیدی میان انسان و فناوری حک شود و ما باید با دقت فکر کنیم که وابستگی شدید به نرم‌افزار ما را به کجا خواهد برد؟ همان‌طور که تصمیم‌های انسانی با الگوریتم جایگزین می‌شوند و ما تبدیل‌به ابزاری می‌شویم که حتی زندگی‌مان نیز توسط ماشین‌ها شکل گرفته‌ است و در معرض پیامدهای ناخواسته آن‌ها قرار می‌گیریم، پس باید با حقیقت سلطه‌ی فناوری نیز روبه‌رو شویم. ما نیاز داریم که تصمیم بگیریم؛ آن‌ هم‌ اکنون که فرصت آن را داریم. باید بدانیم که این وقایع چه نتایجی هم از دیدگاه فردی و هم از دیدگاه جمعی برای ما در برخواهد داشت.