سیستم کامپیوتری مبتنی بر هوش مصنوعی، کارمند شرکتی را اخراج کرد

مدتی بود ابراهیم دیالو دچار سرخوردگی و احساس ناامیدی در محل کارش شده بود. مدیر جدیدی به بخش آنها آمده بود و شرایط کاری وی تغییراتی پیدا کرده بود. در اقدامی عجیب و جالب، سیستم کامپیوتری که ابراهیم هر روز در شرکت با آن کار می‌کرد، رمز عبور وی را مسدود و دسترسی‌اش را به سیستم قطع کرد. وقتی ابراهیم تلاش می‌کرد که وارد سیستم کامپیوتری شود، متوجه حضور ماموران حراست شرکت بالای سر خودش شد. ماموران حراست شرکت متوجه شده بودند کسی به زور می‌خواهد وارد سیستم کامپیوتری شود و بدون توجه به اینکه ابراهیم دیالو کارمند همان مجموعه است وی را کشان‌کشان و به زور به حراست شرکت منتقل کردند. سیستم کامپیوتری ابراهیم دیالو را از کار اخراج و همه‌ی دسترسی‌های وی را به سیستم غیر فعال کرده بود. مدیران شرکت قادر نبودند توجیهی برای رفتار سیستم مبتنی بر هوش مصنوعی بدهند و در نهایت ابراهیم دیالو واقعا از شرکت اخراج شد!

شاید با خودتان بگویید، این اصلا عادلانه نیست که هوش مصنوعی بر زندگی ما تا به این اندازه، تسلط داشته باشد تا جایی که تصمیم بگیرد فردی را از کارش بیکار کند. شاید مدیر جدید بخش می‌توانست روی تنظیمات سیستم‌های کامپیوتری تجدید نظر کند و به‌روزرسانی‌هایی را به انجام برساند و مانع اخراج دیالو شود. اگر ابراهیم دیالو اخراج شد، تقصیر هوش مصنوعی نبود، بلکه مدیر بخش بود که از خود قصور نشان داد؛ اگر مدیر بخش می‌خواست قطعا می‌توانست مانع بروز چنین اتفاقی شود. هوش مصنوعی هر روز بیشتر از روز قبل در زوایای مختلف زندگی ما وارد می‌شود، ولی اگر خودمان نخواهیم نمی‌تواند اختیار و عنان زندگی‌مان را به دست بگیرد. مدیر بخشی که دیالو در آن کار می‌کرد می‌توانست در سیستم بازنگری کند و مانع اخراج ابراهیم دیالو شود ولی این‌کار را نکرد و همه چیز را به گردن هوش مصنوعی و تصمیم سیستم گذاشت. 

هوش مصنوعی همانند انسان‌ها دارای دانش و علم نیست. هوش مصنوعی فقط براساس قوانین، الگوریتم‌ها و اطلاعاتی منطقی که به آن داده می‌شود می‌تواند تصمیم‌گیری کند؛ ولی از قدرت دانش و علم مشابه انسان برخوردار نیست. هم‌چنین هوش مصنوعی نمی‌تواند در حال حاضر از مجموعه‌های مختلف داده‌های متنوع یادگیری داشته باشد. ذهن انسان قدرت استدلال و یادگیری از داده‌های متنوع را دارد و به همین دلیل می‌تواند وقتی پای اخراج کارمندانی نظیر دیالو به میان می‌آید، به درستی و با بررسی برخی فاکتورهای دیگر مانع اخراج وی شود، ولی هوش مصنوعی در حال حاضر چنین قدرتی ندارد و نمی‌تواند همه‌ی عواملی که باعث اخراج یک نفر می‌شود را به‌درستی تشخیص بدهد. در واقع، به‌نظر می‌رسد که دیالو قربانی طراحی اشتباه و خطای انسانی در هوش مصنوعی شده است. سیستم با اطلاعات قبلی و به روز نشده کار می‌کرد و در اثر بروز خطای انسانی و به‌روز نشدن سیستم، تصمیم گرفت دیالو را اخراج کند. در نتیجه در قضیه‌ی اخراج دیالو نباید هوش مصنوعی را سرزنش کنیم.

در شرایط فعلی که الگوریتم‌های یادگیری عمیق بسیار پیچیده‌تر شده‌اند و شبکه‌های عصبی مصنوعی با الگوبرداری از مغز انسان، بسیار پیچیده‌تر از قبل هستند و می‌توانند داده‌های بزرگ را هم بررسی کنند، باید قبل از تصمیم‌گیری بتوانند همه‌ی جوانب را بررسی کنند و رویکردهای چندگانه‌ای را قبل از اتخاذ تصمصیم نهایی در نظر بگیرند. بسیار لازم است تا هوش مصنوعی بتواند با توجه به کل‌نگری و دیدن همه‌ی جوانب تصمیم گیری کند. در شرایط فعلی، برخی کارشناسان معتقد هستند که باید روالی متعادل‌‌تر در حوزه‌ی هوش مصنوعی در نظر گرفته شود. این متخصصان این‌طور استدلال می‌کنند که الگوریتم‌‌های یادگیری عمیق برای تشخیص الگوها، هنوز به درک عمیقی نرسیده‌اند و به هیمن دلیل باید به صورت متعادل‌تری آنها را وارد هر سیستمی کرد.

اگر چنین نگاهی به هوش مصنوعی داشته باشیم، قطعا احتمال خطاهای مبتنی بر هوش مصنوعی هم کاهش می‌یابد و اگر هم خطایی رخ داد، سیستم می‌تواند درس‌های مربوط به آن خطا را یاد بگیرد و برای سایر موارد مشابه مورد استفاده قرار دهد. اگر شرکت‌ها و سازمان‌ها با چنین رویکردی به هوش مصنوعی نگاه کنند، می‌توانند از بروز اشتباهات و خطاهای جبران ناپذیر نیز جلوگیری کنند. همین اتفاق در بین انسان‌ها هم می‌افتد، وقتی خطایی رخ می‌دهد، یک مدیر انسانی خوب، از اشتباهات درس می‌گیرد و شاید دیگر آن خطا را تکرار نکند؛ ولی قسمت جالب قضیه این است که وقتی مدیر آن قسمت عوض می‌شود و فرد دیگری جایگزین وی‌ می‌شود ممکن است مجددا همان اشتباه را به انجام برساند.

یکی از مسایلی که موجب اخراج ابراهیم دیالو شد، هوش مصنوعی نبود، بلکه فقدان حس انسانی در بین مدیران شرکت عامل اصلی اخراج ابراهیم دیالو بود. سیستم بر اساس بروز یک خطا تصمیم گرفت دیالو را اخراج کند ولی توضیحی در مورد بروز خطا داده نشد. به هر حال بی‌شک هوش مصنوعی هم می‌تواند خطاهای خودش را داشته باشد ولی این وظیفه‌ی هوش انسانی است که در نهایت تصمیم نهایی را بگیرد. از دست دادن شغل آن‌هم به دلیل تصمیمی که هوش مصنوعی می‌گیرد واقعا سخت است. آیا روزی فرا خواهد رسید که انسان مجبور به متقاعد کردن هوش مصنوعی شود؟ آیا واقعا روزی فرا خواهد رسید که انسان‌ها به‌دلیل تصمیم‌گیری اشتباه سیستم‌های مبتنی بر هوش مصنوعی مجبور شوند از سیستم کامپیوتری به دادگاه شکایت کنند؟ در قضیه‌ی اخراج ابراهیم دیالو مسئول اصلی چه کسی است، هوش مصنوعی یا مدیر بخش؟