هشدار رئیس مایکروسافت: باید برای هوش مصنوعی ترمز اضطراری طراحی کنیم
هوش مصنوعی روز‌به‌روز باسرعتی باورنکردنی پیشرفت می‌کند و ما همچنان که از پتانسیل‌های آن برای بهبود زندگی بشر باخبریم، در گوشه‌ای از ذهن‌مان از خطرات نسخه‌های افسارگسیخته‌ای از آن به خود می‌لرزیم.
برد اسمیت، رئیس مایکروسافت، در مصاحبه‌ای به بحث درباره‌ی آینده‌ی هوش مصنوعی پرداخت و حتی آن را با فیلم‌های ترمیناتور مقایسه کرد؛ اسمیت معتقد است که هوش مصنوعی نیز مانند سایر المان‌های زندگی مدرن، نیاز به قوانین و تدابیر ایمنی دارد.
برد اسمیت می‌گوید هوش مصنوعی مانند سایر المان‌های زندگی مدرن، نیاز به قوانین و تدابیر ایمنی دارد
اسمیت در طول گفتگوی مفصل با روزنامه‌ی ال‌پائیس، بر لزوم تنظیم قوانینی برای مدیریت هوش مصنوعی تأکید کرد. او توضیح داد: «وقتی یک کارتن شیر را از فروشگاه می‌خریم، نگران سالم بودن آن نیستیم، چون می‌دانیم قوانین ایمنی برای آن وجود دارد. اگر [هوش مصنوعی] پیشرفته‌ترین فناوری روی کره‌ی زمین است، فکر نمی‌کنم غیرعقلانی باشد که حداقل به اندازه یک کارتن شیر قوانین ایمنی برای آن داشته باشیم.»
اسمیت تلاش‌هایی مانند قانون هوش مصنوعی اروپا را گام‌های مثبتی دانست؛ اما در‌عین‌حال نسبت‌به مقررات بیش از حد نیاز که می‌تواند افزایش هزینه‌ها و آسیب به شرکت‌های نوپا را به همراه داشته باشد، هشدار داد.
ترمز اضطراری برای هوش مصنوعی
یکی از نگرانی‌ها در مورد هوش مصنوعی این است که شبیه به فیلم‌های علمی تخیلی، به مرحله‌ی احساس یا هوشمندی کافی برای آسیب رساندن به بشریت برسد؛ اسمیت با اشاره به این موضوع، توضیح داد که باید مشکلات امروز و فردا را همین حالا حل کنیم؛ او گفت که اتوبوس‌ها و قطارها هم ترمز اضطراری دارند، بنابراین داشتن چنین گزینه‌ای برای هوش مصنوعی منطقی است.
«باید مشکلات امروز و فردا را همین حالا حل کنیم»
اسمیت بر خطرات جدی‌تری که هوش مصنوعیِ کنترل‌نشده می‌تواند داشته باشد، تأکید کرد؛ او گفت: «این برای مقابله با چیزی طراحی شده است که مردم اغلب آن را تهدیدی برای بقای بشریت توصیف می‌کنند، یعنی هوش مصنوعی کنترل‌نشده که به دنبال کنترل یا نابودی بشر باشد. این شبیه تمام فیلم‌های ترمیناتور و حدود ۵۰ فیلم علمی تخیلی دیگر است.»
اسمیت حتی مستقیماً به این مجموعه‌ی کلاسیک علمی-تخیلی اشاره کرد: «یکی از چیزهایی که بعد از ۳۰ سال کار در این صنعت مرا تحت تأثیر قرار می‌دهد، این است که زندگی اغلب از هنر تقلید می‌کند.»
مدیر مایکروسافت ادامه داد: «جالب است که می‌توانید ۵۰ فیلم با یک خط داستانی مشابه داشته باشید: ماشینی که می‌تواند برای خود فکر کند، تصمیم می‌گیرد تا بشریت را به بردگی بکشد یا نابود کند و بشریت مبارزه می‌کند و پیروز می‌شود. این به شما چه می‌گوید؟ اینکه بهتر است راهی برای کند کردن یا خاموش کردن هوش مصنوعی داشته باشیم، به‌خصوص اگر سیستمی خودکار زیرساخت‌های حیاتی را کنترل می‌کند.»
موضع رئیس ردموندی‌ها با حمایت فزاینده از ماشه‌ی مرگ (Kill Switch) یا سایر تدابیر ایمنی برای سیستم‌های پیشرفته‌ی هوش مصنوعی همسو است. اسمیت صراحتاً نتیجه‌گیری کرد: «ترمیناتور قرار نبود یک راهنمای کاربری باشد، فقط یک فیلم جالب هالیوودی بود؛ اما باید از درس‌های آن یاد گرفت.»
البته، چالش‌های مربوط به اینکه چه کسی باید بر مقررات هوش مصنوعی نظارت کند، همچنان باقی است. شرکت‌های فناوری مانند مایکروسافت سازنده‌ی هوش مصنوعی هستند؛ اما از آن سود هم می‌برند. منافع دولت‌ها نیز همیشه منعکس‌کننده‌ی نگرانی‌های مردم نیست.
درنهایت، به نظر اسمیت، تنها همکاری اهمیت دارد: «به نظر من این موضوع بیشتر از آن‌که درباره‌ی این باشد که چه کسی رهبری می‌کند، درباره‌ی این است که چگونه با هم کار می‌کنیم.»