ادعایی عجیب: خودروهای خودران در شناسایی سیاه‌پوستان و کودکان، متعصبانه عمل می‌کنند
خودروهای بدون راننده با ایجاد ترافیک، گیرکردن در سیمان و زیر گرفتن پلیس قبلاً به سرتیتر بسیاری از رسانه‌ها تبدیل شده‌اند. اکنون نتایج مطالعات محققان نشان می‌دهد مشکلات پایه‌ای عملکرد این سیستم‌ها سرنخ‌هایی از مشکلات عمیق‌تر را نشان می‌دهد که در فناوری زیربنایی وسایل نقلیه‌ی خودران نهفته است.
مطالعه‌ای محققان کالج کینگ در لندن که نتایج آن هنوز موردبررسی قرار نگرفته، به عملکرد ۸ سیستم هوش مصنوعی تشخیص عابر پیاده می‌پردازد. این سیستم‌ها با مجموعه داده‌های پرکاربرد در دنیای واقعی آموزش داده‌اند و نتایج مطالعه نشان می‌دهد در شناسایی عابران پیاده با پوست تیره نسبت به عابران پیاده با پوست روشن، عملکرد ضعیف‌تری دارد.
درواقع سیستم‌های رانندگی خودکار در شناسایی افراد تیره پوست حدود ۸ درصد ضعیف‌تر از شناسایی افرادی که پوست روشن دارند عمل می‌کند و این موضوع خطرات بالقوه و بسیار مهم سیستم‌های هوش مصنوعی تعصبی را نشان می‌دهد.
محققان ابتدا زمان زیادی را صرف حاشیه‌نویسی گستره‌ی داده‌ها کردند. آن‌ها درمجموع ۸۱۱۱ تصویر را با ۱۶۰۷۰ برچسب مربوط به جنسیت، ۲۰۱۱۵ برچسب مربوط به سن و ۳۵۱۳ برچسب مربوط به رنگ پوست علامت‌گذاری کردند.
محققان پس از بررسی سیستم‌های هوش مصنوعی تشخیص عابران پیاده متوجه تفاوت دقت تشخیص ۷٫۵۲ درصدی بین افراد روشن پوست و تیره پوست شدند. طبق این تحقیقات، خطر عدم شناسایی برای افرادی که پوست تیره‌تری دارند، در مکان‌هایی که نور یا کنتراست کم باشد (مثلاً هنگام شب)، به‌طور قابل‌توجهی افزایش می‌یابد.
سیستم‌های رانندگی خودکار که با هوش مصنوعی کار می‌کنند علاوه‌بر تعصب نژادی، نقطه‌ی کور جمعی و البته بسیار نگران‌کننده‌ی دیگری هم دارند. نکته‌ی خطرناک درمورد مطالعه‌ی محققان این است که سیستم‌های مذکور در تشخیص کودکان نسبت به بزرگ‌سالان حتی تا ۲۰ درصد ضعیف‌تر عمل می‌کنند.
توجه به این نکته اهمیت دارد که سیستم‌های بررسی‌شده در مطالعه‌ی محققان کالج کینگ درواقع متعلق به شرکت‌های سازنده‌ی خودروهای بدون‌راننده نبودند، زیرا چنین اطلاعاتی به‌طور کلی بخشی از داده‌های اختصاصی درنظر گرفته می‌شود.
لی ژانگ مدیر علوم کامپیوتر در کالج کینگ و یکی از نویسندگان مطالعه‌ی مذکور به نیوساینتیست گفت مدل‌هایی که شرکت‌های خودروساز از آن‌ها در سیستم‌های رانندگی خودکار استفاده می‌کنند احتمالاً چندان دور از دسترس نیستند و با توجه به اینکه وسایل نقلیه‌ی بدون راننده طی سال‌های اخیر موفقیت‌های بزرگی در بخش مقررات کسب کرده‌اند، شرایط می‌تواند بسیار ناراحت‌کننده باشد.
ژانگ می‌گوید:
این، اطلاعات محرمانه‌ی آن‌ها است و به دیگران اجازه نمی‌دهند از نوع مدل‌های مورداستفاده در خودروهایشان خبر داشته باشند. به‌هرحال می‌دانیم مدل‌های سفارشی شرکت‌ها معمولاً براساس مدل‌های منبع‌باز کنونی ساخته می‌شوند و می‌توان اطمینان داشت مدل‌های آن‌ها نیز باید مشکلات مشابهی داشته باشند.- لی ژانگ، کالج کینگ
بر کسی پوشیده نیست که سوگیری ماشین، مسئله‌ای بسیار جدی است و با ادغام فناوری پیشرفته‌ی هوش مصنوعی در زندگی روزمره، پیامدهای آن واضح‌تر خواهد بود.