تصویرسازی چهره مجرمان با هوش مصنوعی؛ ابزاری کاربردی یا ماشینی برای نژادپرستی؟
کاربردهای نامناسب متعددی برای هوش مصنوعی وجود دارد؛ اما استفاده از آن برای ایجاد طرح‌های پلیسی از مظنونان کمی عجیب به‌نظر می‌رسد.
به‌گزارش Vice، توسعه‌دهندگان مستقل برنامه‌ای به نام Forensic Sketch AI-rtist را ساخته‌اند که از ابزار هوش مصنوعی DALL-E 2 شرکت OpenAI برای ایجاد طرح‌های ترکیبی واقعی از مظنونان بهره می‌برد.
به‌گفته‌ی توسعه‌دهندگان، آنان هنوز Forensic Sketch AI-rtist را منتشر نکرده‌اند؛ اما در حال برنامه‌ریزی برای همکاری با اداره‌های پلیس برای دسترسی به داده‌های ورودی آزمایشی هستند.
به‌نوشته‌ی فیوچریسم، Forensic Sketch AI-rtist با ارائه‌ی الگوی پرکننده به کاربران کار می‌کند. این برنامه جنسیت، سن، رنگ پوست، مو، ابرو، چشم، بینی، ریش و حتی شرح فک مظنونان را می‌پرسد و پس از پرکردن فرم، تنها کاری که کاربر باید انجام دهد، این است که تعدادی از تصاویر مدنظر خود را انتخاب و روی Generate Profile کلیک کند.
در مرحله‌ی بعد، سیستم با استفاده از الگوریتم‌های هوش مصنوعی DALL-E، طرح‌های مدنظر را ایجاد می‌کند. به‌گفته‌ی متخصصان، این رویکرد نقض ذاتی دارد؛ زیرا روش کار آن با نحوه‌ی به‌خاطرسپردن چهره‌ها در ذهن انسان‌ها درتصاد است.
جنیفر لینچ از بنیاد Electronic Frontier به Vice گفت:
تحقیقات نشان می‌دهد انسان‌ها چهره‌ها را به‌طور‌کلی به‌یاد می‌آورند و نه براساس ویژگی‌های جزئی. فرایند طراحی مبتنی‌بر هوش مصنوعی که بر توصیف ویژگی‌های فردی متکی است، می‌تواند چهره‌ای ایجاد کند که با چهره‌ی مجرم اصلی بسیار تفاوت داشته باشد.- جنیفر لینچ
علاوه‌براین، نباید قابلیت‌های برنامه‌ی هوش مصنوعی را درباره‌ی تعصبات و به‌خصوص تعصبات نژادی نادیده گرفت. گفتنی است قبلاً بارها گزارش‌هایی درباره‌ی تعصبات نژادپرستانه و زن‌ستیزانه در هوش مصنوعی DALL-E 2 شرکت OpenAI منتشر شده است.
ساشا لوچونی، محقق Hugging Face، شرکت فعال درزمینه‌ی پروژه‌های هوش مصنوعی منبع‌باز می‌گوید:
برخی گرو‌ه‌هایی که درحال‌حاضر به‌دلیل فقدان نظارت و سوگیری‌های موجود در مجموعه داده‌ها به حاشیه رانده شده‌اند، با این فناوری‌ها حتی بیشتر از قبل به حاشیه رانده خواهند شد؛ زیرا بازنمایی‌های زیادی از افراد رنگین‌پوست در اینترنت وجود دارد که درحال‌حاضر، بسیار گسترده هستند. این موضوع نشان‌دهنده‌ی نژادپرستی و ناعدالتی علیه این دسته از مردم جهان است.- ساشا لوچونی
اثر نهایی آنچه گفته شد، زنجیره‌ای از تعصبات است که شاهدان و پلیسی که از آن‌ها سؤال می‌کند و حالا هوش مصنوعی معیوب و متمرکز و دارای تعصبات ذاتی را دربر می‌گیرد.
نظرات