چرا باید درباره فناوری تشخیص چهره نگران باشیم؟

دنیای فناوری با سرعتی آ‌ن‌چنان زیاد حرکت می‌کند که شاید بدون جلب توجه ما،‌ ناگهان جهان مخروبه‌ای را در برابرمان پدیدار کند. تشخیص چهره یکی از دستاوردهای مهم همین جهان محسوب می‌شود که احتمالا ما اکنون در مسیر اوج‌گیری و شاید ضربه زدن آن هستیم. برخی از نام‌های بزرگ فضای فناوری، درحال توسعه‌ی ابزارهای تشخیص چهره‌ی حرفه‌ای و فروش آن‌ها به دولت‌ها در سرتاسر جهان هستند. ازطرفی احتمالا عموم جامعه از خطرهای چنین ابزاری آگاه نیستند.

فناوری مرموز

اولین و بزرگ‌ترین دلیل مخالفت و انتقاد به فناوری تشخیص چهره ماهیت ناخوشایند آن است. افزایش نظارت و کنتل دولت‌ها از سال‌ها پیش نقطه‌‌ای نگران کننده برای مردم محسوب می‌‌شود و فناوری‌های کنونی، جوامع را بیش‌ازپیش به‌سمت آن سوق می‌دهند. فناوری‌هایی همچون نرم‌افزار Rekognition از آمازون، یکی از نگران‌کننده‌ترین دستاوردها در این حوزه محسوب می‌شود که آینده‌ای شامل مخروبه‌ی دنیای فناوری را بیش از همیشه به ما نزدیک نشان می‌دهد.

فناوری Rekognition آمازون در آزمایش‌های متعدد توسط پلیس ایالات متحده به‌‌کار گرفته شد تا امکان اسکن چهره را در محیط‌های عمومی به نیروهای پلیس بدهد. چهره‌های اسکن‌شده، سپس با داده‌های موجود در دیتابیس نیروی پلیس، مقایسه می‌شوند. شاید در نگاه اولیه چنین رویکردی را شبیه به دولت‌های شرور و مستبد حاضر در فیلم‌های علمی‌تخیلی ببینید، اما به‌هرحال این اتفاق اکنون در دنیای واقعی درحال رخ دادن است. همین یک نمونه برای مخالفت عده‌ی زیادی از مردم با فناوری تشخیص چهره، کافی خواهد بود.

اجرا بدون توجه به‌نظر مردم

از دلایل مهم دیگر مشاجره بر سر فناوری تشخیص چهره، می‌توان روند توسعه‌ی آن را مثال زد. درحال حاضر بسیاری از ابزارهای فناوری مرموز، بدون توجه به‌نظر توده‌ی مردم توسعه می‌یابند و حتی به‌ کار گرفته می‌شوند. البته چنین رویکردهایی در دنیای فناوری تازه و عجیب نیستند. هم‌اکنون رفتار ما در شبکه‌های اجتماعی، اکنون و بدون آگاهی خودمان، برای اهداف مشکوکی مورد استفاده و بهره‌برداری قرار می‌گیرد.

بهره‌برداری از اطلاعات چهره‌ی افراد، درمقابل دیگر بهره‌برداری‌های دنیای فناوری اهمیت بیشتری دارد. در سال ۲۰۱۹ یک گزارش ادعا کرد که IBM بدون اجازه‌ی کاربران از عکس‌های موجود در فلیکر برای تربیت هوش مصنوعی خود استفاده می‌کند. به‌علاوه سازمان حفاظت مرزی ایالات متحده نیز از تصویر مسافران برای پرورش برنامه‌ی تشخیص چهره‌ی خود استفاده می‌کرده است.

عملکرد معیوب

از آن‌جایی که سیستم‌‌های تشخیص چهره در کاربردهای دنیای واقعی اسنتفاده می‌شوند، حداقل باید انتظار عملکرد صحیح از آن‌ها داشته باشیم. ازطرفی انواع گزارش‌ها و اخبار نشان می‌دهند که سیستم‌‌ها همیشه عملکرد بی‌نقص ندارند.

در سال ۲۰۱۸ یک مطالعه از ACLU نشان داد که نرم‌افزار Rekognition آمازون برخی از نماینده‌های کنگره‌ی آمریکا را با تصویر مجرمان در دیتاپیس پلیس، برابر تشخیص می‌دهد بخش عمده‌ای از تشخیص‌های اشتباه، شامل نماینده‌های رنگین‌پوست کنگره می‌شد. همین معایب، چالش دیگر فناوری تشخیص چهره را نشان می‌دهد. این فناوری نسبت به افرادی که «مرد سفیدپوست» نباشند، تبعیض قائل می‌شود.

نرم‌افزار Rekognition اکنون توسط دپارتمان‌های پلیس متعدد مورد استفاده قرار می‌گیرد. به‌علاوه شرکت سازنده آن را به ICE نیز عرضه کرده است. باتوجه به معایب تبعیضی نسبت به رنگین‌پوست‌ها که در گزارش‌های بالا کشف شدند، پیاده‌سازی گسترده‌ی فناوری می‌تواند خطرهای عظیمی را برای همه‌ی جوامع به‌همراه داشته باشد. شاید روزی فناوری پیشرفت کند و هم‌اکنون نیز برخی شرکت‌ها همچون مایکروسافت، چالش‌های آن را درک کرده‌اند؛ اما به‌هرحال وضعیت کنونی برای قربانیان تشخیص چهره، قابل‌قبول نیست.

جای خالی تنظیم‌گیری قانونی

همان‌طور که در بخش‌های بالا گفته شد، فناوری تشخیص چهره چالش‌های عملکردی بسیاری دارد. همین چالش‌ها احتمالا باید قانون‌گذاران و تنظیم‌گران را مجاب کند تا سیاست‌های کنترلی بیشتری برای آن وضع کنند. ازطرفی به‌نظر نمی‌رسد در هیچ نقطه از جهان، چنین رویکردی مد نظر مقام‌ها باشد.

دولت آمریکا که با غول‌های بزرگ دنیای فناوری سر و کار دارد، می‌تواند با تنظیم‌گری مناسب، در برابر پیاده‌سازی غلط فناوری موانعی را ایجاد کند. ازطرفی آن‌ها هنوز تشخیص چهره را در مراحل اولیه‌ی توسعه می‌بینند و اقدام‌های جدی برای آن ندارند. به‌هرحال در سال گذشته جلسه‌های استماع متعددی در کنگره‌ی آمریکا برگزار شد که با اجماع هر دو حزب، امیدواری را نسبت به تنظیم‌گیری قانونی بیشتر کرد. البته روند کنونی باز هم برای بسیاری از مردم عالی و کافی نیست، چون آن‌ها به ترکیب کنونی کنگره و دولت آمریکا برای تصویب و اجرای قوانین اعتماد ندارند.

باوجود عدم تصویب قوانین جامع با هدف تنظیم‌گری فناوری تشخیص چهره، در برخی مناطق جهان شاهد پیاده‌سازی قوانینی برای جلوگیری از گسترش بی‌رویه‌ی فناوری هستیم. هرچند تنظیم‌گری منطقه‌ای نمی‌تواند چالش اصلی توسعه را از بین ببرد، اما به‌هرحال امیدواری را نسبت به آینده بیشتر می‌کند. ازطرفی باید اقدام‌هایی همچون تصمیم دولت چین مبنی بر استفاده‌ی همه‌جانبه از فناوری تشخیص چهره برای امتیازدهی به شهروندان را هم در نظر بگیریم که نگرانی‌‌های بسیار زیادی را به‌همراه دارد.