موزیلا به کمک کاربران، سیستم معیوب پیشنهاد ویدیوی یوتیوب را بررسی میکند
الگوریتم پیشنهاد ویدئو در یوتیوب در بسیاری از موارد موجب گمراهی کاربران میشود. ویدیوهای پیشنهادی برخی اوقات هیچ ارتباطی با قصد و نیت اولیهی شما ندارند و شاید در نهایت، کاربر را در مسیری کاملا اشتباه قرار دهند. ویدیوهای پیشنهادی در بسیاری از موارد بهصورت کاملا عجیبی شخصی میشوند و محتوایی کاملا نامربوط دارند. موزیلا با معرفی افزونهای جدید بهنام RegretsReporter تصمیم دارد تا با همکاری کاربران، پیشنهادهای عجیب و نامربوط یوتیوب را شناسایی کند. این افزونه در فرایند جمعسپاری تلاش میکند تا درک بهتری از الگوریتم پیشنهاد یوتیوب به کاربران دهد و جزئیات کشفشده از الگوها را منتشر کند.
موزیلا سال گذشته طی برنامههایی، روایتهای پیشنهاد ویدیوی یوتیوب را از کاربران دریافت کرد. بهعنوان مثال، کاربری که بهدنبال ویدئو دربارهی وایکینگها بود، درنهایت با ویدیویی مربوط به برتری نژاد سفید روبهرو شد. کاربری دیگر که ویدیوهایی با کلمهی کلیدی «fail» را جستوجو میکرد، در نهایت محتوایی شامل تصادفهای خطرناک خودرویی را در مقابل خود دیده بود.
الگوریتم پیشنهاد ویدیوی یوتیوب برخی اوقات کاربر را گمراه میکند
تاکنون هیچگاه فعالیت مستقلی در مقیاس بزرگ با هدف ردگیری و بررسی الگوریتم پیشنهادی یوتیوب اجرا نشده است. درواقع همیشه جای یک بررسی خالی بوده است که چگونگی انتخاب یک ویدئو را برای پیشنهاد در یوتیوب تحلیل کند. سخنگوهای موزیلا اعتقاد دارند بالاخره باید چنین تحلیل مستقلی روی سیستم یوتیوب انجام میشد.
اشلی بوید، معاون ارشد موزیلا دربارهی تلاشهای اخیر شرکتش میگوید: «همیشه در موضوع اطلاعات غلط، توجه زیادی به فیسبوک میشود که البته دور از انصاف هم نیست. ازطرفی المانهای متعدد دیگری هم در اکوسیستم دیجیتال وجود دارند که تاکنون توجه زیادی دریافت نکردهاند و یوتیوب یکی از آنها است. ما گفتههای یوتیوب را بررسی کردیم و متوجه شدیم که آنها به نگرانیها واکنش دادهاند. یوتیوب میگوید که در مسیر بهبود قرار دارد، اما هیچ راهی برای بررسی و تأیید ادعای آنها نیست».
یکی از سخنگوهای یوتیوب در واکنش به اخبار جدید ادعا کرد که شرکت همیشه از تحقیق روی الگوریتمهای پیشنهادیاش استقبال میکند. البته او در ادامه میگوید که سیستم پیشنهاددهی یوتیوب همیشه در مسیر توسعه و بهبود قرار دارد و نمیتوان تنها با چند شکایت و روایت محدود، مرزی مشخص برای تشخیص اشکالهای الگوریتم پیدا کرد. به گفتهی سخنگوی یوتیوب، آنها تنها در سال گذشته بیش از ۳۰ تغییر را در ساختار پیشنهاددهی پیاده کردهاند تا پیشنهادهای خارج از عرف را بهبود دهد.
پلتفرم تحت مالکیت گوگل تاکنون بارها متعهد به بهبود الگوریتم پیشنهاد خود شده است. مدیران یوتیوب در مصاحبههای گوناگونی پیشنهادهای اشتباه الگوریتم و هدایت کاربران بهسمت ویدیوهای نفرتپراکنی و تئوری توطئه را تأیید کردهاند.
افزونهی جدید موزیلا، دادههای ارسالی ازسوی کاربران را به این شرکت ارائه میکند. در میان دادههای ارسالی، دورهی زمانی مراجعهی کاربر به یوتیوب وجود دارد، اما اطلاعاتی دربارهی موضوع جستوجو و ویدیوهای مشاهدهشده ارائه نمیشود، مگر اینکه خود کاربر برای ارسال آن دادهها ابراز تمایل کند. کاربران میتوانند با استفاده از افزونه، جزئیات بیشتری از ویدیوهای نامناسب (با اصطلاح تأسفبرانگیز در افزونه لحاظ شدهاند) پیشنهادی را به موزیلا ارسال کنند. این اطلاعات به موزیلا کمک میکند تا جزئیات بیشتری دربارهی ویدیوی گزارششده جمهعآوری کرده و چگونگی هدایت کاربر به ویدئو را هم تحلیل کند.
موزیلا امیدوار است که افزونهی جدید، چگونگی فرایند پیشنهاد را در الگوریتم یوتیوب کشف کند و بهسمت شفافسازی بیشتر پیش برود. آنها در تحلیل خود بهدنبال پاسخ به این سؤالها هستند که کدام نوع از ویدیوهای پیشنهادی، به محتوای نژادپرستانه، خشونتآمیز یا توطئهآمیز منجر میشوند. در هدفی دیگر، موزیلا تلاش میکند تا الگوی زمانی پیشنهاد محتوای خطرناک را در یوتیوب استخراج کند.
بوید در ادامهی صحبتهایش دربارهی افزونه و برنامهی جدید میگوید: «من بسیار علاقه دارم که مردم، تأثیر هوش مصنوعی را خصوصا در این حوزه و سیستم پیشنهاد ویدئو روی زندگی خود متوجه شوند. این تأثیر و فرایند نباید مرموز و ناشناس باشد و ما میتوانیم با شفافیت بیشتر، کنترل روی آن را افزایش دهیم».
سخنگوی موزیلا میگوید در جریان فرایند بررسی و تحلیل الگوریتم یوتیوب، حریم خصوصی کاربران کاملا حفظ میشود. دادههای دریافتی از افزونه، به یک ID حساب کاربری متصل میشوند که بهصورت کاملا تصادفی ساخته شده است و هیچ ارتباطی با حساب کاربری فرد در یوتیوب ندارد. بهعلاوه، تنها موزیلا به دادههای خام دسترسی خواهد داشت. این افزونه، دادههای موجود در پنجرههای خصوصی مرورگر را جمعآوری نمیکند. درنهایت در گزارشی که با تکیه بر دادههای دریافتی منتشر خواهد شد، حداکثر تلاش به کار گرفته میشود تا تهدید شناسایی کاربران به حداقل برسد.
موزیلا در تحقیقات جدید دربارهی الگوریتم پیشنهاد یوتیوب، هیچگونه قرارداد رسمی با گوگل یا یوتیوب ندارد. البته بوید میگوید آنها با یوتیوب در ارتباط بودهاند و متعهد به اشتراک نتیجهی تحقیقات هستند. البته یوتیوب میگوید فناوری مورد استفاده توسط موزیلا کمی بحثبرانگیز است و نمیتوان اصطلاح «تأسفبرانگیز» را در تنظیمات و جزئیات افزونه، بهخوبی تحلیل کرد.
فرایند جمعآوری اطلاعات در افزونهی جدید موزیلا به مدت ۶ ماه انجام میشود و پس آن نتایج دراختیار کاربران و یوتیوب قرار میگیرد. بوید در پایان صحبتهایش میگوید: «ما معتقد هستیم که یوتیوب تعهدی کامل نسبت به رفع مشکل دارد. امیدوار هستیم که نتایج تحقیقات، اطلاعات بهتری را دراختیار آنها قرار دهد و منجر به بهبودهای جدی در سیستم پیشنهاد محتوا شود».
نظرات