ویدئوهای دیپ فیک در ۹ ماه گذشته، دو برابر شده‌اند
ویدئوهای دیپ فیک از مدت‌ها پیش به مشکل مهم و اساسی در دنیای فناوری تبدیل شده‌اند. بحث‌های زیادی پیرامون خطرناک و مضر بودن فناوری جدید برای صنعت رسانه و به‌طور کلی زندگی دیجیتالی وجود دارد. دراین‌میان یک شرکت فعال در حوزه‌ی محتوای دیجیتال تلاش می‌کند تا سطح خطرآفرین بودن ویدئوهای دیپ فیک را با آمار دقیق‌تر نشان دهد.
درحال‌حاضر حداقل ۱۴،۶۷۸ ویدئوی دیپ فیک در اینترنت وجود دارد. این آمار توسط استارتاپی منتشر شد که فناوری‌های کاربردی برای تشخیص ویدئوهای تقلبی این‌چنینی توسعه می‌دهد. در بخش دیگری از آمار می‌خوانیم که اکثر ویدئوهای دیپ فیک، در دسته‌بندی فیلم‌های غیر اخلاقی قرار میگیرند.
استارتاپ آمستردامی Deeptrace در حوزه‌ی تشخیص ویدئوهای فیک فعالیت می‌کند. آن‌ها در ماه دسامبر گذشته آمار ۷،۹۶۴ ویدئوی تقلبی را اعلام کردند که آمار کنونی، ۸۴ درصد بیشتر از آن گزارش می‌شود. آمار جدید در ماه‌های ژوئن و ژوئیه جمع‌آوری شد و قطعا از آن زمان تعداد ویدئوها افزایش داشته است.
سهم عمده‌ای از اخبار پیرامون ویدئوهای دیپ فیک، به سوءاستفاده از آن‌ها در جنگ‌های اطلاعاتی سیاسی مربوط می‌شود. با این وجود دیپ‌تریس در آمار خود ادعا می‌کند که اکثر ویدئوهای تولیدشده، در دسته‌ی فیلم‌های غیر اخلاقی قرار دارند. در آماری که دوشنبه‌ی گذشته منتشر شد، ۹۶ درصد از ویدئوهای دیپ فیک شناسایی‌شده، غیراخلاقی بوده‌اند.
جورجیو پاترینی، مدیرعامل و دانشمند ارشد دیپ‌تریس می‌گوید، آمارهای شرکتش در مدت هفت سال نشان از ظرفیت بالای تولید و انتشار ویدئوهای دیپ فیک دارد. اگرچه بسیاری از ویدئوهای تولیدشده کیفیت بالایی ندارند، هنوز انتشار آن‌ها روی نظر و عقیده‌ی افراد بی‌شمار تأثیرگذار خواهد بود. پاترینی توسعه‌ی چنین رویکردهایی را برای رسانه‌های اجتماعی بسیار خطرناک می‌داند.
دیپ فیک که از ترکیب مفاهیم یادگیری عمیق (Deep Learning) و تقلبی (Fake) ایجاد شده است، از هوش مصنوعی استفاده می‌کند تا افراد را در موقعیت‌هایی غیرواقعی و رفتارهای به دور از حقیقت نشان دهد. ابزار مذکور عمر زیادی ندارد و اولین ویدئو در این دسته در سال ۲۰۱۷ در ردیت دیده شد. در ویدئوی اول هم چهره‌ی بازیگران مشهور در فیلم‌های غیر اخلاقی دیده می‌شد.
تلاش دیپ‌فیک برای شمردن تعداد ویدئوهای آنلاین، منحصربه‌فرد است. همان‌طور که گفته شد، در چالش جدید با فناوری جوانی سر و کار داریم و محصولات آن نیز در سرتاسر وب پراکنده شده‌اند؛ درنتیجه شناسایی محل مناسب برای جست‌وجوی چنین محتوایی دشوار خواهد بود. به‌علاوه اکثر تولیدکننده‌های ویدئوهای ساختگی هم آن‌ها را نشانه‌گذاری نمی‌کنند.
سیاستمداران از تأثیر دیپ فیک بر نظر رأی‌دهنده‌ها نگران هستند
آمار کمتر از ۱۵ هزار عددی که دیپ‌تریس برای ویدئوهای دیپ فیک اعلام می‌کند، درظاهر و در مقایسه با تعداد بی‌شمار ویدئوهای آنلاین، مشکل‌ساز به‌نظر نمی‌رسد. بااین‌حال و با نزدیک شدن به انتخابات ریاست جمهوری ۲۰۲۰ آمریکا، سیاستمداران و قانون‌گذاران نگران سوءاستفاده از فناوری جدید در فریب دادن رأی‌دهنده‌ها هستند. شرکت‌هایی همچون فیسبوک و گوگل به‌قدری نگران تأثیر ویدئوهای دیپ فیک هستند که خودشان نمونه‌هایی را ساخته و برای توسعه‌ی فناوری به‌صورت آزمایشی منتشر کرده‌اند.
پاترینی می‌گوید، دیپ‌تریس برای درک بهتر تهدید ویدئوهای دیپ فیک، آن‌ها را ردگیری و شمارش می‌کند. درواقع آن‌ها به‌دنبال پدیده‌های دیگر مشابه دیپ فیک و محل اصلی انتشار آن‌ها هستند. به‌علاوه شناسایی محل توزیع ابزارهای تولید (مانند آموزش یا نرم‌افزار) هم جزو برنامه‌های اصلی استارتاپ هلندی محسوب می‌شود.
دیپ‌تریس برای شمارش ویدئوهای دیپ فیک از ابزارهای خودکاری استفاده می‌کند که جوامع آنلاین محل بحث و گفت‌وگو و اشتراک‌گذاری دیپ فیک را رصد می‌کنند. از میان آن‌ها می‌توان به وب‌سایت‌های مشهور همچون ردیت و یوتیوب اشاره کرد. البته در یوتیوب عموما ویدئوهای دیپ فیک با خطر و تهدید پایین مشاهده می‌شود. به‌عنوان مثال می‌توان به ویدئویی طنز اشاره کرد که چهره‌ی ایلان ماسک را با یک کودک تعویض کرده است. از نمونه‌های دیگر می‌توان به تغییر چهره‌ی باراک اوباما اشاره کرد که به‌نوعی یک طنز سیاسی بود. مارک زاکربرگ نیز قربانی دیپ فیک شد که با هدف اجرای یک اثر هنری ساخته شده بود.
هزینه‌ی ساخت ویدئوی دیپ فیک تا سه دلار کاهش یافته است
همان‌طور که گفته شد، اکثر ویدئوهای دیپ فیک در دسته‌ی فیلم‌های غیر اخلاقی قرار میگیرند. چنین ویدئوهایی در وب‌سایت‌هایی مختص ویدئوهای دیپ فیک غیر اخلاقی دیده می‌شوند. بیش از ۱۳ هزار عدد از ویدئوهای کشف شده، در آن وب‌سایت‌ها بوده‌اند.
دیپ‌تریس در بخش دیگری از تحقیق خود به فهرست افراد و کسب‌وکارهایی رسید که تولید ویدئوهای دیپ‌تریس را برای مشتریان انجام می‌دهند. یکی از شرکت‌ها ادعا می‌کند که با دریافت ۲۵۰ عکس از سوژه‌ی مورد نظر، در مدت دو روز یک ویدئوی دیپ فیک از او با ویدئوی مورد درخواست مشتری تولید می‌کند. درباره‌ی قیمت پروژه‌های این‌چنینی نیز ارقام پایین همچون سه دلار برای هر ویدئو گزارش شد.
گزارش اخیر تنها به بررسی وب‌سایت‌های انگلیسی‌زبان پرداخته بود، اما پاترینی می‌گوید که در وب‌سایت‌های آسیایی هم انواع ویدئوهای دیپ فیک دیده می‌شود که در دسته‌های معمولی و غیر اخلاقی، بی‌شمار هستند. سم گرگوری، مدیر سازمان غیرانتفاعی Witness، از همکاران سازمان‌های حامی حقوق بشر، افزایش آمار ویدئوهای دیپ فیک را نشانه‌ای نگران‌کننده می‌داند. او می‌گوید، با وجود اینکه آمارها به‌صورت نمایی رشد نمی‌کنند، به‌هرحال رشد آن‌ها نگران‌کننده به‌نظر می‌رسد.