با تکامل فناوری دیپ فیک، تشخیص واقعی یا تقلبی بودن ویدئو کار دشواری شده است. خوشبختانه گروه‌های مختلف شبکه‌های عصبی پیچیده‌ای برای شناسایی چهره‌های جعلی توسعه دادهاند؛ اما دانشمندان علوم رایانه‌ای هفته گذشته راهی یافته‌اند که توسط آن می‌توان حتی قوی‌ترین سیستم‌های تشخیص صحت ویدئو را فریب داد.
براساس گزارش Tech Spot، محققان دانشگاه کالیفرنیا، سن دیگو، تکنیکی ایجاد کرده‌اند که می‌تواند الگوریتم‌های آموزش‌دیده برای کشف فیلم‌های دیپ فیک را فریب بدهد. با استفاده از یک روش دومرحله‌ای، می‌توان جعلی بودن ویدئوی دیپ فیک قابل تشخیص را با اضافه کردن لایه‌‌هایی خاص به هر فریم، کاملا پنهان کرد.
لایه‌های اضافه‌شده در واقع تصاویر دستکاری‌شده‌ای هستند که باعث بروز بی‌نظمی در سیستم یادگیری ماشینی می‌شوند و به همین دلیل، صحت ویدئو به اشتباه تأیید می‌شود. یک مثال قابل درک برای این روش، استفاده از چسب برق و استیکر برای پوشاندن بخشی از علائم راهنمایی و رانندگی است که موجب می‌شود خودروهای خودران فریب بخورند و تابلوها را اشتباه تشخیص بدهند.
البته در این روش، برخلاف تابلوهای دستکاری‌شده، فیلم خدشه‌دار نمی‌شود و نتیجه نهایی تغییری در ظاهر تصویر ایجاد نمی‌کند. این ویژگی از آن جهت مهم است که ویدئوهای دیپ فیک قرار است انسان‌ها و دستگاه‌ها را فریب بدهند و اگر با چشم انسان جعلی بودن آن‌ها قابل تشخیص باشد، دیگر نیازی به استفاده از سیستم خاص برای بررسی کردن این مسئله نیست. محققان در این زمینه دو نوع حمله را تشخیص دادهاند که یکی «جعبه سفید/ White Box» و دیگری «جعبه سیاه/ Black Box» نام دارد. هر دوی این روش‌ها به قدری پیشرفت کرده‌اند که می‌توانند حتی پیشرفته‌ترین سیستم‌های تشخیص را فریب بدهند.
از چند سال پیش که ویدیوهای مختلفی با تکنیک‌های دیپ فیک ساخته و در فضای مجازی منتشر شد، بحث و جدال زیادی سر این فناوری به وجود آمده است. ابتدا بسیاری از سلبریتی‌ها به دلیل شباهت بسیار بالای مدل‌های تقلبی در ویدئوهای دیپ فیک به آنان خشمگین شدند. اما همان‌طور که این فناوری پیشرفت کرد و ویدئوهای جدیدتری منتشر شدند، مشخص شد که دیپ فیک می‌تواند برای تبلیغات یا اهداف پلیدتری مورد استفاده قرار بگیرد.
دانشگاه‌ها اولین مراکزی بودند که الگوریتم‌هایی برای شناسایی ویدئوهای تقلبی ایجاد کردند و به دنبال آن، وزارت دفاع ایالات متحده آمریکا به‌سرعت آن را پیگیری کرد. چندین غول فناوری از جمله توییتر، فیسبوک و مایکروسافت نیز در حال توسعه روش‌هایی برای شناسایی ویدئوهای جعلی هستند. محققان می‌گویند بهترین روش برای مبارزه با این تکنیک، آموزش سیستم‌های هوش مصنوعی که برای اینکار طراحی شده‌اند.
نظر شما کاربران زومیت درباره‌ی این فناوری و روش‌های مقابله با آن چیست؟ آیا می‌توان روزی همه‌ی ویدئوهای تقلبی را تشخیص داد؟
نظرات