دانشمندان با دیپ‌فیک می‌توانند خاطرات جعلی در ذهن افراد بکارند

محققان با نمایش کلیپ‌هایی از فیلم‌های بازسازی‌شده‌ای که هرگز واقعاً تولید نشده‌اند، نشان دادند که می‌توان خاطرات نادرست را ذهن افراد ثبت کرد.

ژورنال PLOS One اخیراً مقاله‌ای منتشر کرده که توضیح‌ می‌دهد فیلم‌های ساخته‌شده با دیپ‌فیک، به‌اندازه‌ی کافی قانع‌کننده بودند تا شرکت‌کنندگان در این آزمایش را فریب دهند؛ زیرا بسیاری از آن‌ها باور کردند کلیپ‌های جعلی تولیدشده با هوش مصنوعی، واقعی هستند. برخی تا آنجا پیش رفتند که فیلم‌های جعلی را بهتر از نمونه‌های اصلی می‌دانستند. در یکی از آن‌ها ویل اسمیت در نسخه‌ی بازسازی‌شده‌ی ماتریکس بازی کرده بود.

البته مقاله‌ی PLOS One، هشداری بسیار مهم به‌همراه داشت. در این مقاله گفته شده: «دیپ‌فیک‌ها در تحریف حافظه، مؤثرتر از توصیف‌های متنی ساده نبودند.»

گیلیان مورفی، نویسنده‌‌ی اصلی مقاله‌ی فوق که در دانشگاه کورک ایرلند در زمینه‌ی شناسایی اطلاعات نادرست تحقیق می‌کند در گفت‌وگو با دیلی بیست توضیحاتی ارائه داد.

نباید به پیش‌بینی آینده‌های دیستوپیایی براساس ترس‌های خود درمورد فناوری‌های نوظهور بپردازیم. بله مضرات بیسار زیادی در دیپ‌فیک‌ها وجود دارد اما همیشه باید در وهله‌ی اول و قبل‌از عجله برای حل مشکلاتی که احتمال می‌دهیم وجود دارند، شواهدی برای این آسیب‌‌ها جمع‌آوری کنیم.

- گیلیان مورفی

محققان به ۴۳۶ شرکت‌کننده، کلیپ‌هایی از ویدیوهای دیپ‌فیک نشان دادند که ازجمله می‌توان به حضور برد پیت در فیلم The Shining و شارلیز ترون در نقش اصلی Captain Marvel اشاره کرد.

خوشبختانه راهکارهایی وجود دارد که می‌توان با استفاده از آن‌ها دیپ‌فیک‌ها را شناسایی کرد. درحال حاضر می‌توان گفت برای اولین‌بار مردم با دسترسی به فناوری‌های لازم، سواد کافی برای تشخیص محتوای تولیدشده با دیپ‌فیک از محتوای واقعی را دارند.

ازطرفی، هوش مصنوعی مولد با گذشت زمان، محتوای قانع‌کننده‌تری تولید می‌کند و این یعنی باید قبل‌از اینکه فناوری فرصت بازنویسی گذشته را پیدا کند نسبت‌به پیشرفت‌های این حوزه بسیار هوشیار باشیم.