برنامههای تشخیص تصاویر هوش مصنوعی بهراحتی فریب میخورند
طی ماههای اخیر عکسهای ساختهشده با هوش مصنوعی در حوزههای مختلف از تبلیغات جعلی گرفته تا سرقت آثار هنری، موجی از اطلاعات نادرست آنلاین را به راه انداختهاند.
نیویورک تایمز گزارش داده که نرمافزار تشخیص تصاویر ساختهشده با هوش مصنوعی، یکی از راهکارهایی است که میتوان از آن برای جلوگیری از انتشار اطلاعات نادرست تولیدشده با هوش مصنوعی بهره گرفت؛ اکنون این نشریه اعلام کرده امکان فریب سیستمهای تشخیص تصاویر هوش مصنوعی با روشی بسیار ساده وجود دارد.
تجزیهوتحلیل نیویرک تایمز نشان میدهد وقتی به عکسهای ساختهشده با هوش مصنوعی، بافت اضافه کنید، احتمال اینکه نرمافزارها آن را بهعنوان عکس تولیدشده با ابزارهای هوش مصنوعی در نظر بگیرند از ۹۹ درصد به ۳٫۳ درصد کاهش مییابد. این روش حتی روی Hive یکی از بهترین نرمافزارهای تشخیص تصاویر ساختهشده با هوش منصوعی نیز کار میکند و با اعمال بافت به عکسها میتوان این برنامه را فریب داد.
سینتیا رودین، استاد علوم کامپیوتر و مهندسی در دانشگاه دوک، در گفتوگو با نیویورک تایمز گفت: «با گسترش استفاده از ابزارهای تولید عکس مبتنیبر هوش مصنوعی، نرمافزارهای بهتری برای تشخیص این نوع تصاویر توسعه داده میشود.»
تحلیل نیویرک تایمز در حالی انجام میشود که کاربران بهطور فزایندهای از اطلاعات نادرست تولیدشده با هوش مصنوعی در فضای آنلاین سوءاستفاده میکنند.
نظرات