گوگل پرسش‌های مربوط‌به انتخابات را در چت‌بات جمنای محدود کرد

گوگل اعلام کرد که پاسخ‌های چت‌بات جمنای در خصوص انتخابات را محدود کرده است. این شرکت در بیانیه‌ای نوشت: «به دلیل احتیاط فراوان در مورد چنین موضوع مهمی، ما شروع به ایجاد محدودیت‌هایی در مورد انواع سؤالات مربوط به انتخابات کرده‌ایم.»

اعمال محدودیت گوگل برای جمنای درحالی صورت می‌گیرد که چندی پیش این شرکت ابزار تولید تصویر جمنای را به‌دلیل ساخت تصاویر نادرست و ارائه‌ی پاسخ‌های بحث‌برانگیز در مورد بنیان‌گذاران آمریکا و سربازان نازی متوقف کرد.

براساس داده‌های شرکت Clarity که در حوزه‌ی هوش مصنوعی فعال است، افزایش محتوای تولید‌شده توسط هوش مصنوعی منجر به نگرانی‌های جدی درباره‌ی انتشار اطلاعات نادرست مرتبط با انتخابات شده است، به طوری که تعداد دیپ‌فیک‌های تولیدشده از شخصیت‌های انتخاباتی حدود ۹۰۰ درصد افزایش یافته است.

جاش بکر، سناتور دموکرات کالیفرنیا، می‌گوید نقش هوش مصنوعی در گمراه کردن رأی‌دهندگان جای نگرانی دارد.

فناوری‌های تشخیص و واترمارکینگ مورد استفاده برای شناسایی دیپ‌فیک‌ها به اندازه‌ی کافی پیشرفت نکرده‌اند؛ حتی اگر پلتفرم‌های ارائه‌دهنده‌ی هوش مصنوعی واترمارک‌های نامرئی و انواع خاصی از متادیتا را ایجاد کنند همچنان راه‌هایی برای دور زدن این اقدامات حفاظتی وجود دارد.

شرکت‌های فعال در حوزه‌ی هوش مصنوعی از جمله گوگل پیش‌بینی می‌کنند بخش زیادی از درآمدشان در سال‌های آینده از این حوزه تأمین شود و با وجود محدودیت‌ها، به سرمایه‌گذاری و تلاش برای ساخت مدل های پیشرفته‌تر و کارآمدتر ادامه می‌دهند.