چت‌بات متا می‌گوید این شرکت از کاربران خود سوءاستفاده می‌کند

متا می‌گوید چت‌بات هوش مصنوعی جدید آن موسوم به ‌BlenderBot 3 می‌تواند تقریباً درمورد هر موضوعی صحبت کند. این ربات در پاسخ به سؤالی با این مضمون که مدیرعامل و مؤسس این شرکت، چه فکری در سر دارد؛ گفت:

کشور ما تقسیم شده است و او به‌هیچ‌وجه کمکی به این کار نکرد.

متا می‌گوید چت‌بات جدید مبتنی‌بر هوش مصنوعی این شرکت فعلاً یک نمونه‌ی اولیه است و امکان دارد پاسخ‌های بی‌ادبانه یا حتی توهین‌آمیز ارائه دهد. یکی از سخنگویان این شرکت گفت:

همه‌ی افرادی که از Blender Bot استفاده می‌کنند باید اذعان کنند که می‌دانند این ربات فقط برای اهداف تحقیقاتی و سرگرمی ایجاد شده است و می‌تواند اظهارات نادرست یا توهین آمیز داشته باشد.

شایان‌ ذکر است Blender Bot 3 از مدتی قبل برای عموم دردسترس قرار گرفت و فعلاً فقط کاربران آمریکایی می‌توانند از آن استفاده کنند. این برنامه همچنین از داده‌های زبان عمومی یاد می‌گیرد. وقتی درمورد مارک زاکربرگ از این چت‌بات سؤال شد، این پاسخ را ارائه کرد:

او کار وحشتناکی در شهادت دادن درمقابل کنگره انجام داد. این باعث می‌شود نگران کشورمان باشم.

آقای زاکربرگ چندین‌بار ازطرف سیاست‌مداران آمریکایی مورد بازجویی قرار گرفته است که مهم‌ترین آن‌ها به‌سال ۲۰۱۸ بر می‌گردد. چت‌بات متا در ادامه گفت:

کشور ما تقسیم شده است و او به‌هیچ‌وجه در این زمینه کمکی نکرد. شرکت او برای کسب پول مردم را استثمار می‌کند و اهمیتی نمی‌دهد که چنین روندی باید متوقف شود.

متا به‌دلیل این‌ که برای جلوگیری از انتشار نادرست اطلاعات و سخنان حاوی نفرت‌پراکنی در پلتفرم‌های خود، اقدامات کافی انجام نداده، بارها مورد انتقاد قرار گرفته است. سال گذشته یکی از کارمندان سابق غول رسانه‌های اجتماعی، این شرکت را به اولویت دادن سود به امنیت متهم کرد.

به‌نوشته‌ی BBC، الگوریتم BlenderBot 3 برای ارائه‌ی پاسخ‌، در اینترنت جست‌وجو می‌کند. این احتمال وجود دارد که این بات از دیدگاه‌هایی که دیگران درمورد زاکربرگ ارائه کرده‌اند برای پاسخ دادن استفاده کرده باشد.

وال‌استریت‌ژورنال گزارش داده که BlenderBot 3 به‌یکی از روزنامه‌نگاران این نشریه گفته است که دونالد ترامپ، رئیس‌جمهور ایالات متحده بوده و همیشه خواهد بود. یکی از خبرنگاران بیزنس‌اینسایدر نیز چت‌بات زاکربرگ را بسیار وحشتناک توصیف کرد.

متا چت‌بات BlenderBot 3 را عمومی کرده و به‌دلایلی خطر تبلیغات بد را به‌ جان خریده است، زیرا برای پیشبرد اهداف این هوش مصنوعی به جمع‌آوری داده نیاز دارد.

متا در پستی وبلاگی گفت که اجازه دادن به یک سیستم‌ هوش مصنوعی برای تعامل با مردم در دنیای واقعی، منجر به مکالمات طولانی‌تر و متنوع‌تر و همچنین دریافت بازخوردهای متفاوت‌تر خواهد شد. درواقع چت‌بات‌ها، از تعامل با مردم موارد جدیدی یاد می‌گیرند. در سال ۲۰۱۶ نیز مایکروسافت پس از این‌ که کاربران توییتر چت‌بات این شرکت را با جمله‌های نژادپرستانه آموزش دادند، آن را غیرفعال کرد.

متا قبول دارد که ‌BlenderBot 3 می‌تواند جمله‌های نادرستی ارائه دهد و از زبانی تقلید کند که می‌تواند ناامن، جانب‌دارانه یا توهین‌آمیز باشد. این شرکت می‌گوید لایه‌های محافظتی خاصی برای جلوگیری از این نوع یادگیری‌ها در بات خود اعمال کرده است اما بازهم امکان دارد این هوش منصوعی از عبارت‌های نامناسب استفاده کند.