OpenAI برای تشخیص متن‌های ChatGPT واترمارک می‌سازد؛ احتمال کاهش کاربران با انتشار این قابلیت

به‌گفته‌ی وال‌استریت ژورنال، OpenAI از حدود یک سال قبل سیستمی برای افزودن واترمارک به متن‌های تولیدشده با ChatGPT و ابزاری برای تشخیص این واترمارک‌ها توسعه داده است؛ اما درمورد انتشار عمومی ابزارها تردید دارد. از یک‌ طرف، انتشار ابزار مورد بحث اقدامی مسئولانه به‌نظر می‌رسد و از طرف دیگر، امکان دارد به‌ ضرر کسب‌وکارش تمام شود.

واترمارکی که OpenAI در متن‌های تولیدشده با ChatGPT به‌کار می‌برد، با تغییر شیوه‌ی پیش‌بینی کلمات و عبارات بعدی، الگویی قابل‌ تشخیص ایجاد می‌کند.

هرگونه ابزاری که بتواند متن‌های تولیدشده با هوش مصنوعی را تشخیص دهد، می‌تواند برای معلمانی که می‌خواهند از تقلب دانش‌آموزان با استفاده از هوش مصنوعی جلوگیری کنند، بسیار مفید باشد. این شرکت متوجه شده است که افزودن واترمارک به کیفیت خروجی چت‌بات آسیبی نمی‌رساند. همچنین، براساس نظرسنجی انجام‌شده، مردم در سرتاسر جهان با نسبت چهار به یک از ایده‌ی ایجاد ابزاری برای تشخیص محتوای تولیدشده با هوش مصنوعی حمایت می‌کنند.

OpenAI با انتشار پست وبلاگی، توسعه‌ی فناوری واترمارک را تأیید کرد. این شرکت می‌گوید از روش بسیار دقیقی برای تشخیص واترمارک بهره می‌برد که طبق برخی اسناد سطح دقت آن به ۹۹٫۹ درصد می‌رسد و در برابر دستکاری‌های احتمالی مقاوم است؛ البته OpenAI می‌گوید فناوری واترمارک آن، با تکنیک‌هایی مانند بازنویسی متن ازطریق مدل‌های هوش مصنوعی دیگر، دور زده می‌شود.

ظاهراً OpenAI نگران است که استفاده از واترمارک باعث کاهش رضایت کاربران ChatGPT شود. تقریباً ۳۰ درصد از کاربران شرکت‌کننده در نظرسنجی اعلام کرده‌اند که در صورت اجرای سیستم واترمارک، استفاده از این نرم‌افزار را کاهش خواهند داد.

با وجود این نگرانی‌ها، برخی از کارمندان OpenAI باور دارند که واترمارک روش مؤثری است. به‌هرحال، وال‌استریت ژورنال باتوجه‌به نظرات منفی کاربران گزارش می‌دهد که برخی از کارمندان پیشنهاد داده‌اند روش‌های دیگری را که از نظر کاربران کمتر بحث‌برانگیز هستند، امتحان کنند. OpenAI در پست وبلاگی خود می‌گوید در مراحل اولیه‌ی امکان‌سنجی جاسازی متادیتا در متن‌های تولیدشده با هوش مصنوعی است و هنوز نمی‌توان درمورد کارایی این روش اظهارنظر کرد.