تقلب با هوش مصنوعی؛ خالق ChatGPT مچ دانشجوهای متقلب را می‌گیرد؟

OpenAI ابزاری ساخته است که می‌تواند تکالیف یا هر متن دیگری را شناسایی کند که با ChatGPT و به درخواست دانش‌آموزان نوشته شده است. به‌گفته‌ی وال استریت ژورنال، این شرکت در حال بررسی این موضوع است که آیا واقعاً آن را منتشر کند یا خیر.

سخن‌گوی OpenAI تأیید کرده است که این شرکت در حال تحقیق روی روش واترمارک‌گذاری متن است؛ اما به‌دلیل پیچیدگی‌های موجود و تأثیر احتمالی آن بر اکوسیستم گسترده‌ی فراتر از خود OpenAI، رویکردی محتاطانه در پیش گرفته است.

وی افزود: «روش واترمارک‌گذاری متنی که در حال توسعه‌ی آن هستیم، از‌نظر فنی عملکرد مطلوبی دارد؛ اما در این راه مشکلات و تهدیداتی وجود دارد که در حال بررسی آن هستیم. واترمارک‌گذاری متن می‌تواند برای کاربرانی مشکل‌ساز باشد که از زبانی به‌جز زبان انگلیسی استفاده می‌کنند.»

روش واترمارک‌گذاری متنی جدید از اکثر تلاش‌های قبلی برای تشخیص متن تولید‌شده با هوش مصنوعی متفاوت خواهد بود. حتی خود OpenAI نیز سال گذشته ردیاب متن هوش مصنوعی قبلی خود را به‌دلیل دقت نه‌چندان زیاد از کار انداخت.

با روش جدید واترمارک‌گذاری متن، OpenAI صرفاً روی تشخیص متن‌های نوشته‌شده با ChatGPT تمرکز خواهد کرد، نه مدل‌های زبانی دیگر. این کار با ایجاد تغییرات کوچک در نحوه‌ی انتخاب کلمات به‌واسطه‌ی ChatGPT انجام می‌شود و درواقع واترمارک نامرئی در متن ایجاد می‌کند که بعداً می‌تواند با ابزار جداگانه تشخیص داده شود.

OpenAI به‌تازگی با انتشار پستی رویکرد خود را در‌قبال تشخیص محتوای تولید‌شده با هوش مصنوعی به‌روز کرد. طبق گفته‌های جدید OpenAI، روش واترمارک‌گذاری جدید در‌برابر دست‌کاری‌های موضعی مانند تغییر پاراگراف مؤثر است.

OpenAI ادعا می‌کند که روش جدید واترمارک‌گذاری متن حتی می‌تواند با وجود دست‌کاری‌هایی مانند سیستم‌ها ترجمه و بازنویسی با سایر مدل‌های مولد، متن ساخته‌شده با هوش مصنوعی را تشخیص دهد.