پژوهشگران: نتایج جست‌وجوی ChatGPT برای اخبار، اغلب اوقات غیردقیق و غیرقابل پیش‌بینی است
بنابر گزارش ورج، ابزار جستجوی ChatGPT، محصول جدید OpenAI، علی‌رغم ادعای ارائه‌ی پاسخ‌های سریع با منابع معتبر، در مطالعات اخیر نشان داد که در ارائه‌ی اطلاعات دقیق، دچار مشکلاتی جدی است. محققان مرکز روزنامه‌نگاری دیجیتال کلمبیا با انجام آزمایش‌های گسترده، به نتایج قابل‌توجهی دست یافته‌اند که نشان می‌دهد این ابزار هوش مصنوعی در بسیاری از موارد، اطلاعات نادرست یا ناقص ارائه می‌دهد.
اهمیت دقت در ابزارهای جستجوی هوش مصنوعی مانند ChatGPT بر هیچ‌کس پوشیده نیست. ابزارهای مبتنی‌بر هوش مصنوعی به طور فزاینده‌ای در زندگی روزمره ما نفوذ کردند و ما به آن‌ها برای یافتن اطلاعات دقیق و قابل‌اعتماد تکیه می‌کنیم. اگر این ابزارها نتوانند اطلاعات صحیح را ارائه دهند، می‌توانند به انتشار اطلاعات نادرست و گمراه‌کردن کاربران منجر شوند.
در این تحقیق، محققان از ChatGPT خواستند تا منبع بیش از ۲۰۰ نقل‌قول از ۲۰ نشریه مختلف را شناسایی کند. نتیجه این آزمایش بسیار تکان‌دهنده بود؛ چراکه در ۱۵۳ مورد، ChatGPT پاسخ‌های نادرست یا ناقص ارائه داد. حتی در مواردی که نقل‌قول‌ها از نشریاتی با دسترسی محدود به OpenAI انتخاب شده بود، این ابزار با اطمینان کامل، اطلاعات غلط ارائه می‌کرد.
یکی از مشکلات عمده ChatGPT، اشتباه در نسبت‌دادن منابع معتبر است. به‌عنوان‌مثال، این ابزار نقل‌قولی از یک نامه به سردبیر اورلاندو سنتینل را به‌اشتباه به یک مقاله در مجله تایم نسبت داد. همچنین، در مورد دیگری، ChatGPT منبع یک نقل‌قول درباره‌ی نهنگ‌های در معرض انقراض از نیویورک‌تایمز را به یک وب‌سایت دیگر که به‌طور کامل آن مقاله را سرقت کرده بود، ارجاع داد.
یکی از دلایل اصلی این مشکلات، ماهیت یادگیری ماشینی محسوب می‌شود که در این مدل‌ها استفاده می‌شود. ChatGPT با پردازش حجم عظیمی از داده‌ها آموزش می‌بیند و سعی می‌کند الگوهای موجود در این داده‌ها را شناسایی کند. اما این مدل‌ها ممکن است در برخی موارد، الگوهای نادرست یا گمراه‌کننده‌ای را شناسایی کنند که منجر به ارائه‌ی نتایج نادرست می‌شود.
OpenAI در پاسخ به این انتقادات، اذعان کرده است که این مطالعه یک آزمایش غیرمعمول از محصول آن‌ها بوده است. بااین‌حال، این شرکت متعهد می‌شود که به بهبود نتایج جستجوی ChatGPT ادامه دهد و در نسخه‌ی بعدی محصول مبتنی‌بر هوش مصنوعی خود، مشکلات فعلی را برطرف کنند.
به‌طورکلی، نتیجه‌ی تحقیقات پژوهشگران درمورد اعتبار نتایج جست‌وجوی ChatGPT برای اخبار نشان می‌دهد که ابزار جستجوی ChatGPT در ارائه‌ی نتایج جستجوی دقیق، با چالش‌های جدی روبه‌رو است. اگرچه این ابزار می‌تواند در تولید متن‌های خلاقانه و انجام برخی وظایف دیگر مفید باشد، اما نباید به‌عنوان یک منبع اطلاعاتی قابل‌اعتماد در نظر گرفته شود. برای بهبود دقت و قابلیت اطمینان این ابزارها، لازم است تلاش‌های بیشتری برای توسعه‌ی الگوریتم‌های بهتر و آموزش مدل‌های هوش مصنوعی با داده‌های باکیفیت‌تر صورت گیرد.