D1-kifpool

پژوهشگران: نتایج جست‌وجوی ChatGPT برای اخبار، اغلب اوقات غیردقیق و غیرقابل پیش‌بینی است

چهارشنبه ۱۴ آذر ۱۴۰۳ - ۱۲:۵۲
مطالعه 2 دقیقه
ربات چت جی پی تی ساخت Open AI
یک پژوهش جدید، بیشتر نتایج جست‌وجوی اخبار در ChatGPT را غیردقیق و غیرقابل‌پیش‌بینی می‌خواند.
تبلیغات
D4-mci

بنابر گزارش ورج، ابزار جستجوی ChatGPT، محصول جدید OpenAI، علی‌رغم ادعای ارائه‌ی پاسخ‌های سریع با منابع معتبر، در مطالعات اخیر نشان داد که در ارائه‌ی اطلاعات دقیق، دچار مشکلاتی جدی است. محققان مرکز روزنامه‌نگاری دیجیتال کلمبیا با انجام آزمایش‌های گسترده، به نتایج قابل‌توجهی دست یافته‌اند که نشان می‌دهد این ابزار هوش مصنوعی در بسیاری از موارد، اطلاعات نادرست یا ناقص ارائه می‌دهد.

اهمیت دقت در ابزارهای جستجوی هوش مصنوعی مانند ChatGPT بر هیچ‌کس پوشیده نیست. ابزارهای مبتنی‌بر هوش مصنوعی به طور فزاینده‌ای در زندگی روزمره ما نفوذ کردند و ما به آن‌ها برای یافتن اطلاعات دقیق و قابل‌اعتماد تکیه می‌کنیم. اگر این ابزارها نتوانند اطلاعات صحیح را ارائه دهند، می‌توانند به انتشار اطلاعات نادرست و گمراه‌کردن کاربران منجر شوند.

در این تحقیق، محققان از ChatGPT خواستند تا منبع بیش از ۲۰۰ نقل‌قول از ۲۰ نشریه مختلف را شناسایی کند. نتیجه این آزمایش بسیار تکان‌دهنده بود؛ چراکه در ۱۵۳ مورد، ChatGPT پاسخ‌های نادرست یا ناقص ارائه داد. حتی در مواردی که نقل‌قول‌ها از نشریاتی با دسترسی محدود به OpenAI انتخاب شده بود، این ابزار با اطمینان کامل، اطلاعات غلط ارائه می‌کرد.

یکی از مشکلات عمده ChatGPT، اشتباه در نسبت‌دادن منابع معتبر است. به‌عنوان‌مثال، این ابزار نقل‌قولی از یک نامه به سردبیر اورلاندو سنتینل را به‌اشتباه به یک مقاله در مجله تایم نسبت داد. همچنین، در مورد دیگری، ChatGPT منبع یک نقل‌قول درباره‌ی نهنگ‌های در معرض انقراض از نیویورک‌تایمز را به یک وب‌سایت دیگر که به‌طور کامل آن مقاله را سرقت کرده بود، ارجاع داد.

یکی از دلایل اصلی این مشکلات، ماهیت یادگیری ماشینی محسوب می‌شود که در این مدل‌ها استفاده می‌شود. ChatGPT با پردازش حجم عظیمی از داده‌ها آموزش می‌بیند و سعی می‌کند الگوهای موجود در این داده‌ها را شناسایی کند. اما این مدل‌ها ممکن است در برخی موارد، الگوهای نادرست یا گمراه‌کننده‌ای را شناسایی کنند که منجر به ارائه‌ی نتایج نادرست می‌شود.

OpenAI در پاسخ به این انتقادات، اذعان کرده است که این مطالعه یک آزمایش غیرمعمول از محصول آن‌ها بوده است. بااین‌حال، این شرکت متعهد می‌شود که به بهبود نتایج جستجوی ChatGPT ادامه دهد و در نسخه‌ی بعدی محصول مبتنی‌بر هوش مصنوعی خود، مشکلات فعلی را برطرف کنند.

به‌طورکلی، نتیجه‌ی تحقیقات پژوهشگران درمورد اعتبار نتایج جست‌وجوی ChatGPT برای اخبار نشان می‌دهد که ابزار جستجوی ChatGPT در ارائه‌ی نتایج جستجوی دقیق، با چالش‌های جدی روبه‌رو است. اگرچه این ابزار می‌تواند در تولید متن‌های خلاقانه و انجام برخی وظایف دیگر مفید باشد، اما نباید به‌عنوان یک منبع اطلاعاتی قابل‌اعتماد در نظر گرفته شود. برای بهبود دقت و قابلیت اطمینان این ابزارها، لازم است تلاش‌های بیشتری برای توسعه‌ی الگوریتم‌های بهتر و آموزش مدل‌های هوش مصنوعی با داده‌های باکیفیت‌تر صورت گیرد.

مقاله رو دوست داشتی؟
نظرت چیه؟
داغ‌ترین مطالب روز
رابط کاربری وین‌امپ
۷ نرم‌افزار فراموش‌شده ویندوز که هنوزهم زنده‌اند

این برنامه‌های ویندوزی روزگاری حکم‌فرما بودند؛ اما حالا فقط کاربران وفادارشان از آن‌ها استفاده می‌کنند.

40
2 روز پیش
ونیش مود اینستاگرام
چطور در اینستاگرام پیام‌ محوشونده بفرستیم؟

اینستاگرام با حالت Vanish Mode سطح جدیدی از حریم خصوصی را اضافه کرده است تا کاربران بتوانند پیام‌های محوشونده ارسال کنند.

4
2 روز پیش
برگرداندن پیج اینستا و بازیابی اکانت اینستاگرام چگونه ممکن است؟

اگر صفحه‌ی اینستاگرامتان را از دست داده‌اید، در این مقاله با تمام روش‌های برگرداندن پیج اینستا و بازیابی اکانت اینستاگرام آشنا شوید.

16
یک روز پیش
خودروی تسلا از نمای سه‌رخ جلو درحال عبور از دیوار نقاشی شده
سیستم خودران تسلا با یک دیوارِ نقاشی‌شده فریب خورد

یک یوتیوبر نشان داد که سیستم رانندگی خودران تسلا به‌سادگی با یک دیوار نقاشی‌شده شبیه به جاده، فریب می‌خورد.

69
یک روز پیش
حذف واترمارک از PDF
۴ روش برای حذف واترمارک از PDF با استفاده از هوش مصنوعی و سایر ابزارها

اگر واترمارک در PDF باعث ناخوانایی متن و حواس‌پرتی مخاطب شود، بهترین راه‌حل حذف آن است. در ادامه روش حذف واترمارک از pdf را آموزش می‌دهیم.

5
3 ساعت پیش
شخصی درحال عکس گرفتن از طبیعت
۴ ابزار هوش مصنوعی کاربردی برای تبدیل عکس به فیلم

اگر به‌دنبال ابزاری برای ساخت ویدیو از تصاویر هستید، همراه ما باشید تا شما را با بهترین ابزارهای هوش مصنوعی ساخت ویدیو آشنا کنیم.

4
یک روز پیش
بهترین ربات های تلگرام
بهترین ربات های تلگرام برای سرعت بخشیدن به انجام کارهای روزانه

آیا می‌دانستید که می‌توانید به کمک بهترین ربات های تلگرام بسیاری از کارها را آسان‌تر از همیشه انجام دهید؟

44
یک روز پیش
تبلیغات
DN-DNShatel

نظرات

تبلیغات
D7-B6Snappshop
D7-zoomitproduct
پخش از رسانه
coming soon...

با چشم باز خرید کنید
زومیت شما را برای انتخاب بهتر و خرید ارزان‌تر راهنمایی می‌کند
ورود به بخش محصولات