D1-kifpool

پژوهشگران: نتایج جست‌وجوی ChatGPT برای اخبار، اغلب اوقات غیردقیق و غیرقابل پیش‌بینی است

چهارشنبه ۱۴ آذر ۱۴۰۳ - ۱۲:۵۲
مطالعه 2 دقیقه
ربات چت جی پی تی ساخت Open AI
یک پژوهش جدید، بیشتر نتایج جست‌وجوی اخبار در ChatGPT را غیردقیق و غیرقابل‌پیش‌بینی می‌خواند.
تبلیغات
D4-mci

بنابر گزارش ورج، ابزار جستجوی ChatGPT، محصول جدید OpenAI، علی‌رغم ادعای ارائه‌ی پاسخ‌های سریع با منابع معتبر، در مطالعات اخیر نشان داد که در ارائه‌ی اطلاعات دقیق، دچار مشکلاتی جدی است. محققان مرکز روزنامه‌نگاری دیجیتال کلمبیا با انجام آزمایش‌های گسترده، به نتایج قابل‌توجهی دست یافته‌اند که نشان می‌دهد این ابزار هوش مصنوعی در بسیاری از موارد، اطلاعات نادرست یا ناقص ارائه می‌دهد.

اهمیت دقت در ابزارهای جستجوی هوش مصنوعی مانند ChatGPT بر هیچ‌کس پوشیده نیست. ابزارهای مبتنی‌بر هوش مصنوعی به طور فزاینده‌ای در زندگی روزمره ما نفوذ کردند و ما به آن‌ها برای یافتن اطلاعات دقیق و قابل‌اعتماد تکیه می‌کنیم. اگر این ابزارها نتوانند اطلاعات صحیح را ارائه دهند، می‌توانند به انتشار اطلاعات نادرست و گمراه‌کردن کاربران منجر شوند.

در این تحقیق، محققان از ChatGPT خواستند تا منبع بیش از ۲۰۰ نقل‌قول از ۲۰ نشریه مختلف را شناسایی کند. نتیجه این آزمایش بسیار تکان‌دهنده بود؛ چراکه در ۱۵۳ مورد، ChatGPT پاسخ‌های نادرست یا ناقص ارائه داد. حتی در مواردی که نقل‌قول‌ها از نشریاتی با دسترسی محدود به OpenAI انتخاب شده بود، این ابزار با اطمینان کامل، اطلاعات غلط ارائه می‌کرد.

یکی از مشکلات عمده ChatGPT، اشتباه در نسبت‌دادن منابع معتبر است. به‌عنوان‌مثال، این ابزار نقل‌قولی از یک نامه به سردبیر اورلاندو سنتینل را به‌اشتباه به یک مقاله در مجله تایم نسبت داد. همچنین، در مورد دیگری، ChatGPT منبع یک نقل‌قول درباره‌ی نهنگ‌های در معرض انقراض از نیویورک‌تایمز را به یک وب‌سایت دیگر که به‌طور کامل آن مقاله را سرقت کرده بود، ارجاع داد.

یکی از دلایل اصلی این مشکلات، ماهیت یادگیری ماشینی محسوب می‌شود که در این مدل‌ها استفاده می‌شود. ChatGPT با پردازش حجم عظیمی از داده‌ها آموزش می‌بیند و سعی می‌کند الگوهای موجود در این داده‌ها را شناسایی کند. اما این مدل‌ها ممکن است در برخی موارد، الگوهای نادرست یا گمراه‌کننده‌ای را شناسایی کنند که منجر به ارائه‌ی نتایج نادرست می‌شود.

OpenAI در پاسخ به این انتقادات، اذعان کرده است که این مطالعه یک آزمایش غیرمعمول از محصول آن‌ها بوده است. بااین‌حال، این شرکت متعهد می‌شود که به بهبود نتایج جستجوی ChatGPT ادامه دهد و در نسخه‌ی بعدی محصول مبتنی‌بر هوش مصنوعی خود، مشکلات فعلی را برطرف کنند.

به‌طورکلی، نتیجه‌ی تحقیقات پژوهشگران درمورد اعتبار نتایج جست‌وجوی ChatGPT برای اخبار نشان می‌دهد که ابزار جستجوی ChatGPT در ارائه‌ی نتایج جستجوی دقیق، با چالش‌های جدی روبه‌رو است. اگرچه این ابزار می‌تواند در تولید متن‌های خلاقانه و انجام برخی وظایف دیگر مفید باشد، اما نباید به‌عنوان یک منبع اطلاعاتی قابل‌اعتماد در نظر گرفته شود. برای بهبود دقت و قابلیت اطمینان این ابزارها، لازم است تلاش‌های بیشتری برای توسعه‌ی الگوریتم‌های بهتر و آموزش مدل‌های هوش مصنوعی با داده‌های باکیفیت‌تر صورت گیرد.

مقاله رو دوست داشتی؟
نظرت چیه؟
داغ‌ترین مطالب روز
خودروی تسلا از نمای سه‌رخ جلو درحال عبور از دیوار نقاشی شده
سیستم خودران تسلا با یک دیوارِ نقاشی‌شده فریب خورد

یک یوتیوبر نشان داد که سیستم رانندگی خودران تسلا به‌سادگی با یک دیوار نقاشی‌شده شبیه به جاده، فریب می‌خورد.

87
2 روز پیش
کنترل سنتر در گلکسی S25 و گلکسی S25 پلاس
رسمی: آپدیت One UI 7 روز ۱۸ فروردین برای این گوشی‌ها منتشر می‌شود

سامسونگ رسماً تاریخ انتشار نسخه‌ی نهایی One UI 7 برای تعدادی از گوشی و تبلت‌هایش را اعلام کرد.

108
یک روز پیش
شخصی درحال عکس گرفتن از طبیعت
۴ ابزار هوش مصنوعی کاربردی برای تبدیل عکس به فیلم

اگر به‌دنبال ابزاری برای ساخت ویدیو از تصاویر هستید، همراه ما باشید تا شما را با بهترین ابزارهای هوش مصنوعی ساخت ویدیو آشنا کنیم.

4
2 روز پیش
نمای سه چهار جلو رنو ۵ توربو 3E
ابرخودرو کوچک با موتور پرقدرت؛ این رنو ۵ توربو 3E است

رنو از نسخه‌ی نهایی رنو ۵ توربو 3E رونمایی کرد. این خودرو هاچبکی است که خودروهای بسیار قدرتمند را به چالش می‌کشد.

14
2 روز پیش
برگرداندن پیج اینستا و بازیابی اکانت اینستاگرام چگونه ممکن است؟

اگر صفحه‌ی اینستاگرامتان را از دست داده‌اید، در این مقاله با تمام روش‌های برگرداندن پیج اینستا و بازیابی اکانت اینستاگرام آشنا شوید.

16
2 روز پیش
برنامه Good Lock سامسونگ
با سامسونگ Good Lock و ۱۱ ماژول برتر آن برای سفارشی‌سازی گوشی آشنا شوید

سامسونگ Good Lock اپلیکیشنی است که امکانات شخصی‌سازی وسیع گلکسی‌ها را ممکن می‌کند. برای آشنایی بیشتر با آن، مقاله و ویدیو زومیت را از دست ندهید.

50
10 دقیقه پیش
حذف واترمارک از PDF
۴ روش برای حذف واترمارک از PDF با استفاده از هوش مصنوعی و سایر ابزارها

اگر واترمارک در PDF باعث ناخوانایی متن و حواس‌پرتی مخاطب شود، بهترین راه‌حل حذف آن است. در ادامه روش حذف واترمارک از pdf را آموزش می‌دهیم.

5
21 ساعت پیش
تبلیغات
DN-DNShatel

نظرات

تبلیغات
D7-zoomitproduct
D7-B6Snappshop
پخش از رسانه
coming soon...

با چشم باز خرید کنید
زومیت شما را برای انتخاب بهتر و خرید ارزان‌تر راهنمایی می‌کند
ورود به بخش محصولات