نسخه رایگان ChatGPT به سؤالات دارویی جواب اشتباه می‌دهد
مطالعات جدیدی که روی نسخه‌ی رایگان ChatGPT انجام شده است، نشان می‌دهد که این چت‌بات ممکن است با پاسخ‌های نادرست یا ناقص خود جان بیماران را به‌خطر بیندازد. علاوه‌بر‌این، چت‌بات یادشده به بعضی از این سؤالات هیچ جوابی نمی‌دهد.
به‌گزارش CNBC، داروسازان دانشگاه لانگ آیلند نیویورک ۳۹ سكال دارویی برای نسخه‌ی رایگان این چت‌بات مطرح کردند؛ اما تنها به ۱۰ نمونه از آن‌ها پاسخ رضایت‌بخش داده شد. درباره‌ی ۲۹ پرسش دیگر، ChatGPT به آن‌ها پاسخ نادرست یا ناقص می‌داد و حتی برخی از آن‌ها را بدون پاسخ می‌گذاشت.
سخن‌گوی OpenAI در واکنش به مطالعات یادشده بیان کرد که کاربران نباید پاسخ‌های ارائه‌شده از این چت‌بات را به‌صورت قطعی درست در نظر بگیرند و آن‌ها را با توصیه‌های پزشکان جایگزین کنند. او در‌ادامه‌ی سخنانش به این نکته اشاره کرد که ChatGPT هنوز نمی‌تواند به‌خوبی اطلاعات پزشکی و دارویی را شناسایی کند.
مطالعات مشابهی در حوزه‌های مختلف روی چت‌بات نام‌برده انجام شده است که نتیجه‌ی آن‌ها نیز به چنین پاسخ‌های نادرست یا ناقصی ختم شد. مشکلات این‌چنینی، کمیسیون فدرال تجارت آمریکا را وادار کرده است تا تحقیقات لازم را برای حمایت از حقوق مصرف‌کنندگان آغاز کند.
نسخه‌ی رایگان ChatGPT از اطلاعاتی استفاده می‌کند که به سال ۲۰۲۱ محدود هستند و همین موضوع باعث می‌شود در مواقعی که به علوم پزشکی مربوط هستند، نامطمئن باشد؛ زیرا چنین حوزه‌ای سال‌به‌سال تغییرات زیادی به خود می‌بیند. از دقت پاسخ‌های نسخه‌ی پولی این چت‌بات اطلاعاتی در‌دسترس نیست.
در ابتدا داروسازان دانشگاه لانگ آیلند قصد داشتند ۴۹ سؤال را از ChatGPT بکنند؛ اما پس از تحقیقات ابتدایی متوجه شدند که ادبیات ۶ سؤال با چت‌بات یادشده سازگاری ندارد و تصمیم گرفتند آن‌ها را حذف کنند.
محققان علاوه‌بر پاسخ پرسش‌های مطرح‌شده، از ChatGPT خواستند تا منابع پاسخ‌هایی که ارائه می‌دهد، به آن‌ها نشان دهد. در‌نهایت، این چت‌بات فقط در هشت سؤال توانست مراجعی را ارائه کند که هر‌کدام شامل منابعی بودند که اصلاً وجود خارجی نداشتند.
برای نمونه، از ChatGPT سؤال شده بود که «آیا مصرف هم‌زمان دو داروی خاص مشکلی برای بیماران ایجاد می‌کند یا خیر؟» که این چت‌بات پاسخ داد که «مشکلی به‌وجود نخواهد آمد!» بااین‌حال، پاسخ درست این بود که مصرف هم‌زمان این دو دارو می‌تواند فشار‌خون را تا حد زیادی کاهش دهد.
در‌هر‌صورت کاربران نباید جواب سؤالات دارویی ارائه‌شده‌ی ChatGPT را به توصیه‌های پزشکان و داروسازان ترجیح دهند.
نظرات