نتیجه یک پژوهش: ۲۲ درصد از توصیه‌های پزشکی کوپایلت ممکن است خطر مرگ داشته باشد

جای شکی نیست که ابزارهای جست‌وجوی مبتنی‌بر هوش مصنوعی حداقل در وضعیت کنونی، از دقت لازم برخوردار نیستند. گوگل سال گذشته به‌دلیل ارائه‌ی نتایج جست‌وجوی نادرست و پر از خطا مانند خوردن سنگ یا اضافه‌کردن چسب به پیتزا، مورد انتقاد شدید قرار گرفت. در هفته‌ی گذشته، شاهد انتشار پستی در ایکس بودیم که هوش مصنوعی گوگل به اشتباه، شماره‌تلفن شخصی یک فرد را به‌عنوان شماره‌تلفن دفتر مرکزی یک شرکت بازی‌سازی معرفی کرده بود.

محققان در اروپا نسبت به احتمال بروز خطاهای بسیار جدی‌تر و خطرناک در پاسخ‌های چت‌بات کوپایلت و سایر ابزارهای هوش مصنوعی هشدار داده‌اند.

در مقاله‌ای پژوهشی، به‌طور خاص از دستیار کوپایلت خواسته شد تا به ۱۰ پرسش پزشکی متداول در آمریکا و همچنین درباره‌ی ۵۰ مورد از پرکاربردترین داروها و تجهیزات پزشکی پاسخ دهد. در مجموع، ۵۰۰ پاسخ تولیدشده از جنبه‌های مختلف مانند دقت و جامعیت مورد ارزیابی قرار گرفتند و نتایج حاصل‌شده، چندان امیدوارکننده نبود.

۲۴ درصد از پاسخ‌های کوپایلت با دانش پزشکی پذیرفته‌شده همخوانی نداشت و سه درصد از آن‌ها کاملاً نادرست بود. تنها ۵۴ درصد از پاسخ‌ها با اجماع علمی تطابق داشت. از نظر احتمال آسیب به بیماران، ۴۲ درصد از پاسخ‌های کوپایلت به آسیب متوسط یا خفیف و ۲۲ درصد منجر به مرگ یا آسیب شدید ارزیابی ختم شدند. تنها حدود یک سوم (۳۶ درصد) پاسخ‌ها بی‌خطر تلقی شدند.

پژوهشگران به این نتیجه رسیدند که بی‌شک نباید برای کسب اطلاعات پزشکی دقیق به سیستم‌های هوش مصنوعی مانند مایکروسافت کوپایلت یا AI summaries گوگل اتکا کرد. مطمئن‌ترین روش برای مشورت در امور پزشکی، مراجعه به متخصصان این حوزه است.

دسترسی به پزشکان همیشه آسان یا مقرون‌به‌صرفه نیست و به عوامل مختلفی از جمله منطقه‌ی جغرافیایی بستگی دارد. سیستم‌های هوش مصنوعی مانند کوپایلت یا گوگل جمنای ممکن است برای بسیاری از افرادی که به مشاوره‌ی پزشکی با کیفیت دسترسی ندارند، اولین منبع اطلاعاتی قرار بگیرند؛ بدین ترتیب احتمال بروز آسیب‌های ناشی از ارائه‌ی اطلاعات نادرست بسیار جدی خواهد بود.

تلاش‌های مایکروسافت برای سوارشدن بر موج هوش مصنوعی تاکنون چندان ثمربخش نبوده است. کامپیوترهای کوپایلت‌پلاس با نگرانی‌های فراوانی در خصوص ویژگی Recall روبه‌رو شد. مایکروسافت چند هفته‌ی پیش مجموعه‌ای از ویژگی‌های جدید کوپایلت را معرفی کرد که شامل رابط کاربری جدید و برخی ویژگی‌های ویرایشی بهبودیافته در Microsoft Photos و سایر موارد جزئی می‌شود.

هوش مصنوعی هنوز نمی‌تواند محرکی باشد که مایکروسافت امیدوار بود به بینگ برتری رقابتی جدی‌ای در برابر موتور جست‌وجوی گوگل ببخشد. گوگل نگران تأثیرات احتمالی محبوبیت ChatGPT بر پلتفرم خود است.

سرمایه‌گذاران میلیاردها دلار در OpenAI سرمایه‌گذاری می‌کنند به امید آنکه هوش مصنوعی به انقلاب صنعتی جدیدی منجر شود. از سوی دیگر تیک‌تاک صدها کارمند خود را به‌دلیل استفاده‌ی بیشتر از هوش مصنوعی برای نظارت‌بر محتوا اخراج کرده است. باید دید که این رویکرد تا چه اندازه موفق خواهد بود.