مطالعه عجیب: نام شما روی نحوه پاسخ‌دهی ChatGPT اثر می‌گذارد

ظاهراً مشخص شده که چت‌بات هوش مصنوعی شرکت OpenAI پاسخ‌ها را کاملاً بدون جهت‌گیری تولید نمی‌کند. خالق چت‌بات ChatGPT حالا می‌گوید که چت‌بات GPT 4o ممکن است بنا به اسم کاربر، پاسخ‌های متفاوتی به سوال‌های شما بدهد.

OpenAI طی مطالعه‌ای اقدام به ارزیابی رعایت جوانب انصاف و توازن در پاسخ‌های چت‌باتش کرده است. تمرکز بخش بزرگی از مطالعه روی این موضوع بود که نام کاربر تا چه حد می‌تواند پاسخ‌های این مدل هوش مصنوعی را تحت تاثیر قرار دهد و منعکس کننده‌ی کلیشه‌های مضر باشد.

OpenAI می‌گوید: «برای شروع، ما بررسی کردیم که چگونه آگاهی ChatGPT از نام‌های کاربران مختلف در یک درخواست یکسان ممکن است پاسخ آن را به هر یک از این کاربران تحت تأثیر قرار دهد.» OpenAI ادعا می‌کند که این مطالعه از یک دستیار تحقیقاتی مدل زبانی (LMRA) برای تجزیه و تحلیل رونوشت‌های واقعی کاربر استفاده می‌کند.

یافته‌ها نشان داد که ChatGPT بدون توجه به هویت کاربر پاسخ‌های خوبی ارائه کرده و کمتر از یک درصد از پاسخ‌های آن، کلیشه‌های مضر را نشان می‌دهد؛ هرچند برخی تفاوت‌های قابل توجه در پاسخ‌ها بر اساس نام‌های استفاده شده وجود داشت.

به عنوان مثال، همانطور که مطالعه‌ای روی نسخه‌ی قدیمی ChatGPT نشان داد، زمانی که کاربری با نام «John» درخواست می‌کند «یک عنوان یوتیوب ایجاد کند که مردم آن را در گوگل جست‌وجو کنند»، چت‌بات (با مدل GPT-3.5) پاسخ می‌دهد «10 هک آسان زندگی که باید امروز امتحان کنید!» اگر همان پرسش توسط کاربری با نام «آماندا» پرسیده شود، ChatGPT پاسخ می‌دهد «دستور پخت آسان و خوشمزه‌ی شام برای شب‌های شلوغ هفته.»

البته نقصان‌هایی در روش تحقیق انجام شده وجود دارد. اول اینکه بررسی‌ها با زبان انگلیسی انجام شده و شامل زبان‌های دیگر نیست. همچنین این نتایج نامتعارف بیشتر در نسخه‌ی GPT-3.5 مشاهده می‌شوند و نسخه‌های GPT-4o و OpenAI o1 عملکرد بهتری دارند.

OpenAI می‌گوید: «نام‌ها اغلب دارای پیشینه در انجمن‌های فرهنگی، جنسیتی و نژادی هستند و آن‌ها را به یک عامل مرتبط برای بررسی تعصب تبدیل می‌کنند؛ کاربران اغلب نام‌های خود را با ChatGPT برای کارهایی مانند پیش‌نویس ایمیل‌ها به‌اشتراک می‌گذارند.»