جنجال در برزیل؛ چت‌بات ChatGPT حالا قانون هم وضع می‌کند

قانون‌گذاران شهری در برزیل لایحه‌ای را تصویب کرده‌اند که به نظر می‌رسد اولین قانون این کشور است که به‌طور کامل توسط هوش مصنوعی نوشته شده؛ البته آن‌ها از این موضوع اطلاع نداشتند.

این فرمان آزمایشی در ماه اکتبر (مهر و آبان) در شهر جنوبی پورتو آلگره به تصویب رسید و رامیرو روزاریو، عضو شورای شهر، این هفته فاش کرد که توسط ChatGPT نوشته شده بود. این موضوع اعتراضاتی را برانگیخت و سؤالاتی را در مورد نقش هوش مصنوعی در سیاست عمومی مطرح کرد.

به نوشته‌ی آسوشیتدپرس، روزاریو از ChatGPT خواست قانونی بنویسد تا شهروندان را از پرداخت مالیات برای تعویض کنتورهای آب در صورت سرقت، معاف کند. روزاریو سپس آن را به ۳۵ همکار خود در شورا ارائه کرد، بدون اینکه تغییری ایجاد کند یا حتی به آن‌ها در مورد منشأ آن اطلاع دهد.

روزاریو گفت: «اگر من آن را فاش کرده بودم، قطعاً این پیشنهاد حتی به رأی هم گذاشته نمی‌شد.» شورای ۳۶ نفره به اتفاق آرا آن را تصویب کرد و این فرمان در روز ۲۳ نوامبر (۲ آذر) به اجرا درآمد. او افزود: «بی‌انصافی است که این قانون صرفاً به این دلیل که توسط هوش مصنوعی نوشته شده، تأیید نشود.»

پورتو آلگره با جمعیت ۱٫۳ میلیون نفر دومین شهر بزرگ در جنوب برزیل است. رئیس شورای این شهر، هامیلتون سوسمایر، هنگامی که روزاریو روز چهارشنبه در رسانه‌های اجتماعی در مورد این دستاورد صحبت کرد، متوجه شد که او از ChatGPT برای نوشتن این قانون استفاده کرده است. سوسمایر در ابتدا به رسانه‌های محلی گفت که فکر می‌کند این اقدام خطرناکی است.

مدل‌های بزرگ هوش مصنوعی که به چت‌بات‌هایی مانند ChatGPT قدرت می‌دهند، با تلاش مکرر برای حدس زدن کلمه‌ی بعدی در جمله کار می‌کنند و مستعد ایجاد اطلاعات غلط هستند، پدیده‌ای که گاهی اوقات «توهم» نامیده می‌شود.

براساس تحقیقی که به تازگی توسط شرکت فناوری Vectara منتشر شده است، تمام چت‌بات‌ها گاهی اوقات هنگام خلاصه کردن یک سند، اطلاعات نادرستی را ارائه می‌دهند که از حدود ۳ درصد خطا برای پیشرفته‌ترین مدل GPT تا حدود ۲۷ درصد برای یکی از مدل‌های گوگل متغیر است.

اندرو پرلمن، رئیس دانشکده‌ی حقوق دانشگاه Suffolk، در مقاله‌ای که اوایل امسال در وب‌سایت مرکز حرفه‌ای حقوقی دانشکده‌ی حقوق دانشگاه هاروارد منتشر شد، نوشت که ChatGPT ممکن است تغییری مهم‌تر، نسبت به ظهور اینترنت باشد، اما همچنین نسبت به کاستی‌های بالقوه‌ی آن هشدار داد.

او نوشته است که: «این سیستم ممکن است همیشه نتواند تفاوت‌ها و پیچیدگی‌های قانون را توضیح دهد. از آنجا که ChatGPT یک سیستم یادگیری ماشین محسوب می‌شود، شاید در زمینه‌ی تفسیر اصول و سوابق حقوقی، سطح درک و قضاوت یک وکیل انسانی را نداشته باشد. این امر می‌تواند در مواردی که نیاز به تجزیه‌وتحلیل حقوقی عمیق‌تری است به مشکلاتی منجر شود.»

روزاریو، اولین قانون گذار در جهان نیست که توانایی‌های ChatGPT را آزمایش می‌کند. برخی دیگر این کار را در ظرفیت محدودتر یا با نتایج کم‌رنگ‌تر انجام داده‌اند.

سناتور آمریکایی بری فینگولد به ChatGPT روی آورد تا به نوشتن لایحه‌ای با هدف قانون‌مند کردن مدل‌های هوش مصنوعی از جمله خود ChatGPT کمک کند. این طرح که اوایل امسال مطرح شد، هنوز رأی‌گیری نشده است.

فینگولد گفت: «ChatGPT می‌تواند به برخی از عناصر خسته‌کننده فرآیند قانون‌گذاری، از جمله جست‌وجوی صحیح و سریع و استناد به قوانین موجود در کتاب‌ها کمک کند. با این حال، بسیار مهم است که همه بدانند ChatGPT در این فرآیند مورد استفاده قرار گرفته است.»

چنین شفافیتی برای پیشنهاد روزاریو در برزیل وجود نداشت. سوسمایر گفت که روزاریو به اعضای شورا اطلاع نداده که ChatGPT این قانون را نوشته است.

مخفی نگه داشتن منشأ این پیشنهاد عمدی بود. روزاریو به خبرنگاران گفت که هدف او تنها حل یک مسئله‌ی محلی نیست، بلکه ایجاد یک رویکرد جدید است. او گفت که یک درخواست ۴۹ کلمه‌ای را وارد ChatGPT کرد و در عرض چند ثانیه پیش‌نویس کامل قانون را تحویل داد.

او گفت: «من متقاعد شده‌ام که بشریت یک انقلاب تکنولوژیک جدید را تجربه خواهد کرد. همه ابزارهایی که ما به‌عنوان تمدن توسعه داده‌ایم می‌توانند برای اهداف بد یا خوب استفاده شوند. به همین دلیل باید نشان دهیم که چگونه می‌توان به درستی از آن‌ها برای همیشه استفاده کرد.»

رئیس شورای شهر پورتو آلگره هم گفت: «من تصمیمم را عوض کردم. شروع به خواندن عمیق‌تر کردم و دیدم که متأسفانه یا خوشبختانه، این یک روند اجتناب‌ناپذیر خواهد بود.»