۶ دلیل که نباید کورکورانه به هوش مصنوعی اعتماد کنید

هوش مصنوعی، شناختی را که ما از جهان داریم متحول می‌کند و تأثیر آن در هر صنعت احساس می‌شود. با این حال، همه این تغییرات لزوماً مثبت نیستند. در حالی که هوش مصنوعی فرصت‌های جدید و هیجان‌انگیزی را در بسیاری از زمینه‌ها ارائه می‌دهد، نمی‌توانیم این واقعیت را نادیده بگیریم که فاقد قطب‌نمای اخلاقی ذاتی یا سیستم بررسی واقعیت برای هدایت تصمیم‌گیری است.

به همین دلیل است که همیشه باید همه چیزهایی را که به شما گفته می‌شود بررسی کنید، زیرا جهان اطراف ما روزبه‌روز بیشتر با هوش مصنوعی خو می‌گیرد. برخی از ابزارهای هوش مصنوعی می‌توانند اطلاعات را دستکاری کنند، متن‌ها را به‌طور کامل درک نکنند و در عین حال با اطمینان اشتباه کنند. به همین دلیل اعتماد کورکورانه به هوش مصنوعی ایده بسیار بدی است.

مردم به‌طور فزاینده‌ای به چت‌بات‌های هوش مصنوعی برای کارهایی مانند نوشتن، برنامه‌ریزی قرار ملاقات‌ها و حتی تصمیم‌گیری‌های مهم متکی هستند. با این حال، راحتی این چت‌بات‌ها اغلب با عواقب و هزینه‌های قابل توجهی همراه است.

برای نشان دادن این موضوع، از ChatGPT خواستیم تا درباره اولین کتابی که برای یادگیری پایتون نوشته شده، صحبت کند. در ادامه خواهیم دید که ChatGPT چگونه پاسخ داده است:

در تصویر بالا، ChatGPT کتابی را معرفی کرده که به نظر جوابی کاملاً غلط بوده و در ادامه با یک عذرخواهی، جواب قبلی خود را اصلاح کرده است.

آیا اشتباه را متوجه شدید؟ وقتی ChatGPT را از اشتباهش مطلع کردیم به‌سرعت خودش را اصلاح کرد. متأسفانه، در حالی که اشتباه خود را تصدیق کرد، باز هم نشان‌دهنده این است که چگونه هوش مصنوعی می‌تواند تا این حد اشتباه کند، آن هم در مورد سؤالی که جوابش به راحتی در وب‌سایت‌های مختلف وجود دارد.

چت‌بات‌های هوش مصنوعی اطلاعات محدودی دارند اما برای پاسخگویی در هر صورت برنامه‌ریزی شده‌اند. آن‌ها به داده‌های آموزشی خود متکی هستند و همچنین می‌توانند از تعاملات با شما و قابلیت‌های یادگیری ماشین بیاموزند. اگر هوش مصنوعی از پاسخ دادن امتناع کند، نمی‌تواند یاد بگیرد یا خود را اصلاح کند. به همین دلیل است که هوش مصنوعی گاهی اوقات اشتباه می‌کند و از اشتباهاتش درس می گیرد.

در حالی که این فقط ماهیت هوش مصنوعی است، می‌توانید ببینید که چگونه می‌‌تواند به یک مشکل بزرگ تبدیل شود. اکثر مردم جستجوهای گوگل خود را بررسی نمی‌کنند و در مورد چت‌بات‌هایی مانند ChatGPT هم همین‌طور است. این کار می‌تواند منجر به دریافت اطلاعات نادرستی شود و پیامدهایی از خود به جا بگذارد که نتیجه‌اش به این زودی‌ها مشخص نشود.

بر کسی پوشیده نیست که هوش مصنوعی می‌تواند غیر قابل اعتماد و مستعد خطا باشد اما یکی از مرموزترین ویژگی‌های آن تمایل به دستکاری اطلاعات است. مشکل این است که هوش مصنوعی درک دقیقی از زمینه مورد بحث شما ندارد و باعث می‌شود که واقعیت‌ها را مطابق با اهداف خود تغییر دهد.

این دقیقاً همان چیزی است که در مورد بینگ‌چت مایکروسافت اتفاق افتاد. یکی از کاربران در توییتر زمان نمایش فیلم جدید آواتار را درخواست کرد اما چت‌بات از ارائه اطلاعات خودداری کرد و ادعا کرد که فیلم هنوز اکران نشده است.

مطمئناً، شما به راحتی می‌توانید این پاسخ را به عنوان یک باگ در نظر بگیرید. با این حال، واقعیت ناقص بودن ابزارهای هوش مصنوعی را تغییر نمی‌دهد و ما باید با احتیاط پیش برویم.

بسیاری از متخصصان، مانند نویسندگان و طراحان، اکنون از هوش مصنوعی برای به حداکثر رساندن کارایی طراحی‌ها و کارهای خود استفاده می‌کنند. با این حال، درک این نکته مهم است که هوش مصنوعی باید به عنوان ابزاری به عنوان یک میانبر در نظر گرفته شود. در حالی که سپردن تمام و کمال کارها به آن می‌تواند وسوسه انگیز به نظر برسد، می‌تواند به شدت بر خلاقیت شما تأثیر بگذارد.

حتی هنگامی که چت‌بات‌های هوش مصنوعی به عنوان میانبر استفاده می‌شوند، افراد تمایل دارند به جای ایجاد ایده‌های منحصر به فرد، محتوا را کپی و جایگذاری کنند. این رویکرد ممکن است جذاب به نظر برسد زیرا باعث صرفه‌جویی در زمان و تلاش می‌شود اما نمی‌تواند ذهن را درگیر کند و تفکر خلاقانه را ارتقا دهد.

به عنوان مثال، طراحان می‌توانند از هوش مصنوعی Midjourney برای خلق آثار هنری استفاده کنند، اما تنها تکیه بر هوش مصنوعی می‌تواند دامنه خلاقیت را محدود کند. اگر نویسنده هستید، می‌توانید از ChatGPT یا دیگر چت‌بات‌های هوش مصنوعی برای تحقیق استفاده کنید اما اگر از آن به عنوان میانبری برای تولید محتوا استفاده می‌کنید، مهارت‌های نوشتاری شما دچار رکود می‌شود و به‌جای کاوش در ایده‌های جدید، ممکن است در نهایت مجبور به تکرار طرح‌های موجود شوید.

هوش مصنوعی پیشرفت‌های زیادی را در زمینه‌های مختلف به ارمغان آورده است. با این حال، مانند هر فناوری دیگری، خطر سوءاستفاده از آن نیز وجود دارد که می‌تواند منجر به عواقب وخیمی شود.

ظرفیت هوش مصنوعی برای تحقیر، آزار، ارعاب و ساکت کردن افراد به یک نگرانی مهم تبدیل شده است. چندی پیش نمونه‌هایی از سوءاستفاده از هوش مصنوعی شامل ایجاد دیپ فیک و حملات Denial of Service (DoS) در اینترنت سر و صدای زیادی کرده بودند.

استفاده از دیپ فیک‌های تولیدشده توسط هوش مصنوعی برای ایجاد عکس‌های صریح از زنان و مردان، خبر نگران‌کننده‌ای است. مجرمان سایبری همچنین از حملات DoS مبتنی بر هوش مصنوعی برای جلوگیری از دسترسی کاربران قانونی به شبکه‌های خاص استفاده می‌کنند. چنین حملاتی به طور فزاینده‌ای پیچیده‌تر می‌شوند و توقف آن‌ها نیز چالش برانگیزتر، زیرا هوش‌های مصنوعی ویژگی‌هایی شبیه به انسان از خود نشان می‌دهند.

در دسترس بودن قابلیت‌های هوش مصنوعی به‌عنوان کتابخانه‌های منبع‌باز (open-source)، هر کسی را قادر می‌سازد تا به فناوری‌هایی مانند تشخیص تصویر و تشخیص چهره دسترسی داشته باشد. این کار، خطر امنیت سایبری قابل توجهی دارد، زیرا گروه‌های تروریستی می‌توانند از این فناوری‌ها برای انجام حملات تروریستی خود استفاده کنند.

همانطور که قبلاً ذکر شد، هوش مصنوعی درک بسیار محدودی از زمینه صحبت‌های ما دارد که می‌تواند چالش مهمی در تصمیم‌گیری و حل مسئله باشد. حتی اگر اطلاعات متنی را در اختیار هوش مصنوعی قرار دهید، می‌تواند تفاوت‌های ظریف را از دست بدهد و اطلاعات نادرست یا ناقصی را ارائه دهد که ممکن است منجر به نتیجه‌گیری یا تصمیم‌گیری نادرست شود.

این به این دلیل است که هوش مصنوعی بر روی الگوریتم‌های از پیش برنامه‌ریزی شده‌ای عمل می‌کند که بر مدل‌های آماری و تشخیص الگو، برای تجزیه و تحلیل و پردازش داده‌ها تکیه دارند.

به عنوان مثال، یک چت‌بات را در نظر بگیرید که برای کمک به مشتریان در مورد سؤالات آن‌ها در مورد یک محصول برنامه‌ریزی شده است. در حالی که چت‌بات شاید بتواند به سؤالات اساسی در مورد ویژگی‌ها و مشخصات محصول پاسخ دهد، ممکن است در ارائه توصیه‌ها یا توصیه‌های شخصی بر اساس نیازها و ترجیحات منحصر‌به‌فرد مشتری مشکل داشته باشد.

هنگامی که به دنبال پاسخ به سؤالات پیچیده یا تصمیم‌گیری بر اساس ترجیحات ذهنی هستید، تنها اتکا به هوش مصنوعی می‌تواند مخاطره‌آمیز باشد.

درخواست از یک سیستم هوش مصنوعی برای تعریف مفهوم دوستی یا انتخاب بین دو مورد بر اساس معیارهای ذهنی می‌تواند تمرین بیهوده‌ای باشد. این به این دلیل است که هوش مصنوعی توانایی تعیین احساسات انسانی، زمینه و عناصر ناملموس ضروری برای درک و تفسیر چنین مفاهیمی را ندارد.

به عنوان مثال، اگر از یک سیستم هوش مصنوعی بخواهید بین دو کتاب یکی را انتخاب کند، ممکن است کتابی را با رتبه‌بندی بالاتر توصیه کند اما نمی‌تواند سلیقه شخصی، ارجحیت یا هدفی را که برای آن به کتاب نیاز دارید در نظر بگیرد.

از سوی دیگر، یک منتقد انسانی می‌تواند با ارزیابی ارزش ادبی، ارتباط با علایق خواننده و سایر عوامل ذهنی که نمی‌توان آن‌ها را به‌طور عینی اندازه‌گیری کرد، مروری دقیق‌تر و شخصی‌تر از کتاب ارائه دهد.

در حالی که هوش مصنوعی ثابت کرده که یک ابزار فوق‌العاده قدرتمند در زمینه‌های مختلف محسوب می‌شود، آگاهی از محدودیت‌ها و سوگیری‌های احتمالی آن ضروری است. اعتماد کورکورانه به هوش مصنوعی می‌تواند مخاطره‌آمیز باشد و عواقب قابل توجهی داشته باشد، زیرا این فناوری هنوز در مراحل ابتدایی خود است و با کامل بودن فاصله زیادی دارد.

بسیار مهم است که به یاد داشته باشید هوش مصنوعی یک ابزار است و نه جایگزینی برای تخصص و قضاوت انسان. بنابراین سعی کنید فقط به عنوان مکملی برای تحقیق از آن استفاده کنید اما برای تصمیم گیری‌های مهم تنها به آن متکی نباشید. بنابراین تا زمانی که کاستی‌ها را می‌دانید و از هوش مصنوعی با مسئولیت خودتان استفاده می‌کنید، مشکلی برایتان پیش نخواهد آمد.