OpenAI با هوش مصنوعی فوق‌پیشرفته به دنبال «شکوفایی حداکثری» انسان است

دوشنبه ۱۵ اسفند ۱۴۰۱ - ۱۵:۳۰
مطالعه 3 دقیقه
چت چی پی تی در تبلت Chat GPT
OpenAI که بیشتر به‌خاطر توسعه‌ی چت‌بات ChatGPT شناخته می‌شود، از مزایا و خطرات سیستم‌های هوش مصنوعی عمومی می‌گوید.
تبلیغات

سم آلتمن، مدیرعامل OpenAI (شرکتی که با چت‌بات ChatGPT بر سر زبان‌ها افتاد)، در بیانیه‌ای می‌گوید مأموریت او و اعضای تیمش این است که مطمئن شوند هوش مصنوعی عمومی (AGI) مزایایی به تمامی انسان‌ها برساند. منظور از هوش مصنوعی عمومی، سیستم‌هایی است که به‌طور کلی هوشمندتر از انسان هستند.

آلتمن می‌گوید هوش مصنوعی عمومی در صورتی که با موفقیت ساخته شود، می‌تواند از طریق تقویت اقتصاد جهانی و کمک به کشف حقایق علمی جدید باعث ارتقای نسل بشر شود. هوش مصنوعی عمومی این پتانسیل را دارد که توانایی‌های جدیدی به همه‌ی مردم بدهد و باعث رشد خلاقیت شود.

به گفته‌ی آلتمن، هوش مصنوعی عمومی با وجود تمامی مزایایش ممکن است خطرناک باشد. هرگونه سوءاستفاده از این فناوری، عواقب قابل‌توجهی در پی خواهد داشت و موارد دیگری مثل حوادث جدی و اختلال در جامعه را نیز باید در نظر گرفت.

مدیرعامل OpenAI می‌گوید مزایای هوش مصنوعی عمومی به حدی زیاد است که توقف توسعه‌ی آن به‌هیچ‌وجه توصیه نمی‌شود. در همین راستا انسان‌ها باید نحوه‌ی توسعه‌ی مطلوب آن را یاد بگیرند. آلتمن می‌گوید OpenAI به دنبال توسعه‌ی هوش مصنوعی عمومی جدیدی است که «نسل بشر را برای شکوفاییِ حداکثری در هستی، توانمند کند.» OpenAI آینده‌ای را تصور می‌کند که مزایای هوش مصنوعی عمومی به‌صورت منصفانه در سراسر جهان توزیع شود.

بر اساس گفته‌ی سم آلتمن، OpenAI قصد دارد در ابتدا نسخه‌های ضعیف‌تری از هوش مصنوعی عمومی را توسعه دهد و با انجام آزمایش‌های فراوان، از مزایای آن مطمئن شود. OpenAI به‌دنبال «گذار تدریجی» به دنیای مبتنی‌بر هوش مصنوعی است و ورود ناگهانی به این حوزه را نامناسب می‌داند: «ما انتظار داریم که هوش مصنوعی قدرتمند بتواند نرخ پیشرفت دنیا را بسیار سریع‌تر کند. ما معتقدیم که بهتر است خودمان را به تدریج با این وضعیت سازگار کنیم.»

آلتمن می‌گوید گذار تدریجی به دنیای جدید باعث می‌شود مردم، سیاستمداران و سازمان‌ها زمان کافی برای درک وقایع داشته باشند و به‌صورت شخصی مزایا و معایب این سیستم‌ها را تجربه کنند. آلتمن روی قانون‌مندکردن صنعت هوش مصنوعی تأکید ویژ‌ه‌ای دارد و می‌گوید به‌لطف گذار تدریجی می‌توان به مرور زمان قوانین مناسبی تدوین کرد. او همچنین می‌گوید جامعه و هوش مصنوعی می‌توانند همزمان با کمک هم تکامل پیدا کنند.

سم آلتمن می‌گوید بهترین راه برای عبور از موانع پیاده‌سازی هوش مصنوعی، یادگیری سریع و تکرار دقیق است. او می‌گوید هرچه زمان بگذرد، جامعه با سؤالات بیشتری درباره‌ی توانایی‌های هوش مصنوعی و نحوه‌ی رسیدگی به کاهش شغل‌ها مواجه خواهد شد: «گرفتن تصمیمات بهینه وابسته به مسیری است که این فناوری طی می‌کند. همچون هر حوزه‌ی جدید دیگر، اکثر پیش‌بینی‌های متخصصان تاکنون اشتباه از آب درآمده است.»

OpenAI معتقد است که استفاده‌ی بیشتر از هوش مصنوعی باعث سودرسانی به همه‌ی مردم می‌شود. این شرکت با کارهایی مثل متن‌بازکردن فناوری‌های مربوطه در پی گسترش استفاده از هوش مصنوعی است، اما قصد ندارد تمامی دستاوردهایش را سریعاً به نمایش بگذارد.

سم آلتمن می‌گوید با نزدیک شدن به دوران هوش‌های مصنوعی عمومی، او و اعضای تیمش با احتیاط بسیار بیشتری در این حوزه تصمیم خواهند گرفت: «برخی از فعالان حوزه‌ی هوش مصنوعی معتقدند که خطرات اعلام‌شده برای هوش مصنوعی عمومی، خیال‌بافی است. اگر حق با آن‌ها باشد، خوشحال خواهیم شد، اما ما می‌خواهیم به‌گونه‌ای عمل کنیم که این خطرها واقعی‌اند.»

OpenAI به دنبال توسعه‌ی مدل‌هایی هوش مصنوعی است که امکان هدایت آن‌ها فراهم باشد. مهاجرت از اولین نسخه‌ی مدل زبانی GPT-3 به InstructGPT و ChatGPT نمونه‌ای از این رویکرد است: «به‌طور مشخص، به نظر ما مهم است که جامعه درباره‌ی مرزهای به‌شدت گسترده برای نحو‌ه‌ی استفاده از هوش مصنوعی به توافق برسد؛ اما در داخل این مرزها، کاربران باید اختیارات زیادی داشته باشند.»

سم آلتمن می‌گوید تنظیمات پیش‌فرض سرویس‌های هوش مصنوعی جدید OpenAI بسیار محدود خواهد بود، با این‌حال کاربران خواهند توانست «رفتار هوش مصنوعی‌ای را که در حال استفاده از آن هستند تغییر دهند.» مدیرعامل OpenAI اضافه می‌کند: «ما به توانمندسازی افراد برای گرفتن تصمیم‌های خودشان و قدرت ذاتیِ گوناگونیِ ایده‌ها معتقدیم.»

OpenAI همزمان با توسعه‌ی توانایی‌های هوش مصنوعی، توجه ویژه‌ای به ایمنی دارد: «صحبت جداگانه درباره‌ی این دو مقوله، اشتباه است. این دو در بسیاری از جهات به هم مرتبط هستند. با وجود این لازم است که نسبت پیشرفت ایمنی به پیشرفت توانایی‌های هوش مصنوعی افزایش پیدا کند.»

سم آلتمن می‌گوید امیدوار است که مذاکراتی جهانی با محوریت این سه سؤال مهم برگزار شود: چگونه این سیستم‌ها را کنترل کنیم، چگونه به‌طور منصفانه مزایای ارائه‌شده توسط این سیستم‌ها را توزیع کنیم و چگونه به‌طور منصفانه دسترسی به آن‌ها را امکان‌پذیر کنیم.

مدیرعامل OpenAI می‌گوید او و اعضای تیمش در این شرکت معتقدند که «آینده‌ی انسان باید توسط انسان تعیین شود.» او همچنین می‌گوید که ارائه‌ی جزئیات پیشرفت‌های جدید هوش مصنوعی به عموم مردم، مهم است.

سم آلتمن اعتقاد دارد که سرعت پیشرفت هوش مصنوعی برای مدت‌زمان طولانی همچون دهه‌ی اخیر خواهد بود و اگر چنین اتفاقی رخ دهد «دنیا با شرایط امروزی‌اش بسیار متفاوت خواهد بود.» او همچنین به «خطرات شگفت‌آوری» که در پیش داریم اشاره کرده است.

سم آلتمن گذار موفقیت‌آمیز به دنیای مبتنی‌بر هوش مصنوعی عمومی را «مهم‌ترین، امیدبخش‌ترین و البته ترسناک‌ترین پروژه در تاریخ انسان» می‌داند. او می‌گوید هیچ تضمینی برای گذار موفقیت‌آمیز وجود ندارد.

مقاله رو دوست داشتی؟
نظرت چیه؟
داغ‌ترین مطالب روز
تبلیغات

نظرات