D1-lg

هوش مصنوعی فوق‌پیشرفته؛ تهدیدی بزرگ برای آینده‌ بشر

سه‌شنبه ۲۸ خرداد ۱۳۹۸ - ۱۷:۳۰
مطالعه 14 دقیقه
جان تالین یکی از بنیان‌گذاران اسکایپ از تلاش برای کنترل هوش مصنوعی فوق‌العاده و خطرات احتمالی آن حمایت می‌کند.
تبلیغات
D4-mci

درست سه‌ونیم میلیارد سال پیش، شکل‌های اولیه‌ی حیات روی زمین به وجود آمدند. چهار میلیون سال پیش بود که ظرفیت مغز هومونیدها (میمون‌های شبه‌انسان) به طرز چشمگیری افزایش یافت. پنجاه‌هزار سال پیش، انسان خردمند ظهور کرد. ۱۰ هزار سال پیش، تمدن به وجود آمد. ۵۰۰ سال پیش، چاپ اختراع شد. ۵۰ سال پیش کامپیوتر اختراع شد و «این» در کمتر از ۳۰ سال به پایان می‌رسد.

جان تالین در سال ۲۰۰۷ در مقاله‌ای آنلاین به نام «خیره به تکینگی» به جملات بالا برخورد (براساس فرضیه‌ی تکینگی فناوری، روزی رشد فناوری به‌حدی می‌رسد که از کنترل انسان خارج می‌شود و تغییرات غیرقابل بازگشتی را در تمدن بشر ایجاد می‌کند). در جمله‌ی آخر پاراگراف بالا منظور از «این»، تمدن انسانی است. به عقیده‌ی مؤلف این مقاله، بشر با ظهور ابَرهوش یا هوش مصنوعی فراتر از هوش انسان در بسیاری از حوزه‌ها، به پایان خود نزدیک می‌شود.

تالین، برنامه‌نویس کامپیوتر متولد استونی است که در زمینه‌ی فیزیک هم سابقه دارد. او زندگی را به یک مسئله‌ی برنامه‌نویسی بزرگ تشبیه می‌کند. تالین در سال ۲۰۰۳ به‌عنوان یکی از بنیان‌گذاران اسکایپ به توسعه‌ی بک‌اند این اپلیکیشن پرداخت. او برای رسیدن به هدفی جدید، دو سال بعد سهم خود را به eBay فروخت. مقاله‌ی «خیره به تکینگی» ترکیبی از کد کامپیوتر، فیزیک و نقل‌قول‌های کالوین و هاب بود.

ربات شرور

تالین خیلی زود مؤلف این مقاله را پیدا کرد. الیزر یودکفسکی، نظریه‌پردازی خودآموخته بود. او مؤلف بیش از ۱۰۰۰ مقاله و پست بلاگ بود که موضوع اغلب آن‌ها هم ابَرهوش بود. تالین برنامه‌ای برای برش نوشته‌های یودکفسکی از اینترنت، مرتب‌سازی آن‌ها به ترتیب زمان و فرمت‌دهی آن‌ها برای دستگاه آیفون خود نوشت. سپس زمانی را به خواندن آن‌ها اختصاص داد.

اصطلاح «هوش مصنوعی» یا شبیه‌سازی هوش در کامپیوترها یا ماشین‌ها به سال ۱۹۵۶، یعنی یک دهه پس از اختراع اولین کامپیوترهای دیجیتال الکترونیکی بازمی‌گردد. هوش مصنوعی در ابتدا زمینه‌ای امیدبخش بود، اما در دهه‌ی ۱۹۷۰ و زمانی‌که پیش‌بینی‌های اولیه محقق نشدند، زمستان هوش مصنوعی آغاز شد.

وقتی تالین مقاله‌های یودکفسکی را پیدا کرد، هوش مصنوعی در آغاز رنسانس بود. دانشمندان موفق به توسعه‌‌ی انواع AI مثل شطرنج، پاکسازی کف آشپزخانه و تشخیص گفتار انسان شده بودند؛ هوش‌های مصنوعی که هرکدام در زمینه‌ای مشخص نسبت به انسان برتری داشتند (چهار سال بعد در سال ۲۰۰۷، برد بزرگ ابرکامپیوتر واتسون IBM در رقابت Jeopardy! رخ داد و هشت سال بعد AlphaGo شرکت DeepMind در بازی GO مقابل انسان به برتری رسید). هوش‌های مصنوعی محدود (narrow) تنها در زمینه‌های مشخصی بهتر از انسان عمل می‌کنند.

برای مثال هوش مصنوعی شطرنج‌باز نمی‌تواند کف زمین را تمیز کند یا شما را از نقطه‌ی A به نقطه‌ی B ببرد؛ اما به اعتقاد تالین، هوش مصنوعی فوق هوشمند محدوده‌ی وسیعی از مهارت‌ها را در یک موجودیت ترکیب می‌کند. بدتر از هر چیز، می‌تواند از داده‌های تلفن‌ هوشمند استفاده کند و در دست‌کاری داده‌ها بهتر از انسان عمل کند.

تالین با خواندن مقاله‌های یودکفسکی به این نتیجه رسید که ابرهوش می‌تواند منجر به تکثیر و انفجار نوعی از هوش مصنوعی شود که موجودیت بشر را تهدید می‌کند. همان‌طور که انسان‌ها بر نسل کپی‌ها (از نخستی‌سانان) مسلط شدند، هوش‌های مصنوعی فوق هوشمند هم می‌توانند جایگاه انسان در نردبان تکامل را اشغال کنند؛ یا بدتر از هر چیز، نسل انسان را منقرض کنند. تالین، پس از خواندن آخرین مقاله‌ها ایمیلی با این مضمون به یودکفسکی ارسال کرد:

من جان هستم، یکی از مهندسین بنیان‌گذار اسکایپ. در این مورد با شما موافق هستم که پیشگیری از پیروزی هوش مصنوعی بر هوش انسانی یکی از مهم‌ترین وظایف بشریت است.

هدف تالین پیشگیری از این اتفاق بود. به همین دلیل، برای چند جلسه به غرب کالیفرنیا رفت و با یودکفسکی ملاقات کرد. بحث آن‌ها چهار ساعت به طول انجامید. یودکفسکی از توانایی منحصربه‌فرد تالین در درک مفاهیم اصلی و جزئیات، ابراز رضایت کرد.

تالین چکی به مبلغ ۵۰۰۰ دلار برای مؤسسه‌ی SIAI (مؤسسه‌ی تکینگی هوش مصنوعی) نوشت، مؤسسه‌ای غیرانتفاعی که یودکفسکی یکی از پژوهشگرهای آن بود. (نام این مؤسسه در سال ۲۰۱۳ به Machine Intelligence Research Institute یا MIRI تغییر پیدا کرد). از آن زمان تالین بیش از ۶۰۰ هزار دلار به این مؤسسه پرداخت کرده است.

تالین پس از ملاقات با یودکفسکی هدف خود را مشخص کرد و مأموریت نجات انسان از دست مخلوقات هوشمند خود را آغاز کرد. او پس از در میان گذاشتن مشکل با نظریه‌پردازان و دانشمندان کامپیوتر، برای سخنرانی در مورد تهدیدهای بالقوه‌ی ابَرهوش، سفر به سراسر دنیا را آغاز کرد.

او کار خود را با سرمایه‌گذاری پژوهشی بر یکی از راه‌های فرار انسان یعنی هوش مصنوعی دوستانه آغاز کرد. در اینجا منظور از هوش مصنوعی دوستانه، ربات یا دستگاهی نیست که در مورد آب‌وهوا با شما صحبت کند یا نام فرزندانتان را انتخاب کند (گرچه هوش مصنوعی فوق هوشمند قادر به انجام تمام این کارها است). حتی هدف هوش مصنوعی دوستانه، عشق یا نوع‌دوستی نیست. بسیاری به‌اشتباه تصور می‌کنند هوش مصنوعی دوستانه از ارزش‌ها و اختیارت انسانی برخوردار است درحالی‌که «دوستانه» در اینجا معنای بنیادی‌تری دارد: ماشین‌های فردا برای رسیدن به اهداف خود، انسان را حذف نمی‌کنند.

تالین در سن ۴۶ سالگی، کارآفرین فناوری است. او معتقد است به‌لطف پیشرفت‌های علمی (درصورتی‌که هوش مصنوعی انسان را نابود نکند)، می‌تواند سال‌های سال زنده بماند. نگرانی او در مورد ابَرهوش از دید پیروان او نگرانی متداولی است. مؤسسه‌ی پیتر تیل یکی از بنیان‌گذاران PayPal،  مبلغ ۱.۶ میلیون دلار به MIRI تخصیص داده است و در سال ۲۰۱۵، ایلان ماسک، بنیان‌گذار تسلا، ۱۰ میلیون دلار را روی مؤسسه‌ی Future of Life سازمان امنیت فناوری مستقر در ماساچوست کمبریج سرمایه‌گذاری کرد.

ورود تالین به این دنیای منحصربه‌فرد به دهه‌ی ۸۰ و دوران پرده‌ی آهنین (مرزی غیرفیزیکی بود که پس از جنگ جهانی دوم در سال ۱۹۴۵ تا پایان جنگ سرد در سال ۱۹۹۱، اروپا را به دو قسمت مجزا تقسیم می‌کرد) بازمی‌گردد؛ درست وقتی پدر یکی از همکلاسیان او با شغل دولتی، اجازه‌ی بازدید او و دوستانش از کامپیوترهای بزرگ مرکزی را داد. تالین پس از استقلال استونی، دست به تأسیس شرکتی در زمینه‌ی بازی‌های ویدئویی زد. تالین امروزه همراه‌با همسر و فرزندش در پایتخت استونی (که همنام با اوست) زندگی می‌کند. او با پژوهشگرها در منطقه‌ی بالتیک ملاقات می‌کند.

جان تالین

تالین می‌خواهد انسان را از شر مخلوقات هوش مصنوعی نجات دهد.

استراتژی پیشنهادی تالین هم مانند بسیاری از کارهای گذشته‌ی او اسلوب‌مند و منظم است. او سرمایه‌ی خود را بین ۱۱ سازمان توزیع کرده است. هرکدام از این سازمان‌ها روی روش‌های متفاوتی برای امنیت هوش مصنوعی کار می‌کنند. تالین در سال ۲۰۱۲ به همراه چند نفر دیگر مرکز پژوهشی CSER (ریسک وجودی) را با سرمایه‌ی اولیه‌ی نزدیک به ۲۰۰ هزار دلار تأسیس کرد.

ریسک‌های وجودی یا ریسک‌های X (طبق‌ نام‌گذاری تالین)، بقای انسان را تهدید می‌کنند. ۲۰ پژوهشگر CSER علاوه‌بر هوش مصنوعی، چالش‌هایی مثل تغییرات اقلیمی، جنگ هسته‌ای و سلاح‌های زیستی را هم بررسی می‌کنند؛ اما به عقیده‌ی تالین، زمینه‌های دیگر تهدید فرار هوش مصنوعی را مشروع جلوه می‌دهند و زمینه‌های فوق مانند دروازه‌ی ورود عمل می‌کنند (براساس این نظریه، مصرف دارویی خاص می‌تواند احتمال مصرف داروهای دیگر را افزایش دهد و به‌تدریج تغییرات بیولوژیکی در مغز ایجاد شود).

نگرانی در مورد تهدید‌های پذیرفته‌شده ازجمله تغییرات اقلیمی می‌تواند توجه بسیاری از افراد را به خود جلب کرده اما تالین امیدوار است مردم از خطر پیروزی ماشین‌های فوق هوشمند بر نسل بشر هم آگاه شوند. برای مثال او در یکی از همایش‌ها از جامعه‌‌ی علمی درخواست می‌کند امنیت هوش مصنوعی را جدی بگیرند.

در این همایش، افرادی از جوامع علمی سراسر جهان، ازجمله پژوهشگری رباتیک از هنگ کنگ و پژوهشگری قدیمی از بریتانیا شرکت کردند که در دهه‌ی ۱۹۶۰  از کمبریج فارغ‌التحصیل شده است.  تالین در این جلسه بحث را به تهدید هوش مصنوعی تغییر می‌دهد و ازآنجاکه طرف صحبت او برنامه‌نویس‌ها نیستند، سعی می‌کنند از تشبیه و استعاره استفاده کند:

هوش مصنوعی پیشرفته می‌تواند انسان را به‌سرعت قطع درختان، نابود کند. ابَرهوش برای انسان دقیقا مثل تهدید انسان برای گوریل‌ها است.

یکی از اعضای جلسه می‌پرسد: «هوش مصنوعی برای غلبه بر انسان نیاز به یک بدنه دارد. بدون پوشش فیزیکی چگونه می‌تواند کنترل فیزیکی را به دست بگیرد؟» تالین برای پاسخ به این سؤال از تشبیه دیگری استفاده می‌کند:

حتی اگر من را در زیرزمین حبس کنید، تنها با داشتن یک اتصال اینترنتی می‌توانم خسارت زیادی وارد کنم.

صرف‌‌نظر از اینکه ربات Roomba (نوعی ربات جاروبرقی) یا یکی از نوادگان جدید آن باشد، هوش مصنوعی براساس خروجی‌ها هدایت می‌شود. برنامه‌نویس‌ها اهداف را همراه‌با یک مجموعه از قوانین و دستورالعمل‌ها به ربات‌ها تخصیص می‌دهند؛ اما هوش مصنوعی پیشرفته برای تسلط بر دنیا لزوما نیازی به دریافت هدف یا دستورالعمل نخواهد داشت؛ بلکه می‌تواند به شکلی کاملا تصادفی به آن برسد. تاریخچه‌ی برنامه‌نویسی کامپیوتر مملو از خطاهای کوچکی است که پیامدهای فاجعه‌باری داشته‌اند.

هوش مصنوعی پیشرفته در آینده نیازی به اجازه‌ی انسان نخواهد داشت

برای مثال در سال ۲۰۱۰، تاجری که برای شرکت سهام مشترک Waddel & Reed کار می‌کرد، هزاران قرارداد به تاریخ آینده را به فروش رساند؛ اما این شرکت در نرم‌افزار خود، یک متغیر کلیدی را از قلم انداخته بود. این متغیر الگوریتمی برای اجرای مبادله‌ی کالا بود. درنهایت این خطا منجر به خسارتی تریلیون دلاری شد.

پژوهشگرهای تحت حمایت تالین معتقدند، درصورتی‌که ساختار پاداش هوش مصنوعی فوق انسانی به‌درستی برنامه‌ریزی نشود، حتی اهداف خیرخواهانه هم می‌توانند پایانی مخرب داشته باشند. برای مثال، فیلسوف دانشگاه آکسفورد نیک بوستروم در کتاب خود به نام ابَرهوش، به یک مأمور تخیلی اشاره می‌کند که برای تولید تعداد زیادی گیره‌ی کاغذ طراحی شده است. در این نمونه ممکن است هوش مصنوعی حتی اتم‌های بدن انسان را به‌عنوان ماده‌ی خام مناسب برای تولید گیره‌ها تشخیص دهد.

دیدگاه‌های تالین حتی در انجمن‌های نگران امنیت هوش مصنوعی هم با انتقادهایی روبه‌رو است. برخی معتقدند هنوز برای نگرانی در مورد محدود کردن هوش مصنوعی فوق هوشمند زود است زیرا درک جامعی از آن وجود ندارد. به عقیده‌ی گروهی دیگر، تمرکز بر بازیگران سرکش فناوری، توجه به مشکلات مهم‌تر و ضروری‌تر را کمرنگ می‌کند.

برای مثال اغلب الگوریتم‌ها توسط سفیدپوستان یا براساس داده‌هایی طراحی می‌شوند که به آن‌ها گرایش دارند. به‌گفته‌ی ترا لیونز، مدیر اجرایی Parthneship AI، سازمانی چندذینفعی متمرکز بر امنیت هوش مصنوعی و مشکلات دیگر (تعداد زیادی از مؤسسه‌های تحت پشتیبانی تالین از اعضای این سازمان هستند):

اگر در کوتاه‌مدت به مشکلات توجه نکنیم، دنیا جای خطرناکی برای زندگی خواهد شد.
AI دوستانه

اما به اعتقاد او، برخی چالش‌های قریب‌الوقوع مانند حذف انحراف‌های الگوریتمی (در نمونه‌ی فوق سفیدپوست‌ها) مهم‌تر از چالش‌های هوش مصنوعی فوق هوشمند هستند.

اما تالین با این دلایل هم قانع نشد. او معتقد است هوش مصنوعی فوق هوشمند تهدید‌های منحصربه‌فرد خود را دارد و امیدوار است جامعه‌ی هوش مصنوعی مانند جنبش ضدهسته‌ای دهه‌ی ۱۹۴۰ عمل کند. پس از بمباران هیروشیما و ناکازاکی، دانشمندان دست‌به‌دست یکدیگر دادند تا تست هسته‌ای را محدود کنند. درحالی‌که دانشمندان پروژه‌ی منهتن (پروژه‌‌ی توسعه‌ی اولین سلاح‌های هسته‌ای در طول جنگ جهانی دوم) می‌توانستند بگویند:

ما در حال اجرای نوآوری هستیم و نوآوری همیشه خوب است. پس بگذارید پیش برویم.

تالین هشدار می‌دهد که رسیدن به امنیت هوش مصنوعی کار دشواری است. درصورتی‌که هوش مصنوعی به‌اندازه‌ی کافی هوشمند باشد، درک بهتری از محدودیت‌ها خواهد داشت. تالین چنین شرایطی را به بیدار شدن در زندانی تشبیه می‌کند که به دست یک مشت کودک پنج ساله و کور ساخته شده است. همین مسئله برای هوش مصنوعی هوشمند صحت دارد و درک آن از زندان و رفع محدودیت‌ها می‌تواند بسیار فراتر از خالق انسانی باشد.

یودکفسکی نظریه‌پرداز با اجرای آزمایشی در سال ۲۰۰۲ به این تهدید‌ها پی برد. او در این آزمایش‌ها چت‌های دو طرفه‌ای را اجرا کرد. خود او نقش هوش مصنوعی محصور در یک جعبه را ایفا می‌کرد، مخاطبان هم نقش دروازه‌بان یا زندان‌بانی را ایفا می‌کردند که هوش مصنوعی را درون جعبه نگه‌ می‌داشت. یودکفسکی می‌گوید از هر پنج مرتبه، سه مرتبه توانست دروازه‌بان را قانع کند که او را آزاد کند. بااین‌حال آزمایش‌های او باعث نشد پژوهشگرها از ساخت جعبه‌های بهتر دلسرد شوند.

پژوهشگرهای تحت حمایت تالین، برای رسیدن به هدف مجموعه‌ای وسیع از استراتژی‌ها، روش‌های کاربردی و حتی غیرممکن را در نظر می‌گیرند. گروهی به محصور کردن فیزیکی هوش مصنوعی در ساختاری واقعی و فیزیکی یا محصور کردن آن ازطریق برنامه‌نویسی اعتقاد دارند. گروهی دیگر هم سعی می‌کنند هوش مصنوعی را به‌گونه‌ای آموزش دهند که به ارزش‌های انسانی احترام بگذارد.

تعداد کمی هم روی دکمه‌ی خاموش یا Off کار می‌کنند. یکی از پژوهشگرها به نام استوارت آرمسترانگ، فیلسوف و ریاضیدان مؤسسه‌ی Future of Humanity دانشگاه آکسفورد (تالین این مؤسسه را جذاب‌ترین بخش دانشگاه می‌داند و بیش از ۳۱۰ هزار دلار روی آن سرمایه‌گذاری کرده است)، معتقد است هر سه روش مزایای خود را دارد. آرمسترانگ یکی از معدود پژوهشگرهای دنیا است که به‌صورت تمام‌وقت روی امنیت هوش مصنوعی کار می‌کند.

آرمسترانگ بخشی از پژوهش خود را به یک نوع روش محصورسازی به نام «oracle AI» اختصاص داده است. او در سال ۲۰۱۲ در مقاله‌ای با همکاری نیک بوستروم (یکی از بنیان‌گذاران FHI)، نه‌تنها احاطه‌کردن ابَرهوش در یک مخزن (ساختار فیزیکی) را پیشنهاد داد، بلکه با روشی مثل تخته‌ی ویجا (تخته‌ای که برای احضار ارواح به کار می‌رود و با پاسخ‌هایی مثل بله و خیر و اعداد همراه است) محدودیت آن را افزایش داد. باوجود تمام این محدودیت‌ها هوش مصنوعی می‌تواند با دست‌کاری زیرکانه‌ی بازپرس‌های خود، سرنوشت بشر را تغییر دهد.

تعامل با هوش مصنوعی

آرمسترانگ برای کاهش این احتمال، محدودیت در زمان مکالمه یا جلوگیری از پرس‌وجوهایی را پیشنهاد می‌دهد که ممکن است نظم جهان را بر هم بزنند. او همچنین پیشنهاد می‌کند معیارهای بقای انسان مثل میانگین صنعتی داو جونز (شاخص بازار سهام که ارزش سهام ۳۰ شرکت بزرگ در ایالات‌متحده و نحوه‌ی تجارت آن‌ها در بازار سهام را نشان می‌دهد) یا تعداد افرادی که در توکیو از خیابان عبور می‌کنند، در اختیار پراکسی اوراکل قرار داده شده و از آن خواسته شود این داده‌ها را ثابت نگه دارد.

آرمسترانگ به‌عنوان راه‌حل آخر، ساخت دکمه‌ی قرمز off یا خاموش شدن هوش مصنوعی را توصیه می‌کند. این دکمه می‌تواند یک کلید فیزیکی یا مکانیزمی برنامه‌ریزی‌شده در هوش مصنوعی باشد که در صورت وقوع مشکل، خود را خاموش کند؛ اما طراحی چنین کلیدی چندان ساده نیست چرا که علاقه‌ی هوش مصنوعی به حفاظت از خود می‌تواند مانع از فشردن چنین کلیدی توسط خود او شود.

ساخت یک دکمهی Off می‌تواند تهدیدهای هوش مصنوعی را کاهش دهد

همچنین شاید هوش مصنوعی در مورد طراحی چنین کلیدی کنجکاو شود، آن را فعال کند و درنتیجه به یک موجود بی‌استفاده تبدیل شود. در سال۲۰۱۳، برنامه‌نویسی به‌نام تام مورفی، نوعی هوش مصنوعی طراحی کرد که می‌توانست بازی‌های سیستم سرگرمی نینتندو را به خود آموزش دهد. این هوش مصنوعی که در پیروزی مصمم بود، خیلی ساده کلید pause یا توقف را فشار می‌داد تا بازی را متوقف کند. مورفی هم در مقاله‌ای به کنایه می‌گوید تنها راه برد، بازی نکردن است.

هوش مصنوعی برای موفقیت باید به این دکمه بی‌علاقه باشد یا به‌گفته‌ی تالین، باید برای وجود یا عدم وجود خود در دنیا ارزش یکسانی قائل شود؛ اما حتی اگر پژوهشگرها به این هدف برسند، با چالش‌های دیگری روبه‌رو خواهند شد. برای مثال، چه اتفاقی رخ می‌دهد اگر هوش مصنوعی چند هزار کپی از خود را در اینترنت توزیع کند؟

هیجان‌انگیزترین پژوهش، یافتن راهی برای احترام هوش مصنوعی به ارزش‌های انسانی است. البته پژوهشگرها می‌خواهند ازطریق آموزش هوش مصنوعی به این هدف برسند، نه صرفا برنامه‌ریزی آن‌. در دنیایی که با سیاست‌های متعصبانه احاطه شده است، مردم نگران روش‌ها و اصول متفاوت هستند. اما به عقیده‌ی تالین، انسان‌ها باوجود تمام تفاوت‌ها، نقاط مشترک زیادی دارند؛ بنابراین هوش مصنوعی هم می‌تواند قوانین مشترک را تشخیص دهد.

FHI

آیا می‌توان هوش مصنوعی را کنترل کرد؟ هو پرایس، تالین و مارتین، بنیان‌گذاران مرکز ریسک وجودی کمبریج به‌دنبال پاسخ به این سؤال هستند.

در چنین شرایطی، باید جنبه‌ی کمتر منطقی انسان را به هوش مصنوعی آموزش داد. برای مثال انسان‌ها جملاتی با معنای غیرمستقیم را به کار می‌برند؛ یا گاهی اولویت‌های انسان با یکدیگر در تضادند. دراین‌میان، مسیرهای داده‌ای اپلیکیشن‌ها و شبکه‌های اجتماعی می‌توانند منبع خوبی برای آموزش هوش مصنوعی باشند. بااین‌حال به عقیده‌ی تالین باید در این زمینه تلاش کرد زیرا ریسک هوش مصنوعی بالا است. او می‌گوید:

باید جلوتر از زمانه‌ی خود فکر کنیم. درصورتی‌که منافع هوش مصنوعی با منافع انسان مشترک نباشد، تولید آن خطای غیرقابل جبران و وحشتناکی خواهد بود.

تالین در جلسه‌ای با شان ایگرتایگ پژوهشگر ژنوم (رئیس اجرایی CSER) و ماتیس ماس، پژوهشگر سیاست هوش مصنوعی در دانشگاه کپنهاگ به بحث در مورد این موضوع پرداخت. آن‌ها در مورد ایده‌ی هوش مصنوعی در مقابل بلاک‌چین و همچنین در مورد بازی آنلاین ویدئویی به‌نام Universal PaperClips بحث کردند.

این بازی با اجرای سناریوی کتاب بوستروم از مخاطب می‌خواهد برای ساخت گیره‌های کاغذی به‌صورت پیوسته روی ماوس خود کلیک کند. این بازی هیجان‌انگیز یا جذاب نیست اما به مخاطب نشان می‌دهد چرا یک ماشین برای تولید کالاهای دفتری به‌دنبال راه‌های مناسب‌تری است.

آن‌ها در این جلسه در مورد مسائل بزرگ‌تری هم صحبت کردند. هدف اصلی پژوهش امنیت هوش مصنوعی، ساخت ماشین‌هایی است که به‌گفته‌ی هو پرایس، فیلسوف کمبریج و بنیان‌گذار CSER، از نظر اخلاقی و شناختی ابرانسان یا فوق انسان باشند. در این جلسه سؤال‌های دیگری هم مطرح شد: اگر نخواهیم هوش مصنوعی بر ما غلبه کند، ما می‌توانیم بر آن غلبه کنیم؟ به‌بیان‌دیگر، آیا هوش مصنوعی از حقوقی برخوردار است؟ به‌گفته‌ی تالین، لازم نیست جنبه‌ی انسانی برای هوش مصنوعی قائل شد. معمولا افراد هوش را با هوشیاری یا خودآگاهی اشتباه می‌گیرند. چنین سوءبرداشتی بسیاری از پژوهشگرهای هوش مصنوعی را آزار می‌دهد. برای مثال تالین می‌گوید:

هوشیاری یکی از ابعاد جانبی هوش مصنوعی است؛ برای مثال یک ترموستات را در نظر بگیرید. از هوشیاری برخوردار نیست؛ اما اگر در اتاقی باشید که به دمای منفی ۳۰ درجه تنظیم شده باشد، مخالفت یا دشمنی با آن منطقی نیست.

ایگرتایگ اضافه می‌کند:

 نگرانی در مورد هوشیاری هم جایگاه خود را دارد؛ اما درصورتی‌که در ابتدا چالش‌های امنیتی را حل نکنیم، فرصتی برای نگرانی در مورد هوشیاری نخواهیم داشت.

 به‌طورکلی این پیش‌فرض‌ها و سؤال‌ها در مورد آینده‌ی هوش مصنوعی وجود دارد. برای مثال هوش مصنوعی چه شکلی به خود خواهد گرفت؟ آیا باید نگران یک نوع هوش مصنوعی بود یا ارتشی از آن‌ها؟ به‌گفته‌ی تالین، مسئله‌ی مهم، کاری است که هوش مصنوعی انجام می‌دهد و او معتقد است فعلا کارهای هوش مصنوعی در حیطه‌ی اختیار و قدرت انسان است.

مقاله رو دوست داشتی؟
نظرت چیه؟
داغ‌ترین مطالب روز
رودخانه یارلونگ سانگپو
چین می‌گوید ساخت سد بزرگ یارلونگ سانگپو در تبت به‌ضرر همسایگان نخواهد بود

پروژه نیروگاه یارلونگ سانگپو به‌عنوان بزرگ‌ترین سد برق‌آبی جهان در کشور چین این نگرانی‌ را به‌وجود آورده که در هند کمبود آب پیش بیاید.

12
یک روز پیش
بهترین حافظه SSD بازار
بهترین هارد اینترنال SSD و HDD در بازار ایران [بهمن ۱۴۰۳]

در این مقاله، بهترین‌‌ HDD و SSD اینترنال با ظرفیت‌های مختلف را در هر رده‌ی قیمتی معرفی خواهیم کرد.

186
2 روز پیش
پروژه دیپ سیک
محققان برکلی: فناوری DeepSeek را با فقط ۳۰ دلار بازسازی کردیم!

تیمی تحقیقاتی ادعا می‌کند که فناوری‌های دیپ‌سیک R1-Zero را با تنها ۳۰ دلار بازتولید کرده است.

61
یک روز پیش
ایلان ماسک و ترامپ
ایلان ماسک دو هواپیمای فوق امن برای خودش و دونالد ترامپ می‌سازد

ظاهرا ایلان ماسک می‌خواهد برای خودش و دونالد ترامپ دو هواپیمای لوکس از بویینگ سفارش دهد.

12
11 ساعت پیش
کنترل موسیقی روی گوشی
قابلیت Now Bar در One UI 7 اکنون روی صفحه‌نمایش همیشه‌روشن هم کار می‌کند

ویژگی مفید Now Bar اکنون در بخش‌های بیشتری از گوشی‌های سامسونگ کارایی دارد.

59
2 روز پیش
چگونه از اینستاگرام بدون اکانت استفاده کنیم؟

مشاهده‌ی محتوای اینستاگرام نظیر پست‌‌ها و استوری‌‌ها نیازمند ثبت‌‌نام در این شبکه‌ی اجتماعی است؛ اما چگونه بدون اینستا وارد اینستا شویم؟

15
15 ساعت پیش
خط ایندوس
هرکس بتواند خط باستانی سند را رمزگشایی کند، یک میلیون دلار جایزه می‌گیرد

دولت تامیل نادو در هند جایزه‌ای یک میلیون دلاری را برای کسی تعیین کرده است که بتواند خط اسرارآمیز تمدن دره سند را رمزگشایی کند.

46
10 ساعت پیش
تبلیغات
DN-Snap

نظرات

تبلیغات
D7-zoomitproduct
D7-bmsd
آخرین ویدیوها
پخش از رسانه
گوشی اشتراکی
گوشی اشتراکی؟! دیگه گوشیت مال خودت نیست! 😳📱
00:09:55
عکس پلتفرم ابرآمد در رویداد ابری‌گپ
گزارش زومیت از رویداد «ابری‌گپ»
00:08:39
عکس امیرمحمد سلیمانی و میکروفون زومیت در دستانش
پشت صحنه اولین دورهمی حضوری زومیت
00:16:35
چیزایی که سامسونگ توی رویداد آنپکد بهتون نگفت!
چیزایی که سامسونگ توی رویداد آنپکد بهتون نگفت!
00:07:56
اولین گردهمایی زومیت و پوشش زنده‌ی رویداد آنپکد سامسونگ
نسخه آفلاین پوشش زنده دورهمی زومیت
03:04:03
عکس سری گلکسی اس ۲۵ سامسونگ در دست بهزاد
نگاه نزدیک زومیت به خانواده گلکسی اس ۲۵
00:08:52
۴ مرد جوان در کاور مراسم رونمایی گلکسی اس ۲۵
پوشش زنده دورهمی زومیت؛ مراسم معرفی سری گلکسی اس ۲۵ سامسونگ
03:00:00
انتظارات از رویداد معرفی گلکسی اس ۲۵ سامسونگ و دورهمی زومیت
انتظارات از رویداد معرفی سری اس ۲۵ سامسونگ و دورهمی زومیت
00:11:31
عکس بهزاد در ماشین پرنده و لوگو CES
۱۰ فناوری برتر امسال که آینده رو تغییر می‌دن
00:11:52
کاور دورهمی زومیت
اولین دورهمی حضوری زومیت؛ گردهمایی بزرگ عاشقان فناوری 🎉
00:01:04
انتظارات زومیت از دوربین گلکسی اس ۲۵ اولترا سامسونگ
گلکسی اس ۲۵ اولترا تو راهه؛ از دوربین این گوشی چی می‌دونیم؟
00:09:51
عکس بهزاد و هادی با جعبه‌های دیجی‌کالا و لوگوی بیسوس
آنباکس ۴۰ میلیونی کالاهای متنوع بیسوس
01:13:38
کامپیوترهای کوانتومی و جهان های موازی
همه چیز درباره کامپیوترهای کوانتومی
00:13:43
عکس کاور دیجی پی
گزارش غرفه‌ی دیجی‌پی در نمایشگاه بین‌المللی ریتیل شو تهران
00:08:40
گلکسی اس ۲۴ اولترا نه، اس ۲۵ اولترا خوبه
اس۲۴ اولترا نخر؛ اس۲۵ اولترا داره میاد!!! 🤯
00:08:54
کیس خوب چه ویژگی‌هایی داره؟
قبل از خرید کیس کامپیوتر به این نکات توجه کنید ⚠️
00:07:56
بررسی کاور فر تو کار ال جی
معرفی فر تو کار ال‌جی؛ مدل ۷۶ لیتری LG InstaView
00:04:55
کاور ویدئو بررسی لپ تاپ Stealth GS77 ام اس آی / MSI Stealth GS77 Review
بررسی لپ تاپ Stealth GS77 ام اس آی / MSI Stealth GS77 Review
00:09:22
کاور ویدئو بررسی لپ تاپ ROG Zephyrus G14 ایسوس / ASUS ROG Zephyrus G14 Review
بررسی لپ تاپ ROG Zephyrus G14 ایسوس / Zephyrus G14 Review
00:10:58
کاور ویدئو برررسی شیائومی 12T و 12T پرو / Xiaomi 12T & 12T Pro Review
برررسی شیائومی 12T و 12T پرو / Xiaomi 12T & 12T Pro Review
00:09:07
کاور ویدئو بررسی سرفیس پرو 9 مایکروسافت / Surface Pro 9 Review
بررسی سرفیس پرو 9 مایکروسافت / Surface Pro 9 Review
00:11:32
کاور ویدئو بررسی کیس اسمبل شده MEG Aegis Ti5 ام اس آی / MSI MEG Aegis Ti5 Review
بررسی کیس اسمبل شده MEG Aegis Ti5 ام اس آی / MEG Aegis Ti5
00:09:54
کاور ویدئو بررسی لپ تاپ Spectre x360 اچ پی | HP Spectre x360 Review
بررسی لپ تاپ Spectre x360 اچ پی | HP Spectre x360 Review
00:13:00
کاور ویدئو بررسی گلکسی تب اس 8 اولترا سامسونگ / Samsung Galaxy Tab S8 Ultra Review
بررسی گلکسی تب اس 8 اولترا سامسونگ / Tab S8 Ultra Review
00:12:44
کاور ویدئو بررسی اندروید باکس نت باکس شاین / NETBOX Shine Review
بررسی اندروید باکس نت باکس شاین / NETBOX Shine Review
00:10:48
کاور ویدئو بررسی لپ تاپ ROG FLOW Z13 ایسوس / ASUS ROG FLOW Z13 Review
بررسی لپ تاپ ROG FLOW Z13 ایسوس / ASUS ROG FLOW Z13 Review
00:08:43
کاور ویدئو بررسی آنر 70 / HONOR 70 Review
بررسی آنر 70 / HONOR 70 Review
00:09:37
کاور ویدئو جعبه‌گشایی پیکسل 7 پرو گوگل / Google Pixel 7 Pro Unboxing
جعبه‌گشایی پیکسل 7 پرو گوگل / Google Pixel 7 Pro Unboxing
00:05:58
کاور ویدئو بررسی پیکسل 7 پرو گوگل / Google Pixel 7 Pro Review
بررسی پیکسل 7 پرو گوگل / Google Pixel 7 Pro Review
00:11:47
کاور ویدئو مقایسه دوربین 14 پرو مکس، اس 22 اولترا و پیکسل 7 پرو / Google Pixel 7 Pro vs Samsung Galaxy S22 Ultra 5G vs Apple iPhone 14 Pro Max Camera Test
مقایسه دوربین 14 پرو مکس، اس 22 اولترا و پیکسل 7 پرو
00:09:00
کاور ویدئو مقایسه دوربین گلکسی اس 23 و اس 22 اولترا و آیفون 14 پرو مکس
مقایسه دوربین گلکسی اس 23 و اس 22 اولترا و آیفون 14 پرو مکس
00:12:34
کاور ویدئو بررسی گلکسی اس 23 اولترا سامسونگ / Galaxy S23 Ultra Review
بررسی گلکسی اس 23 اولترا سامسونگ / Galaxy S23 Ultra Review
00:18:17
کاور ویدئو آنباکس و نگاه نزدیک زومیت به گلکسی اس 23 اولترا / Samsung Galaxy S23 Ultra Unboxing
آنباکس و نگاه نزدیک زومیت به گلکسی اس 23 اولترا
00:13:10
کاور ویدئو مقایسه عملکرد آیفون 14 پرو مکس اپل و گلکسی اس 23 اولترا / Samsung Galaxy S23 Ultra vs Apple iPhone 14 Pro Max Performance Comparison
مقایسه عملکرد آیفون 14 پرو مکس اپل و گلکسی اس 23 اولترا
00:09:42
کاور ویدئو بررسی گوشی وان پلاس 11 / OnePlus 11 Review
بررسی گوشی وان پلاس 11 / OnePlus 11 Review
00:10:19
کاور ویدئو نگاه نزدیک و آنباکس گلکسی A14 سامسونگ / Samsung Galaxy A14 Unboxing
نگاه نزدیک و آنباکس گلکسی A14 سامسونگ / Galaxy A14 Unboxing
00:07:55
کاور ویدئو بررسی و مقایسه گلکسی S23 و S23 پلاس / Samsung Galaxy S23 & S23 Plus Review
بررسی و مقایسه گلکسی اس ۲۳ و اس ۲۳ پلاس سامسونگ
00:13:54
کاور ویدئو بررسی گلکسی A14 سامسونگ / Samsung Galaxy A14 Review
بررسی گلکسی A14 سامسونگ / Samsung Galaxy A14 Review
00:05:57
کاور ویدئو آنباکس و نگاه نزدیک گلکسی A54 و A34 سامسونگ / Samsung Galaxy A54 And A34 Unboxing
آنباکس و نگاه نزدیک گلکسی A54 و A34 سامسونگ
00:07:10
کاور ویدئو بررسی گلکسی A54 سامسونگ / Samsung Galaxy A54 Review
بررسی گلکسی A54 سامسونگ / Samsung Galaxy A54 Review
00:09:07
کاور ویدئو بررسی گلکسی A34 سامسونگ / Samsung Galaxy A34 Review
بررسی گلکسی A34 سامسونگ / Samsung Galaxy A34 Review
00:06:20
کاور ویدئو بررسی تبلت آیپد پرو اپل 2022 / Apple iPad Pro M2 2022 Review
بررسی تبلت آیپد پرو اپل 2022 / Apple iPad Pro M2 2022 Review
00:09:52
کاور ویدئو آنباکس لپ تاپ ROG Strix G16 ایسوس / ASUS ROG Strix G16 Unboxing
آنباکس لپ تاپ ROG Strix G16 ایسوس / ASUS ROG Strix G16 Unbox
00:05:55
کاور ویدئو بررسی هدست واقعیت مجازی پلی استیشن VR2 سونی / PSVR2 Review
بررسی هدست واقعیت مجازی پلی استیشن VR2 سونی / PSVR2 Review
00:12:59
کاور ویدئو بررسی لپ تاپ ROG Strix G16 ایسوس / Asus Strix G16 Review
بررسی لپ تاپ ROG Strix G16 ایسوس / Asus Strix G16 Review
00:09:19
عکس بهزاد و لوگوی اوپن ای آی در کنار اکانت‌های پلاس و رایگان چت‌جی‌پی‌تی
مقایسه کامل چت‌جی‌پی‌تی پولی و رایگان
00:44:10
کاور ویدئو آشنایی با بهترین هدفون‌های بی‌سیم؛ از ۵۰۰ هزار تومن به بالا
آشنایی با بهترین هدفون‌های بی‌سیم؛ از ۵۰۰ هزار تومن به بالا
00:10:02
کاور ویدئو مقایسه گلکسی A54، گلکسی A73 و S21 FE سامسونگ
مقایسه گلکسی A54، گلکسی A73 و S21 FE سامسونگ
00:11:07
کاور ویدئو مقایسه دوربین پرچم‌دار و میان‌رده؛ گلکسی اس 23 اولترا درمقابل گلکسی A54 سامسونگ
مقایسه دوربین گلکسی اس 23 اولترا درمقابل گلکسی A54 سامسونگ
00:04:51
کاور ویدئو آنباکس پوکو F5 شیائومی / Xiaomi Poco F5 Unboxing
آنباکس پوکو F5 شیائومی / Xiaomi Poco F5 Unboxing
00:04:26
41 مطلب
کالکشن بیوگرافی
بیوگرافی بزرگان علم و فناوری با زندگی و دستاوردهای استادان نوآوری و شکل‌دهندگان دنیای علم و تکنولوژی آشنا شوید.
55 مطلب
لوگوی اندروید
ترفند ها و آموزش های اندروید در مجموعه مطالعاتی آموزش اندروید با برترین و کاربردی‌ ترین ترفند های اندروید آشنا خواهید شد و صفر تا صد تبلت و گوشی اندرویدی خود را آموزش می‌بینید.
14 مطلب
طرح مفهومی سخت‌افزار
شیرجه در سخت افزار با مقالات سخت‌افزاری زومیت در دریای هیجان‌انگیز سخت‌افزار از CPU و GPU تا هوش مصنوعی و شرکت‌های فناوری پیشرو شیرجه بزنید.
18 مطلب
پیکان زرد در کنار کنسول گیم‌بوی و نوکیا 6600
ماشین زمان با مقالات «ماشین زمان» به گذشته دنیای فناوری سفر کنید و همراه ما محصولات و تکنولوژی‌های نوستالژیک را مرور کنید.
44 مطلب
کره لاس وگاس درکنار شاتل فضایی
مهندسی بی‌نهایت داستان ساخت پیچیده‌ترین و خلاقانه‌ترین سازه‌های مهندسی دنیا، از آسمان‌خراش‌های بلند تا شاتل‌های فضایی را در بخش مهندسی بی‌نهایت دنبال کنید.

مقایسه قیمت و مشخصات 🛒

3.6
پنل جلو و پشت گوشی موبایل آیفون 16 اپل آبی / Apple iPhone 16
آیفون 16 اپل

از61,900,000تومان

3.8
پنل جلو و پشت گوشی موبایل آیفون 16 پرو مکس اپل مشکی / Apple iPhone 16 Pro Max
آیفون 16 پرو مکس اپل

از105,700,000تومان

4.3
پنل جلو و پشت گوشی موبایل آیفون 16 پرو اپل بژ / Apple iPhone 16 Pro
آیفون 16 پرو اپل

از88,800,000تومان

4
کنسول بازی پلی استیشن 5 پرو سونی / Sony PlayStation 5 Pro
3
اپل ایرپادز 4 به همراه کیس
اپل ایرپاد 4

از9,399,000تومان

4.2
پنل جلو و پشت گوشی موبایل گلکسی A55 سامسونگ آبی روشن / Samsung Galaxy A55
گلکسی A55 سامسونگ

از22,299,000تومان

4.3
پنل جلو و پشت گوشی موبایل گلکسی A15 سامسونگ سرمه ای تیره / Samsung Galaxy A15
گلکسی A15 سامسونگ

از10,100,000تومان

4.3
پنل جلو و پشت گوشی موبایل پوکو X6 پرو شیائومی مشکی / Xiaomi Poco X6 Pro
پوکو X6 پرو شیائومی

از21,850,000تومان

4
پنل جلو و پشت گوشی موبایل پوکو X6 شیائومی سفید / Xiaomi Poco X6
پوکو X6 شیائومی

از18,230,000تومان

4.6
پنل جلو و پشت گوشی موبایل پوکو F6 شیائومی تیتانیوم / Xiaomi Poco F6
پوکو F6 شیائومی

از29,749,000تومان

4.5
پنل جلو و پشت گوشی موبایل پوکو F6 پرو شیائومی مشکی / Xiaomi Poco F6 Pro
پوکو F6 پرو شیائومی

از36,025,000تومان

4.3
پنل جلو و پشت گوشی موبایل گلکسی A35 سامسونگ بنفش روشن / Samsung Galaxy A35
گلکسی A35 سامسونگ

از16,739,000تومان

3.7
پنل جلو و پشت تبلت آیپد پرو 13 اپل نسخه 2024 مشکی / Apple iPad Pro 13 2024
4.1
موبایل آیفون 13 اپل / Apple iPhone 13
آیفون 13 اپل

از45,200,000تومان

4.5
گوشی موبایل ردمی نوت 13 پرو شیائومی / Xiaomi Redmi Note 13 Pro سفید
4.4
پنل جلو و پشت گوشی موبایل گلکسی اس 24 سامسونگ زرد / Samsung Galaxy S24
گلکسی اس 24 سامسونگ

از66,000,000تومان

3.5
موبایل آیفون 13 پرو مکس اپل آبی / APPLE IPHONE 13 PRO MAX Sierra blue
آیفون 13 پرو مکس اپل

از65,900,000تومان

3.8
موبایل آیفون 11 اپل بنفش / Apple iPhone 11 Purple
آیفون 11 اپل

از40,999,000تومان

3.6
موبایل آیفون 12 پرو مکس اپل آبی / APPLE IPHONE 12 PRO MAX pacific blue
آیفون 12 پرو مکس اپل

از75,990,000تومان

3.4
موبایل آیفون 12 پرو اپل / Apple iPhone 12 Pro
آیفون 12 پرو اپل

از56,990,000تومان

4
گوشی موبایل آیفون 13 پرو اپل / Apple iPhone 13 Pro آبی
آیفون 13 پرو اپل

از59,000,000تومان

3.6
Xiaomi Poco X4 Pro 5G / گوشی موبایل پوکو X4 پرو شیائومی 5G خاکستری
پوکو X4 پرو شیائومی 5G

از13,941,000تومان

4.2
گوشی موبایل گلکسی A54 سامسونگ / Samsung Galaxy A54 سبز لیمویی
گلکسی A54 سامسونگ

از24,990,000تومان

4.2
گوشی موبایل شیائومی 12 پرو / Xiaomi 12 Pro سبز
شیائومی 12 پرو

از28,999,000تومان

با چشم باز خرید کنید
زومیت شما را برای انتخاب بهتر و خرید ارزان‌تر راهنمایی می‌کند
ورود به بخش محصولات