دوپلکس، دستیار صوتی هوشمند گوگل با چالش‌هایی اجتماعی و اخلاقی

امروزه با پیشرفت روزافزون فناوری، دیگر بر کسی پوشیده نیست که گوشی‌های موبایل تنها برای مکالمه نیستند و انواع کاربردها را می‌توان از آن‌ها انتظار داشت. در جدیدترین کاربردی که گوگل در مراسم Google IO 2018 از آن رونمایی کرد، گوشی هوشمند می‌تواند با استفاده از هوش مصنوعی به جای شما تماس بگیرد و وقت آرایشگاه بگیرد یا میز رستوران رزرو کند. دمویی که از این ربات با نام گوگل دوپلکس (Duplex) نمایش داده شد حیرت‌آور بود؛ هم از این جهت که صحبت کردن و صدای این ربات سخن‌گو بسیار شبیه انسان بود و هم از این جهت که این نگرانی را به وجود آورد که به زودی خطوط مکالمه‌ی تلفنی پر از ربات‌های غیرقابل تشخیص خواهد شد.

حقیقت این است که ربات بودن دوپلکس واقعا قابل‌تشخیص نیست و در دمویی که گوگل اجرا کرد، شخص پاسخ‌دهنده واقعا متوجه ماهیت دوپلکس نشد. این دستیار صوتی مجهز به هوش مصنوعی می‌داند چطور به خوبی سؤال بپرسد، کجا مکث کند و حتی «مِن و مِن کردن» را هم بلد است و کاملا شبیه انسان صحبت می‌کند.

دوپلکس در همین مرحله که گوگل آن را آزمایشی می‌داند نیز دستاورد بزرگی به حساب می‌آید؛ اما چالش‌های اخلاقی و اجتماعی خاص خود را نیز به دنبال دارد.

مثلا، آیا گوگل وظیفه ندارد که مردم را از این‌که در حال مکالمه با یک ماشین هستند آگاه کند؟ آیا فناوری با شبیه‌سازی انسان باعث تردید ما در آن‌چه می‌بینیم و می‌شنویم نمی‌شود؟ سپردن تماس‌های خسته‌کننده به ربات از طرفی باعث تسهیل امور تماس‌گیرنده می‌شود؛ اما آیا کسانی که به این تماس‌ها پاسخ می‌دهند و اغلب حقوق کمی دریافت می‌کنند دچار رخوت پاسخگویی به ربات‌ها نخواهند شد؟

مارک ریدل، استادیار حوزه‌ی هوش مصنوعی در جورجیا تک و متخصص گفتگوی رایانه‌ای، در مصاحبه‌ای اذعان داشته است که فکر می‌کند دستیار صوتی گوگل بتواند در موقعیت‌های مشخص به خوبی کار کند؛ اما در مواردی که بحث از حوزه‌ی مورد نظر خارج شود مشکل به وجود خواهد آمد. به گفته‌ی وی در موارد این‌چنینی ترفندهای بسیاری برای پوشاندن ضعف فهمیدن یا برگرداندن بحث به حوزه‌ی قابل فهم برای ربات وجود دارد.

یکی از دموهای گوگل به خوبی نحوه‌ی کار این ترفندها را نشان داد. هوش مصنوعی در مواردی که کج‌فهمی به وجود آمد توانست با تکرار سؤال یا مطرح کردن آن به شکلی دیگر از پس کار بربیاید. گوگل در مطلبی که در بلاگ خود منتشر کرده است جزئیات ترفندهایی که دوپلکس استفاده می‌کند را شرح داده است. این ترفندها در سه دسته‌ جای می‌گیرند. اولین دسته شفاف‌سازی است؛ مثلا هفته‌ی دیگر، جمعه، هجدهم. دسته‌ی دوم اطمینان از برقراری تماس است؛ مثلا جمله‌ای مانند «صدای من را دارید؟» گفته می‌شود. دسته‌ی سوم قطع صحبت است. مثلا مادامی که طرف مقابل در حال خواندن یک شماره است، ربات صحبت وی را قطع کرده و از او می‌خواهد که از ابتدا شماره را بخواند.

نکته‌ی دیگر در مورد دوپلکس این است که به گفته‌ی گوگل، اگر مکالمه به طرق پیش‌بینی شده پیش نرود و دوپلکس متوجه شود که روند مکالمه طوری است که ادامه‌ی آن خارج از توانایی آن است، سیگنالی را به یک اپراتور انسان می‌فرستد تا او کار را بر عهده بگیرد. این اتفاق مشابه چیزی است که در ربات هوشمند فیسبوک نیز شاهد بودیم. در مورد ربات فیسبوک چون ربات توانایی پاسخ‌گویی چندانی نداشت حجم بالایی از درخواست‌ها را به اپراتورها منتقل می‌کرد و نهایتا فیسبوک سه ماه پیش آن را متوقف کرد.

مواردی که تا کنون مطرح شد تصویر شفاف‌تری از طرز کار دوپلکس به ما می‌دهد؛ اما نگرانی اصلی در مورد تأثیر استفاده از دوپلکس و مسئولیتی است که گوگل در قبال آن دارد.

سؤال مهمی که پیش‌تر نیز به آن اشاره کردیم این است که آیا گوگل نباید این حق را برای طرف دیگر مکالمه قائل باشد که بداند در حال مکالمه با یک ربات است؟ گوگل در دو اظهار نظر مختلف دو پاسخ مثبت متفاوت به این سؤال داده است؛ یکی «احتمالا چنین است» و دیگر «قطعا همین طور است». این در حالی است که در مراسم رونمایی از این دستیار صوتی هرگز چنین مسئله‌ای مطرح نشد.

مسئله‌ای که در این خصوص وجود داد این است که چطور باید به طرف دیگر مکالمه گفته شود که در حال مکالمه با یک ربات است. اگر دستیار صوتی خیلی مستقیم در ابتدای مکالمه بگوید: «سلام، من یک ربات هستم»، احتمالا طرف مقابل تماس را قطع خواهد کرد. راهکارهای دیگر می‌توانند کاهش شباهت صدای ربات به صدای انسان و پخش نوعی صوت هنگام مکالمه باشند. گوگل می‌گوید امیدوار است بتواند قراردادهایی اجتماعی را در این خصوص در بین مردم جا بیاندازد که به واسطه‌ی آن‌ها مشخص شود که تماس‌گیرنده یک هوش مصنوعی است.

جانا برایسن، استادیار دانشگاه Bath که در حوزه‌ی اخلاق هوش مصنوعی مطالعه دارد، در مصاحبه‌ای گفته است که گوگل مسلما وظیفه دارد راهی برای فاش کردن هویت ربات خود پیدا کند؛ چرا که در غیر اینصورت بستر برای مزاحمت‌های تلفنی و تماس‌های آزاردهنده و خودکار فراهم خواهد بود و تبعات وحشتناکی به دنبال خواهد داشت.

الکسی مادریگال، یکی از تحلیل‌گران مجله‌ی آتلانتیک، در خصوص تبعات اجتماعی دوپلکس ابراز نگرانی کرده و نوشته است که برخوردهای عمومی و احوال‌پرسی‌های تلفنی باعث مجموعه‌ای از احترامات و اعتمادهای اجتماعی می‌شود. با رواج استفاده از ربات جهت برقراری تماس، یک گام دیگر به سمت حذف تعاملات اجتماعی خواهیم رفت.

از سوی دیگر استفاده از ربات ممکن است باعث بروز برخی رفتارهای ناهنجار شود. مثلا میزان ادب شخص پاسخ‌دهنده در صورتی که بداند با ربات صحبت می‌کند پایین خواهد آمد و ممکن است این رفتار در او نهادینه شود. به عنوان تماس گیرنده نیز وقتی ربات برای ما میز رزرو کند مسئولیت اجتماعی کمتری احساس خواهیم کرد و ممکن است اهمیتی نداشته باشد که در ساعت رزرو شده در رستوران حضور پیدا کنیم یا نه.

برایسن معتقد است گوگل با جلب توجه کاربران به سمت این نوع فناوری در حال ارائه‌ی خدمتی دیگر است. خدمتی که گوگل تنها ارائه‌کننده‌ی آن نیست و تنها شرکتی هم نخواهد بود که از آن بهره می‌برد. به اعتقاد او آن‌چه که اهمیت دارد آگاهی شهروندان است و ویدیوهای دموی گوگل در خصوص به‌کارگیری از این فناوری می‌توانند مؤثر باشند.

در مجموع باید گفت تا زمان عرضه‌ی یک فناوری این‌چنینی نگرانی‌های زیادی وجود دارد که باید در خصوص آن‌ها بحث و تبادل نظر شود. نظر شما کاربر محترم زومیت در مورد کارآمد بودن سرویس جدید گوگل چیست؟