هوش مصنوعی جمنای بی‌سروصدا فایل‌های PDF ذخیره‌شده در گوگل درایو را اسکن می‌کند

بنابر گزارشی در ایکس مبنی بر اسکن فایل‌های ذخیره‌شده در گوگل درایو توسط جمنای، کوین بنکستون، مشاور ارشد مدیریت هوش مصنوعی، متوجه شد که جمنای بدون درخواست او خلاصه‌ای از اظهارنامه مالیاتی‌ای را که قبلاً در گوگل درایو آپلود کرده بود، نمایش می‌دهد.

در بسیاری از برنامه‌های مختلف مخصوصاً اپلیکیشن‌های خدماتی مبتنی بر هوش مصنوعی، گزینه‌ای وجود دارد که از کاربر می‌خواهد در صورت تمایل برای آموزش هوش مصنوعی و ارائه‌ی خدمات بهتر و دقیق‌تر از دیتای او استفاده کند و اگر شخصی به هر دلیلی با این درخواست موافق نباشد، توانایی غیرفعال کردن آن وجود دارد.

بنکستون ادعا می‌کند که او این گزینه را برای برنامه‌ی هوش مصنوعی جمنای فعال نکرده است: «من فقط اظهارنامه‌ی مالیاتی خود را در گوگل داکس باز کردم و بدون درخواست من، جمنای آن را برای من خلاصه کرد. بنابراین جمنای به‌طور خودکار و بدون اجازه، اسناد خصوصی‌ای را که در گوگل داکس باز می‌کنیم هم پردازش می‌کند.»

از آنجا که بنکستون متخصص امور مرتبط با هوش مصنوعی است، به خوبی درک می‌کند که سیستم‌های مبتنی بر هوش مصنوعی برای ایجاد و ارتقای خود، از داده‌های موجود استفاده می‌کنند و جمنای گوگل نیز برای عملکرد بهتر خود باید با داده‌ی کاربران مختلف آموزش داده شود.

از نظر بنکستون، گوگل باید روی گزینه‌ای کار کند که از کاربر راجع‌به میزان اهمیت و حساسیت داده‌ی خود سؤال و بعداً اقدام به پردازش آن کند؛ چراکه بعضی از داده‌ها مثل اطلاعات مربوط به امور مالیاتی یا پی‌دی‌اف مربوط به اطلاعات یک محصول ساخته‌نشده‌ی تجاری، جزو اطلاعات خصوصی و حساس افراد و شرکت‌ها محسوب می‌شود.

بنکستون حدس می‌زند فعال کردن Google Workspace Labs باعث مشکل مورد بحث شده باشد. این برنامه به کاربران اجازه می‌دهد تا ویژگی‌های جدیدی را که گوگل در حال آزمایش کردن آن‌ها است، زودتر از بقیه استفاده کنند؛ اما در این حالت کاربران کنترلی روی حریم شخصی و میزان استفاده از داده‌های خود توسط گوگل را نخواهند داشت.