D1-lg

هوش مصنوعی گوگل، پدری را به‌اشتباه به آزار فرزندش متهم کرد

دوشنبه ۳۱ مرداد ۱۴۰۱ - ۱۰:۳۰
مطالعه 4 دقیقه
یک پدر نگران اهل سان فرانسیسکو از عفونت بدن فرزند خردسالش عکس گرفت تا برای دکتر بفرستد؛ گوگل این عکس را به‌عنوان آزار جنسی کودکان تشخیص داد، حساب او را مسدود کرد و تحقیقات پلیس به راه انداخت.
تبلیغات
D4-mci

براساس گزارش پرحاشیه‌ی نیویورک تایمز، یک پدر که نگران وضعیت سلامتی فرزند کم‌سن‌و‌سالش شده، با گوشی اندرویدی خود از عفونت ناحیه‌ی تناسلی فرزندش عکس گرفته تا برای دکتر ارسال کند، اما هوش مصنوعی گوگل آن تصویر را به‌عنوان «محتوای سوءاستفاده‌ی جنسی از کودکان» نشانه‌گذاری کرده است. پس از گرفته شدن عکس، گوگل حساب کاربری فرد را مسدود و گزارشی برای مرکز ملی کودکان مفقود و تحت سوءاستفاده‌ در آمریکا ارسال کرد. ورج می‌نویسد گوگل حتی برای تحقیقات پلیسی نیز اقدام کرده است. این اتفاق به‌وضوح مشکلاتی را که هوش مصنوعی در تشخیص تصاویر دارد در مرکز توجه قرار می‌دهد.

سال گذشته‌ی میلادی به هنگام تدوین طرح ایمنی کودکان توسط اپل، نگرانی درباره‌ی اینکه چه محتواهایی در فضای آنلاین در چارچوب حریم خصوصی کاربر قرار می‌گیرد مطرح شد. اپل گفت تصاویر را پیش از آپلود شدن روی سرورهای آی‌کلاد، در داخل دستگاه کاربر اسکن می‌کند و آن‌ها را با دیتابیس ارائه‌شده توسط مرکز ملی کودکان مفقود و تحت سوءاستفاده‌ تطبیق می‌دهد تا موارد مربوط به کودک‌آزاری را شناسایی کند. اگر هوش مصنوعی اپل تشابهات زیادی را تشخیص دهد، یک ناظر انسانی تصویر را بررسی می‌کند و در صورتی که کودک‌آزاری تشخیص داده شود حساب کاربری فرد قفل خواهد شد.

بنیاد حریم الکترونیک، یک گروه غیرانتفاعی متمرکز بر حقوق افراد در فضای دیجیتال، به‌شدت از طرح اپل انتقاد کرد و گفت سیاستی که اپل در پیش گرفته ممکن است حریم خصوصی کاربران را زیر سؤال ببرد و «دریچه‌ای به زندگی خصوصی آن‌ها باز کند.» اپل در نهایت سیاست اسکن تصاویر ذخیره‌شده در آیفون را تعلیق کرد، اما با انتشار iOS 15.2 قابلیتی اختیاری برای حساب‌های کودکان دردسترس قرار داد. اگر والدین کودک قابلیت را فعال کنند، در حساب کاربری کودک، اپلیکیشن Messages تصاویر را اسکن و آن‌هایی را که حاوی محتوای برهنگی هستند شناسایی می‌کند. اپل مدعی است که این کار با حفظ سیستم امنیتی رمزنگاری سرتاسری انجام می‌شود و کسی توانایی مشاهده‌ی محتوای پیام‌ها را ندارد. اگر هوش مصنوعی اپل تصاویر حاوی برهنگی را تشخیص دهد، آن‌ها را تار می‌کند، هشداری روی گوشی کودک نشان می‌دهد و منابعی برای حفظ امنیت در فضای آنلاین معرفی می‌کند.

اتفاقی که در گزارش نیویورک تایمز به آن اشاره شده، ظاهراً در فوریه‌ی ۲۰۲۱ (بهمن و اسفند ۱۳۹۹) رخ داده است. در آن زمان به دلیل همه‌گیری ویروس کرونا مطب بسیاری از پزشکان تعطیل شده بود. مارک (شخصیتی که در گزارش نیویورک تایمز مورد اشاره قرار گرفته) متوجه ورم در ناحیه‌ی تناسلی فرزندش که به‌تازگی شروع به راه رفتن کرده بود شد و به درخواست پرستار تصاویری از آن ناحیه گرفت تا برای پزشکان ارسال کند. در نهایت جلسه‌ی مشاوره‌ی ویدیویی انجام شد و دکتر با تجویز داروهای آنتی‌بیوتیک، عفونت را درمان کرد.

به ادعای نیویورک تایمز، دو روز پس از ثبت شدن تصاویر، مارک نوتیفیکیشنی از سوی گوگل دریافت کرد که نوشته بود به دلیل «محتوای آسیب‌زننده» که «به‌شدت سیاست‌های گوگل را نقض می‌کند و ممکن است غیرقانونی باشد» حساب کاربری‌اش قفل شده است.

گوگل همچون بسیاری دیگر از شرکت‌های حوزه‌ی فناوری نظیر توییتر، ردیت و فیسبوک،‌ با بهره‌گیری از ابزار PhotoDNA مایکروسافت تصاویر ثبت‌شده را با دیتابیس‌ مرکز ملی کودکان مفقود و تحت سوءاستفاده‌ تطبیق می‌دهد تا موارد سوءاستفاده‌ی جنسی را شناسایی کند. سیستم PhotoDNA در سال ۲۰۱۲ به دستگیری مردی متهم شد که سوابقی در زمینه‌ی جرم‌های جنسی داشت و ازطریق جیمیل عکس‌های یک دختر نوجوان را ارسال می‌کرد.

گوگل در سال ۲۰۱۸ اعلام کرد که API جدیدی به نام «ایمنی محتوا» طراحی کرده که می‌تواند به شکلی فعال تصاویر حاوی سوءاستفاده‌ی جنسی از کودکان را که قبلاً هرگز دیده‌ نشده‌اند شناسایی کند تا بعداً یک ناظر انسانی سراغ بررسی تصویر برود و در صورت تأیید آزار جنسی، اقدامات لازم انجام بگیرد. گوگل در یوتیوب نیز چنین سیستمی پیاده‌سازی کرده است.

گوگل می‌گوید پس از تشخیص تصاویر حاوی آزار جنسی کودکان، از سوی قانون موظف شده که مجرم احتمالی را به سیستم CyberTipLine در مرکز ملی کودکان مفقود و تحت سوءاستفاده‌ گزارش کند. گوگل در سال گذشته‌ی میلادی ۶۲۱٬۵۸۳ گزارش آزار جنسی کودکان برای CyberTipLine ارسال کرده است.

در پی اقدام گوگل، مارک که با هدف درمان فرزندش از او عکس گرفته بود دیگر امکان دسترسی به ایمیل‌، مخاطبان و تصاویرش را نداشت و حتی دسترسی‌اش به شماره موبایل قطع شد، چون در آن زمان مشغول استفاده از سرویس موبایلی Google Fi بود. مارک سریعاً تلاش کرد حسابش را از حالت تعلیق خارج کند، اما گوگل با درخواست‌های او موافقت نکرد.

اداره‌ی پلیس سان فرانسیسکو در اواخر سال ۲۰۲۱ تحقیقات خود را روی مارک شروع کرد و تمامی اطلاعاتی را که مارک با گوگل در میان گذاشته بود دراختیار گرفت. نیویورک تایمز می‌گوید بازرس پرونده پس از بررسی اطلاعات متوجه شده که مارک هیچ اقدام غیرقانونی انجام نداده است.

جلوگیری از آزار جنسی کودکان بسیار پر اهمیت است، بااین‌حال اسکن تصاویر شخصی کاربران توسط شرکت‌هایی نظیر گوگل که تعداد بسیار زیادی کاربر در سراسر دنیا دارند حریم خصوصی آن‌ها را نقض می‌کند. یک کارشناس مسائل امنیتی می‌گوید سیاست گوگل برای اسکن تصاویر کاربران، مزاحمت‌آمیز است: «این دقیقاً همان کابوسی است که همه‌ی ما نگرانش هستیم. آن‌ها آلبوم خانوادگی من را اسکن می‌کنند و به‌خاطر همین کار، من به دردسر می‌افتم.»

مقاله رو دوست داشتی؟
نظرت چیه؟
داغ‌ترین مطالب روز
پیام متنی تلگرام با قابلیت اسپویلر فعال
قابلیت اسپویلر تلگرام چیست و چگونه می‌توان از آن استفاده کرد؟

ارسال پیام‌های دارای اسپویلر تلگرام به‌خصوص در کانال‌های عمومی برای مخفی‌کردن بخشی از متن یا حتی تصاویر، کاربرد دارد.

13
17 ساعت پیش
برنامه پی دی اف ساز برای آیفون
۱۰ برنامه پی دی اف ساز برای آیفون، رایگان و کاربردی

با بهترین برنامه‌ پی دی اف ساز برای ایفون، اسناد کاغذی را در چند ثانیه دیجیتالی کنید. تجربه‌ای حرفه‌ای و سریع در انتظار شماست.

1
2 روز پیش
بهترین کنترلر برای بازی برای کامپیوتر
بهترین دسته بازی برای کامپیوتر [دی ۱۴۰۳]

اگر ترجیح می‌دهید برای بازی روی کامپیوتر، به‌جای ماوس و کیبورد از کنترلر استفاده کنید، راهنمای خرید پیش رو برای شما است.

51
2 روز پیش
آیفون ۱۶ در برابر آیفون ۱۳
اکنون همه گوشی‌های آیفون رجیستر می‌شوند

طبق مصوبه‌ی ۳۰ دی ماه، هیئت دولت همه گوشی‌های آیفون ۱۴ و ۱۵ و ۱۶ امکان رجیستر شدن دارند.

87
2 روز پیش
الگوریتم اینستاگرام ۲۰۲۵
آموزش صفر تا صد الگوریتم اینستاگرام؛ نکات برنده برای سال ۲۰۲۵

الگوریتم اینستاگرام در سال ۲۰۲۵ چطور کار می‌کند؟ اگر می‌خواهید بیشتر دیده شوید، زمانش رسیده است که رازهای الگوريتم جديد اينستاگرام را یاد بگیرید.

19
2 روز پیش
اپلیکیشن جعلی کریپتو
شرایط باز شدن درگاه‌های پرداخت صرافی‌های رمزارزی اعلام شد

بانک مرکزی در نامه‌ای کارگزاری‌های رمزارزی را موظف کرد که ۱۰ ردیف اطلاعات خاص را در اختیار شاپرک قرار دهند تا درگاه‌های پرداختشان باز شود.

27
2 روز پیش
پرچم آمریکا و چین و لوگوی تیک تاک
همه‌چیز درباره ممنوعیت تیک‌تاک؛ پایان تلخ برای پلتفرمی محبوب؟

تیک‌تاک متعلق به شرکت چینی بایت‌دنس، از ۳۰ دی در ایالات متحده مسدود شد؛ پشت پرده‌ی ماجرای ممنوعیت تیک‌تاک چیست و به کجا ختم می‌شود؟

213
2 روز پیش
تبلیغات
DN-Snap

نظرات

تبلیغات
D7-bmsd
D7-zoomitproduct
آخرین ویدیوها
پخش از رسانه
انتظارات از رویداد معرفی گلکسی اس ۲۵ سامسونگ و دورهمی زومیت
انتظارات از رویداد معرفی سری اس ۲۵ سامسونگ و دورهمی زومیت
00:11:31
عکس بهزاد در ماشین پرنده و لوگو CES
۱۰ فناوری برتر امسال که آینده رو تغییر می‌دن
00:11:52
کاور دورهمی زومیت
اولین دورهمی حضوری زومیت؛ گردهمایی بزرگ عاشقان فناوری 🎉
00:01:04
انتظارات زومیت از دوربین گلکسی اس ۲۵ اولترا سامسونگ
گلکسی اس ۲۵ اولترا تو راهه؛ از دوربین این گوشی چی می‌دونیم؟
00:09:51
عکس بهزاد و هادی با جعبه‌های دیجی‌کالا و لوگوی بیسوس
آنباکس ۴۰ میلیونی کالاهای متنوع بیسوس
01:13:38
کامپیوترهای کوانتومی و جهان های موازی
همه چیز درباره کامپیوترهای کوانتومی
00:13:43
عکس کاور دیجی پی
گزارش غرفه‌ی دیجی‌پی در نمایشگاه بین‌المللی ریتیل شو تهران
00:08:40
گلکسی اس ۲۴ اولترا نه، اس ۲۵ اولترا خوبه
اس۲۴ اولترا نخر؛ اس۲۵ اولترا داره میاد!!! 🤯
00:08:54
کیس خوب چه ویژگی‌هایی داره؟
قبل از خرید کیس کامپیوتر به این نکات توجه کنید ⚠️
00:07:56
بررسی کاور فر تو کار ال جی
معرفی فر تو کار ال‌جی؛ مدل ۷۶ لیتری LG InstaView
00:04:55
کاور ویدئو بررسی لپ تاپ Stealth GS77 ام اس آی / MSI Stealth GS77 Review
بررسی لپ تاپ Stealth GS77 ام اس آی / MSI Stealth GS77 Review
00:09:22
کاور ویدئو بررسی لپ تاپ ROG Zephyrus G14 ایسوس / ASUS ROG Zephyrus G14 Review
بررسی لپ تاپ ROG Zephyrus G14 ایسوس / Zephyrus G14 Review
00:10:58
کاور ویدئو برررسی شیائومی 12T و 12T پرو / Xiaomi 12T & 12T Pro Review
برررسی شیائومی 12T و 12T پرو / Xiaomi 12T & 12T Pro Review
00:09:07
کاور ویدئو بررسی سرفیس پرو 9 مایکروسافت / Surface Pro 9 Review
بررسی سرفیس پرو 9 مایکروسافت / Surface Pro 9 Review
00:11:32
کاور ویدئو بررسی کیس اسمبل شده MEG Aegis Ti5 ام اس آی / MSI MEG Aegis Ti5 Review
بررسی کیس اسمبل شده MEG Aegis Ti5 ام اس آی / MEG Aegis Ti5
00:09:54
کاور ویدئو بررسی لپ تاپ Spectre x360 اچ پی | HP Spectre x360 Review
بررسی لپ تاپ Spectre x360 اچ پی | HP Spectre x360 Review
00:13:00
کاور ویدئو بررسی گلکسی تب اس 8 اولترا سامسونگ / Samsung Galaxy Tab S8 Ultra Review
بررسی گلکسی تب اس 8 اولترا سامسونگ / Tab S8 Ultra Review
00:12:44
کاور ویدئو بررسی اندروید باکس نت باکس شاین / NETBOX Shine Review
بررسی اندروید باکس نت باکس شاین / NETBOX Shine Review
00:10:48
کاور ویدئو بررسی لپ تاپ ROG FLOW Z13 ایسوس / ASUS ROG FLOW Z13 Review
بررسی لپ تاپ ROG FLOW Z13 ایسوس / ASUS ROG FLOW Z13 Review
00:08:43
کاور ویدئو بررسی آنر 70 / HONOR 70 Review
بررسی آنر 70 / HONOR 70 Review
00:09:37
کاور ویدئو جعبه‌گشایی پیکسل 7 پرو گوگل / Google Pixel 7 Pro Unboxing
جعبه‌گشایی پیکسل 7 پرو گوگل / Google Pixel 7 Pro Unboxing
00:05:58
کاور ویدئو بررسی پیکسل 7 پرو گوگل / Google Pixel 7 Pro Review
بررسی پیکسل 7 پرو گوگل / Google Pixel 7 Pro Review
00:11:47
کاور ویدئو مقایسه دوربین 14 پرو مکس، اس 22 اولترا و پیکسل 7 پرو / Google Pixel 7 Pro vs Samsung Galaxy S22 Ultra 5G vs Apple iPhone 14 Pro Max Camera Test
مقایسه دوربین 14 پرو مکس، اس 22 اولترا و پیکسل 7 پرو
00:09:00
کاور ویدئو مقایسه دوربین گلکسی اس 23 و اس 22 اولترا و آیفون 14 پرو مکس
مقایسه دوربین گلکسی اس 23 و اس 22 اولترا و آیفون 14 پرو مکس
00:12:34
کاور ویدئو بررسی گلکسی اس 23 اولترا سامسونگ / Galaxy S23 Ultra Review
بررسی گلکسی اس 23 اولترا سامسونگ / Galaxy S23 Ultra Review
00:18:17
کاور ویدئو آنباکس و نگاه نزدیک زومیت به گلکسی اس 23 اولترا / Samsung Galaxy S23 Ultra Unboxing
آنباکس و نگاه نزدیک زومیت به گلکسی اس 23 اولترا
00:13:10
کاور ویدئو مقایسه عملکرد آیفون 14 پرو مکس اپل و گلکسی اس 23 اولترا / Samsung Galaxy S23 Ultra vs Apple iPhone 14 Pro Max Performance Comparison
مقایسه عملکرد آیفون 14 پرو مکس اپل و گلکسی اس 23 اولترا
00:09:42
کاور ویدئو بررسی گوشی وان پلاس 11 / OnePlus 11 Review
بررسی گوشی وان پلاس 11 / OnePlus 11 Review
00:10:19
کاور ویدئو نگاه نزدیک و آنباکس گلکسی A14 سامسونگ / Samsung Galaxy A14 Unboxing
نگاه نزدیک و آنباکس گلکسی A14 سامسونگ / Galaxy A14 Unboxing
00:07:55
کاور ویدئو بررسی و مقایسه گلکسی S23 و S23 پلاس / Samsung Galaxy S23 & S23 Plus Review
بررسی و مقایسه گلکسی اس ۲۳ و اس ۲۳ پلاس سامسونگ
00:13:54
کاور ویدئو بررسی گلکسی A14 سامسونگ / Samsung Galaxy A14 Review
بررسی گلکسی A14 سامسونگ / Samsung Galaxy A14 Review
00:05:57
کاور ویدئو آنباکس و نگاه نزدیک گلکسی A54 و A34 سامسونگ / Samsung Galaxy A54 And A34 Unboxing
آنباکس و نگاه نزدیک گلکسی A54 و A34 سامسونگ
00:07:10
کاور ویدئو بررسی گلکسی A54 سامسونگ / Samsung Galaxy A54 Review
بررسی گلکسی A54 سامسونگ / Samsung Galaxy A54 Review
00:09:07
کاور ویدئو بررسی گلکسی A34 سامسونگ / Samsung Galaxy A34 Review
بررسی گلکسی A34 سامسونگ / Samsung Galaxy A34 Review
00:06:20
کاور ویدئو بررسی تبلت آیپد پرو اپل 2022 / Apple iPad Pro M2 2022 Review
بررسی تبلت آیپد پرو اپل 2022 / Apple iPad Pro M2 2022 Review
00:09:52
کاور ویدئو آنباکس لپ تاپ ROG Strix G16 ایسوس / ASUS ROG Strix G16 Unboxing
آنباکس لپ تاپ ROG Strix G16 ایسوس / ASUS ROG Strix G16 Unbox
00:05:55
کاور ویدئو بررسی هدست واقعیت مجازی پلی استیشن VR2 سونی / PSVR2 Review
بررسی هدست واقعیت مجازی پلی استیشن VR2 سونی / PSVR2 Review
00:12:59
کاور ویدئو بررسی لپ تاپ ROG Strix G16 ایسوس / Asus Strix G16 Review
بررسی لپ تاپ ROG Strix G16 ایسوس / Asus Strix G16 Review
00:09:19
عکس بهزاد و لوگوی اوپن ای آی در کنار اکانت‌های پلاس و رایگان چت‌جی‌پی‌تی
مقایسه کامل چت‌جی‌پی‌تی پولی و رایگان
00:44:10
کاور ویدئو آشنایی با بهترین هدفون‌های بی‌سیم؛ از ۵۰۰ هزار تومن به بالا
آشنایی با بهترین هدفون‌های بی‌سیم؛ از ۵۰۰ هزار تومن به بالا
00:10:02
کاور ویدئو مقایسه گلکسی A54، گلکسی A73 و S21 FE سامسونگ
مقایسه گلکسی A54، گلکسی A73 و S21 FE سامسونگ
00:11:07
کاور ویدئو مقایسه دوربین پرچم‌دار و میان‌رده؛ گلکسی اس 23 اولترا درمقابل گلکسی A54 سامسونگ
مقایسه دوربین گلکسی اس 23 اولترا درمقابل گلکسی A54 سامسونگ
00:04:51
کاور ویدئو آنباکس پوکو F5 شیائومی / Xiaomi Poco F5 Unboxing
آنباکس پوکو F5 شیائومی / Xiaomi Poco F5 Unboxing
00:04:26
کاور ویدئو آنباکس شیائومی 13 لایت / Xiaomi 13 Lite Unboxing
آنباکس شیائومی 13 لایت / Xiaomi 13 Lite Unboxing
00:08:17
کاور ویدئو بررسی شیائومی 13 لایت / Xiaomi 13 Lite Review
بررسی شیائومی 13 لایت / Xiaomi 13 Lite Review
00:10:17
کاور ویدئو بررسی پوکو F5 شیائومی / Xiaomi Poco F5 Review
بررسی پوکو F5 شیائومی / Xiaomi Poco F5 Review
00:11:42
کاور ویدئو مقایسه گلکسی A54 سامسونگ و شیائومی 13 لایت / Samsung Galaxy A54 vs Xiaomi 13 Lite
مقایسه گلکسی A54 سامسونگ و شیائومی 13 لایت
00:12:33
کاور ویدئو آنباکس تلویزیون QNED96 ال جی / LG 8K QNED96 Unboxing
آنباکس تلویزیون QNED96 ال جی / LG 8K QNED96 Unboxing
00:05:10
کاور ویدئو بررسی ساعت هوشمند W1 جی پلاس / Gplus W1 Review
بررسی ساعت هوشمند W1 جی پلاس / Gplus W1 Review
00:09:35
کاور ویدئو بررسی مانیتور Optix MAG321QR-QD ام اس آی / MSI Optix MAG321QR-QD Review
بررسی مانیتور Optix MAG321QR-QD ام اس آی
00:06:39
14 مطلب
طرح مفهومی سخت‌افزار
شیرجه در سخت افزار با مقالات سخت‌افزاری زومیت در دریای هیجان‌انگیز سخت‌افزار از CPU و GPU تا هوش مصنوعی و شرکت‌های فناوری پیشرو شیرجه بزنید.
18 مطلب
پیکان زرد در کنار کنسول گیم‌بوی و نوکیا 6600
ماشین زمان با مقالات «ماشین زمان» به گذشته دنیای فناوری سفر کنید و همراه ما محصولات و تکنولوژی‌های نوستالژیک را مرور کنید.
44 مطلب
کره لاس وگاس درکنار شاتل فضایی
مهندسی بی‌نهایت داستان ساخت پیچیده‌ترین و خلاقانه‌ترین سازه‌های مهندسی دنیا، از آسمان‌خراش‌های بلند تا شاتل‌های فضایی را در بخش مهندسی بی‌نهایت دنبال کنید.
41 مطلب
کالکشن بیوگرافی
بیوگرافی بزرگان علم و فناوری با زندگی و دستاوردهای استادان نوآوری و شکل‌دهندگان دنیای علم و تکنولوژی آشنا شوید.
55 مطلب
لوگوی اندروید
ترفند ها و آموزش های اندروید در مجموعه مطالعاتی آموزش اندروید با برترین و کاربردی‌ ترین ترفند های اندروید آشنا خواهید شد و صفر تا صد تبلت و گوشی اندرویدی خود را آموزش می‌بینید.

مقایسه قیمت و مشخصات 🛒

3.6
پنل جلو و پشت گوشی موبایل آیفون 16 اپل آبی / Apple iPhone 16
آیفون 16 اپل

از61,400,000تومان

3.8
پنل جلو و پشت گوشی موبایل آیفون 16 پرو مکس اپل مشکی / Apple iPhone 16 Pro Max
آیفون 16 پرو مکس اپل

از103,700,000تومان

4.3
پنل جلو و پشت گوشی موبایل آیفون 16 پرو اپل بژ / Apple iPhone 16 Pro
آیفون 16 پرو اپل

از96,900,000تومان

4
کنسول بازی پلی استیشن 5 پرو سونی / Sony PlayStation 5 Pro
3
اپل ایرپادز 4 به همراه کیس
اپل ایرپاد 4

از9,250,000تومان

با چشم باز خرید کنید
زومیت شما را برای انتخاب بهتر و خرید ارزان‌تر راهنمایی می‌کند
ورود به بخش محصولات