ابزار جدید مایکروسافت برای مبارزه با کودک‌آزاری آنلاین
مایکروسافت ابزار جدیدی برای شناسایی سوءاستفاده از کودکان در چت‌های آنلاین منتشر کرده است. پروژه‌ی آرتمیس براساس تکنیک مایکروسافت در ایکس‌باکس، امروزه دراختیار دیگر شرکت‌های چت آنلاین هم قرار گرفته است. دلیل طراحی و تولید این ابزار افزایش سوءاستفادههای جنسی از کودکان در چت‌های آنلاین است.
آرتمیس کلمات و الگوهای گفتاری و پیام‌های مشکوک را تشخیص می‌دهد و با پرچم‌گذاری آن‌ها، کار را برای ناظر انسانی آسان می‌کند. در مرحله‌ی بعدی، براساس نوع پیام و مکالمه، به پلیس یا دیگر مقام‌های قانونی خبر داده می‌شود. اگر ناظر درخواست یا تصاویری از سوءاستفادهی کودکان را مشاهده کند، برای اقدامات بعدی به مرکز ملی کودکان مفقود و سوءاستفاده‌شده اطلاع می‌دهد. کوردوآ، مدیرعامل سازمان فناوری غیرانتفاعی Thorn است که با هدف پیشگیری از سوءاستفادهی کودکان فعالیت می‌کند. وی دراین‌باره می‌گوید:
سوءاستفاده تقریبا در تمام پلتفرم‌های مجهز به چت آنلاین وجود دارد؛ بنابراین، به‌جای سرزنش پلتفرم‌ها باید آن‌ها را به استفاده از ابزار پیشگیری تشویق کنیم. اگر کسی بگوید سوءاستفاده‌ای در پلتفرمش وجود ندارد، باید به بینایی او شک کرد.
طبق گزارش‌های نیویورک‌تایمز در دسامبر، پلتفرم‌های چت آنلاین زمینه‌ای برای شکارچیان کودکان فراهم کرده‌اند. این شکارچیان در ابتدا با قربانیان خود رفتاری دوستانه دارند و سپس به زندگی آنلاین و آفلاین آنان نفوذ می‌کنند. اغلب پلتفرم‌های بزرگ مثل Xbox Live مایکروسافت، با مشکل سوءاستفاده از کودکان دست‌‌‌و‌پنجه نرم می‌کنند. طبق گزارش تایمز در سال ۲۰۱۷، مردی به‌دلیل تهدید کودکی به تجاوز و قتل در چت Xbox Live، به ۱۵ سال حبس محکوم شد.
روش‌های آشکارسازی سوءاستفادههای جنسی آنلاین از کودکان و سیاست‌های کنترلی در میان شرکت‌های گوناگون متفاوت هستند و به‌گزارش تایمز، بسیاری از شرکت‌ها از نقض احتمالی حریم خصوصی در پلتفرم‌های چت آگاه هستند. در سال ۲۰۱۸، فیسبوک از سیستمی برای به‌دام‌انداختن سوءاستفاده‌گران خبر داد که تماس اشخاص با تعداد زیادی از کودکان یا تعداد مسدودشدن را رصد می‌کند. گفتنی است دسترسی فیسبوک به داده‌های کاربران از هر پلتفرم دیگری بیشتر است.
به‌گفته‌ی Thorn، ابزار مایکروسافت دردسترس تمام شرکت‌های مجهز به چت آنلاین قرار می‌گیرد و به آن‌ها در تنظیم استانداردی برای نظارت بر سوءاستفاده‌گران و توسعه‌ی ابزارهای پیشگیری آینده کمک می‌کند. نظارت بر چت‌ها درباره‌ی کودک‌آزاری کار دشواری است؛ زیرا تفاوت‌های ظریف و کوچکی در مکالمه‌ها وجود دارد.
الیزابت جگلیک، استاد روان‌شناسی کالج جان جی. نیویورک، معتقد است کودک‌آزارها می‌توانند به‌راحتی و با دسترسی آسان، برای یافتن قربانیان خود وارد چت‌روم‌های آنلاین شوند. او می‌افزاید:
در سی دقیقه، کودک‌آزارها می‌توانند به مکالمه‌ی جنسی با کودک برسند. شاید دسترسی حضوری به کودکان دشوار باشد؛ اما دسترسی آنلاین آسان‌تر است و اگر موفق نشدند می‌توانند سراغ قربانی بعدی بروند. سوءاستفاده‌ها فقط به یک پلتفرم محدود نمی‌شوند و کودک‌آزارها کودکان را در پلتفرم‌های متعدد تعقیب می‌کنند؛ بنابراین، می‌توانند نقاط متعددی برای سوءاستفاده داشته باشند.
برای مثال، ممکن است سوءاستفاده‌گر در ابتدا از کودک عکس و سپس ویدئو بخواهد و بدین‌ترتیب سطح محتوای جنسی را افزایش دهد. کوردوا می‌افزاید:
کودک احساس گناه و ترس می‌کند؛ به‌همین‌دلیل، شکارچی او را در پلتفرم‌های مختلف تعقیب می‌کند. برای مثال، می‌گوید تمام دوستانت را در فیسبوک می‌شناسم و اگر برایم ویدئو نفرستی، عکست را برای همکلاسی‌هایت می‌فرستم.
بیش از ۱۴ ماه از توسعه‌ی آرتمیس می‌گذرد. این پروژه نوامبر ۲۰۱۸ در رویداد Microsoft 360 Cross-Industry Hackathon با پشتیبانی اتحادیه‌ی جهانی WePROTECT و اتحادیه‌ی Child Dignity، دو گروه حمایت از کودکان، آغاز شد. در این پروژه، تیمی شامل Roblox و Thorn و Meet Group با مایکروسافت همکاری کردند. سرپرست پروژه، هانی فرید بود که ابزار PhotoDNA برای کشف و گزارش تصاویر کودک‌آزاری آنلاین را طراحی و ساخته است.
آرتمیس، جملات و کلمات مشکوک را شناسایی و پرچم‌گذاری می‌کند
برخی از جزئیات کاربردی ابزار آرتمیس هنوز مشخص نیستند؛ اما براساس نوع پلتفرم کاربردی، تغییر خواهند کرد. همچنین، هنوز مشخص نیست آرتمیس با برنامه‌های چت مجهز به رمزگذاری سرتاسر سازگار باشد یا چه گام‌های دیگری برای پیشگیری از PTSD (اختلال استرس) در میان ناظران برداشته شده است.
در‌حال‌حاضر، Thorn مشغول مدیریت و ارائهی لایسنس برای برنامه‌ی آرتمیس و ارائهی خدمات پشتیبانی برای آن است. اگرچه آرتمیس محدودیت‌هایی هم دارد (مثلا فقط به زبان انگلیسی کار می‌کند)، گام بزرگی در مسیری صحیح به‌شمار می‌رود. شرکت‌هایی که از این ابزار استفاده می‌کنند، می‌توانند آن را برای مخاطب سفارشی‌سازی کنند. چت روی پلتفرم‌های بازی با چت روی اپلیکیشن‌های اجتماعی متفاوت هستند؛ بنابراین، فرصت زیادی برای تطبیق و تصحیح عملکرد این برنامه وجود دارد. به‌گفته‌ی کوردوآ، حالا زمان آن رسیده است تا پلتفرم‌ها از روش‌های نادرست خودمدیریتی به‌سمت پیشگیری از کودک‌آزاری حرکت کنند.
مایکروسافت در مطلبی درباره‌ی پروژه آرتمیس می‌گوید:
پروژه‌ی آرتمیس، راه‌حل مفیدی است؛ اما صرفا اولین گام برای مبارزه با کودک‌آزاری آنلاین است.
کوردوآ نیز معتقد است:
آرتمیس اولین گام برای شناسایی بهتر اتفاق‌ها است؛ بنابراین، تمام شرکت‌های ارائه‌کننده‌ی خدمات چت و ویدئو یا باید خود را با این برنامه تطبیق دهند یا زمینه را برای کودک‌آزاری در پلتفرم خود فراهم کنند.
نظرات