D1-lg

کمک هوش مصنوعی به انسان برای بررسی پست‌های نامناسب فیسبوک

دوشنبه ۲۶ آبان ۱۳۹۹ - ۱۵:۳۰
مطالعه 4 دقیقه
فیسبوک اعلام کرد که در فرایند بررسی محتوا‌های نامناسب منتشرشده در پلتفرم خود، از هوش مصنوعی برای مرتب‌کردن پست‌ها استفاده می‌کند.
تبلیغات
D4-mci

فیسبوک همیشه کاملا واضح موضع خود درمقابل استفاده از هوش مصنوعی در شبکه‌های اجتماعی را مشخص کرده است. توسعه‌دهندگان این شرکت اعتقاد دارند که باید از این فناوری برای انجام امور عادی بیشتری استفاده کرد؛ زیرا قابلیت این کار را دارد. فیسبوک به‌تازگی جدیدترین اقدام خود برای رسیدن به این هدف را اعلام کرده و گفته است برای دسته‌بندی محتواهایی که احتمالا قوانین را نقض کرده‌اند و در صف بررسی نیروهای انسانی برای تصمیم‌گیری نهایی هستند، از یادگیری ماشینی استفاده خواهند کرد.

کپی لینک

نحوه‌ی عملکرد دسته‌بندی و مرتب‌سازی محتوا در فیسبوک

 کاربران یا یادگیری ماشینی پست‌هایی را مشخص می‌کنند که تصور می‌شود قوانین این شرکت را نقض می‌کنند. ازجمله‌ی این پست‌ها می‌توان به پست‌های هرزنامه (Spam) یا حاوی سخنان خشونت‌‎آمیز و دیگر گزینه‌هایی اشاره کرد که به‌وضوح سیاست‌های فیسبوک را زیر پا می‌گذارند. پس از این مرحله، پست‌هایی که کاملا واضح هستند، به‌صورت خودکار رسیدگی می‌شوند. برای مثال، اگر پستی کاملا واضح خلاف قوانین این پلتفرم منتشر شده باشد، با یکی از روش‌های حذف مطلب یا مسدود‌شدن حساب منتشر‌کننده پاسخ داده می‌شود. این در حالی است که باقی پست‌های مشخص‌شده برای بررسی ناظران انسانی در صف قرار می‌گیرند.

هوش مصنوعی فیسبوک

فیسبوک حدود ۱۵ هزار نفر از این کارکنان را در سراسر دنیا استخدام کرده است. پیش‌تر، این شرکت به‌دلیل حمایت ناکافی از کارمندان مذکور با انتقاد مواجه شده بود. حتی گفته می‌شود فیسبوک آن‌ها را در بخشی به‌کار گرفته که ممکن است به صدمات جدی به بستر این شبکه اجتماعی منجر شود. وظیفه‌ی این افراد مرتب‌سازی پست‌هایی است که احتمال می‌رود قوانین فیسبوک را نقض کرده باشند. آن‌ها باید بتوانند تصمیم بگیرند که کدام پست‌ها ممکن است بیشتر از دیگر پست‌ها قوانین این شرکت را زیر پا گذاشته باشند.

کپی لینک

استفاده از هوش مصنوعی در فرایند مرتب‌سازی پست‌ها

در گذشته، ناظران پست‌ها را کمابیش از نظر زمانی مرور و به‌ترتیب گزارش‌شده با آن‌ها برخورد می‌کردند. اکنون، فیسبوک می‌گوید که می‌خواهد مطمئن شود مهم‌ترین پست‌ها ابتدا دیده می‌شوند و از یادگیری ماشینی برای کمک به آن‌ها استفاده می‌کند. در آینده برای مرتب‌سازی این صف، از الگوریتم‌های مختلف یادگیری ماشینی استفاده و پست‌ها براساس سه معیار ویروسی‌بودن و شدت و احتمال نقض‌کردن قوانین اولویت‌بندی می‌شود.

نحوه‌ی دقیق ارزیابی این معیارها مشخص نیست؛ اما فیسبوک می‌گوید هدف این است که ابتدا با آسیب‌رسان‌ترین پست‌ها برخورد شود. بنابراین، هرچه پست ویروسی‌تر باشد (بیشتر به‌اشتراک گذاشته و دیده شود) با سرعت بیشتری با آن برخورد خواهد شد. فیسبوک می‌گوید پست‌هایی را به‌عنوان مهم‌ترین پست‌های ویروسی رتبه‌بندی می‌کند که ممکن است به افرادی در دنیای واقعی آسیب برسانند. از نمونه‌های این دسته می‌توان به پست‌هایی حاوی مطالب مربوط به تروریسم یا آزار کودکان یا خودزنی اشاره کرد. در همین حال، پست‌هایی که مانند هرزنامه‌ها آزاردهنده هستند؛ اما آسیب‌زا نیستند، در کمترین اهمیت برای بررسی قرار می‌گیرند.

رایان بارنز، یکی از مدیران فیسبوک، در جلسه‌ای مطبوعاتی به خبرنگاران گفت:

همه‌ی موارد نقض محتوا بازهم بررسی انسانی می‌شوند؛ اما از این سیستم برای اولویت‌بندی بهتر [آن فرایند] استفاده خواهیم کرد.

فیسبوک جزئیات مربوط به نحوه‌ی تجزیه‌و‌تحلیل فیلترهای یادگیری ماشینی خود را در گذشته به‌اشتراک گذاشته است. این سیستم‌ها شامل مدلی به‌نام WPIE است که درواقع، رویکردی جامع برای ارزیابی محتوا محسوب می‌شود.

این بدان معنا است که الگوریتم‌ها عناصر مختلف در هر پست مشخص را به‌طور هماهنگ ارزیابی می‌کنند. درواقع در این فرایند، تلاش می‌شود که تصویر، عنوان، پوستر و دیگر عناصر موجود در پست هم‌زمان بررسی و نتیجه‌ی کلی از آن‌ها استخراج شود. بدین‌ترتیب، سیستم می‌تواند مانند انسان تصمیم بگیرد که کدام پست‌ها اهمیت بیشتری دارند و باید سریع‌تر به آن‌ها رسیدگی کرد.

البته انتقادهایی نیز به این روش می‌شود؛ زیرا عده‌ای اعتقاد دارند هوش مصنوعی نمی‌تواند مانند انسان قضاوت کند. به‌همین‌دلیل، منتقدان این روش اعلام کرده‌اند به‌اعتقاد آن‌ها استفاده از هوش مصنوعی در بخش مرتب‌سازی پست‌های نقض‌کننده‌ی قوانین فیسبوک کار درستی به‌نظر نمی‌رسد. این افراد برای واضح‌ترکردن دلیل مخالفت خود، قضاوت این سیستم درباره‌ی پست‌هایی حاوی زورگویی و اطلاعات نادرست را مثال زده‌اند. به‌گفته‌‎ی آن‌ها، هوش مصنوعی هیچ‌وقت نمی‌تواند بفهمد که دقیقا در حال بررسی چه مطلب حساسی است.

کریس پالو، مهندس نرم‌افزار فیسبوک، موافقت کرد که هوش مصنوعی محدودیت‌هایی دارد؛ اما به خبرنگاران گفت این فناوری هنوزهم می‌تواند در حذف محتوای نادرست نقش مؤثری ایفا کند. پالو گفت:

این سیستم درباره‌ی وصل‌کردن هوش مصنوعی با ناظرهای انسانی است تا اشتباه‌های کلی کاهش پیدا کند. هوش مصنوعی هرگز کامل نخواهد بود.

وقتی از او سؤال شد چند درصد از پست‌های سیستم یادگیری ماشینی این شرکت نادرست طبقه‌بندی شده‌اند، پالو پاسخ مستقیمی نداد؛ اما عنوان کرد فیسبوک فقط به سیستم‌های خودکار اجازه می‌دهد بدون نظارت فرد کار کنند؛ زیرا دقیق‌تر از بازبینی‌های انسانی هستند. وی گفت:

فیسبوک به‌طور پیوسته هوش مصنوعی بیشتری به فرایند دسته‌بندی پست‌های گزارش‌شده اضافه خواهد کرد.

دیدگاه شما کاربران زومیت درباره‌ی کارکردن هوش مصنوعی برای دسته‌بندی پست‌ها و همکاری آن با نیروهای انسانی چیست؟ آیا این ترکیب می‌تواند به فرایند حذف پست‌های نامناسب فیسبوک کمک کند؟

مقاله رو دوست داشتی؟
نظرت چیه؟
داغ‌ترین مطالب روز
تصویر تبلیغاتی گلکسی S25 اولترا
گلکسی S25 اولترا با رم ۱۶ گیگابایتی احتمالاً فقط در این کشورها عرضه می‌شود

ظاهراً سامسونگ قصد دارد گلکسی S25 اولترا مجهز به رم ۱۶ گیگابایتی را فقط در برخی کشورها عرضه کند.

58
2 روز پیش
طراحی پشت شیائومی ۱۴ اولترا ۲
شیائومی ۱۵ اولترا در بازارهای جهانی عرضه می‌شود

طبق گزارش‌ها، مدل جهانی پرچمدار بعدی شیائومی یعنی شیائومی ۱۵ اولترا مثل نسل قبل مدت کوتاهی پس‌از معرفی نسخه‌ی چینی از راه می‌رسد.

34
یک روز پیش
صفحه نمایش همیشه روشن در گلکسی اس ۲۴ اولترا
گلکسی S25 اولترا؛ پرچمدار قدرتمندی که امشب «در کنار هم» ملاقاتش خواهیم کرد

فاصله‌ی زیادی تا آنپکد ۲۰۲۵ نداریم؛ مراسمی هیجان‌انگیز با محوریت گلکسی S25 اولترا که زومیت آن را به‌شکلی متفاوت پوشش خواهد داد.

103
21 ساعت پیش
بهترین گوشی های ۲۰۲۴
بهترین گوشی های موبایل بازار ایران [بهمن ۱۴۰۳]

در مقاله‌ی پیش‌ رو با در نظر گرفتن پارامترهای تأثیرگذار بر تجربه‌ی کاربر، بهترین گوشی‌های بازار ایران را در بازه‌های قیمتی مختلف معرفی می‌کنیم.

3559
2 روز پیش
ویلای لبه صخره
تازه‌ترین ابرپروژه عربستان با اقامتگاه‌های کوهستانی در لبه صخره‌ها افتتاح شد

اقامتگاه‌های لوکس حفاری شده در کوه‌های حجاز عربستان قدم دیگری برای تبدیل این کشور به قطب گردشگری جهانی و کاهش وابستگی به نفت است.

32
2 روز پیش
پیام متنی تلگرام با قابلیت اسپویلر فعال
قابلیت اسپویلر تلگرام چیست و چگونه می‌توان از آن استفاده کرد؟

ارسال پیام‌های دارای اسپویلر تلگرام به‌خصوص در کانال‌های عمومی برای مخفی‌کردن بخشی از متن یا حتی تصاویر، کاربرد دارد.

18
2 روز پیش
پوشش زنده زومیت از رویداد معرفی گلکسی S25
پخش زنده مراسم معرفی گلکسی S25 به‌همراه جوایز نفیس [به پایان رسید]

چهارشنبه ساعت ۲۰:۱۵ پوشش زنده‌ی رویداد آنپکد ۲۰۲۵ را از زومیت دنبال کرده و شانس‌تان برای برنده‌شدن یکی از ۱۰ شمش طلای زرپاد را امتحان کنید.

571
12 ساعت پیش
تبلیغات
DN-Snap

نظرات

با چشم باز خرید کنید
زومیت شما را برای انتخاب بهتر و خرید ارزان‌تر راهنمایی می‌کند
ورود به بخش محصولات