گوگل در پی افزایش تیراندازی در آمریکا، الگوریتم‌های موتور جست‌وجوی خود را اصلاح کرده است

مهندس‌ ارشد جست‌وجو در گوگل فاش کرد رایج‌بودن نشر اطلاعات غلط پس از وقوع تیراندازی‌های دسته‌جمعی، این شرکت را وادار کرده الگوریتم‌های خود را برای مقابله با این گونه اطلاعات اصلاح کند. پاندو نیاک که ۱۴ سال پیش کارش را در بخش موتور جست‌وجوی گوگل آغاز کرده، به روزنامه‌ی گاردین گفته‌ است قتل‌عام‌ها مسئله‌ی رو به رشدی در زمینه‌ی ارائه‌ی نتایج دقیق برای این موتور جست‌وجو ایجاد کرده‌اند. او گفت‌:

در این چند سال اخیر، تعداد حوادث تیر‌اندازی به‌طور غم‌انگیز و ترسناکی افزایش یافته که نمایانگر این‌ است که در این گونه حوادث، در حالی‌ که غبار ایجاد‌شده از آن‌ها در حال محو‌شدن است، اطلاعات غلط بسیاری از طرق مختلف منتشر می‌شود. از این رو، الگوریتم‌هایی با هدف شناسایی حوادث ناگوار در حال وقوع را توسعه دادیم و مفاهیم خود از اتوریته (Authority) و وزن آن‌ را در رده‌بندی‌مان باید بالا ببریم تا در زمان وقوع بحران، بتوانیم محتوای با‌کیفیت را به‌ جای اطلاعات غلط نمایش دهیم.

گروهی از کارکنان گوگل مسئول بررسی اصلاحات انجام‌شده روی الگوریتم‌های این شرگت به منظور اطمینان از به‌دست‌آمدن بهترین نتیجه با دو نوع مقیاس هستند: ۱. برآورده‌شدن نیاز جست‌وجو‌گر: اگر جست‌وجوی انجام‌شده درباره‌ی مشاغل در گوگل باشد، نقشه‌ای با مختصات دفتر مرکزی گوگل نیاز جست‌وجوگر را برآورده نمی‌کند؛ در حالی که صفحه‌ی مشاغل این شرکت می‌تواند نیازها را به‌طور کامل برآورده کند؛ ۲. مقیاس کیفیت صفحات: این مقیاس در ۸۰ صفحه با کیفیت مرغوب، سطح درخورتوجهی از تخصص، اعتبار، اعتماد و سابقه‌ای بسیار مثبت تعریف شده‌ است.

رهنمودهای کیفیت جست‌وجو در ابتدا در سال ۲۰۱۳ منتشر شد؛ اما ارزیابی‌ها به‌ مدت طولانی بخش اصلی تغییر نگرش شرکت در برابر الگوریتم‌های خود بوده‌ است. اگرچه اخیرا آن‌ها شدت عمل بیشتری در مقابل نفرت‌پراکنی و اطلاعات غلط و اخبار جعلی در نتایج جست‌و‌جو نشان می‌دهند. در سال ۲۰۱۷ پس از انتشار سلسله‌مقالاتی در روزنامه‌ی گاردین درباره‌ی تبلیغ محتوای افراطی به وسیله‌ی موتورهای جست‌وجو، گوگل قابلیتی به ارزیابی‌های خود اضافه کرد که موارد جست‌وجو را با عناوین ناراحت‌کننده و توهین‌آمیز برچسب‌گذاری می‌کند.

یکی از این مقالات به‌ویژه درباره‌ی نتیجه‌ی جست‌وجوی عبارت «آیا هولوکاست اتفاق افتاده‌ است؟» بود که در ابتدای صفحه، لینکی به یکی از انجمن‌های برتر‌پنداری نژاد سفید به‌ نام Stormfront داده و نحوه‌ی ترویج انکار هولوکاست را توضیح می‌داد. هم‌اکنون جست‌وجوی این عبارت در دستورالعمل‌های ارزیابی با عناوین توهین‌آمیز و ناراحت‌کننده برچسب‌گذاری شده‌ است. نیاک با چشمگیر دانستن این بهبود می‌گوید:

دو سال پیش، روزنامه‌ی گاردین مقاله‌ای را با اشاره به نتیجه‌ی جست‌وجوی عبارت «آیا هولوکاست اتفاق افتاده است؟» منتشر کرد که موتور جست‌وجو راه‌های انکار هولوکاست را در صدر نتایج نشان می‌داد. این نتایج پذیرفتنی نبوده و چیزی نیست که آن‌ ‎را برای کاربران خود بخواهیم. اینکه چگونه این مشکل را حل کردیم، نکته‌ای آموزنده در خود دارد. کاری‌ که ما انجام دادیم، حذف ساده‌ی این محتوا از نتایج جست‌وجو نبود. تنها دلیلی که دیگر به‌صورت دستی هیچ مداخله‌ای در نتایج جست‌وجو نمی‌کنیم، این‌ است‌ که این محتوای گزارش‌شده یا هر محتوای دیگری که به‌عنوان موارد افراطی گزارش می‌شود، نوک کوه یخی را به ما نشان می‌دهد و تنها یکی از مواردی است که اتفاق می‌افتد. تعداد بی‌شماری از این نوع موارد وجود دارد که گزارش نشده و در واقع بدنه‌ی کوه یخی را تشکیل می‌دهند؛ در‌ حالی‌ که ما فقط می‌توانیم نوک آن را ببینیم. بنابراین، در این مورد خاص آنچه واقعا می‌خواهیم انجام دهیم، این است‌ که عمیق‌تر نگاه و درک کنیم که‌ چرا این مشکل در وهله‌ی اول رخ داده‌ است. مثلا به‌ این فکر کنیم چه‌ چیزی در الگوریتم ما باعث ایجاد این مشکل شده‌ است و با قدم‌گذاشتن در قلب مشکلات و حل آن‌ها، حتی اگر نتوانیم کل مسئله‌ی کوه یخی را حل کنیم، حداقل قسمتی از آن‌ را حل کنیم.

نیاک در اسلایدی به ما نشان داد نتیجه‌ی جست‌وجوی عبارتی که قبلا به آن اشاره شد، حالا کاربران بریتانیایی را به صفحه‌ی موزه‌ی یادبود هولوکاست در آمریکا هدایت می‌کند. با این حال، اولین نتیجه همانی است که در مقاله‌ی دو سال پیش گاردین به‌آن اشاره شده‌ بود.