همه چیز درباره نفرت پراکنی در شبکه های مجازی

جیمز هادون، استاد جامعه شناسی و مدیر مرکز مطالعات صلح و پیشگیری از خشونت در ویرجینیا تک، ایالات متحده، سال های زیادی را صرف مطالعه نفرت پراکنی آنلاین، از جمله سخنان نفرت انگیز و سایر انواع خشونت در فضای مجازی کرده است. کار او بررسی کرده است که چگونه سخنان نفرت انگیز تولید می شود، چگونه این گروه ها و افرادی که آن را تولید می کنند رادیکالیزه می شوند، چگونه در اینترنت پخش می شود، چه تأثیراتی بر تولیدکنندگان و اهداف نفرت آنها دارد و همچنین جوامع برای جلوگیری از آنها چه کاری می توانند انجام دهند.

افراط گرایی به قدمت تمدن است، اما کسانی که طرفدار نفرت پراکنی هستند می توانند با استفاده از اینترنت ایده های خود را به طور گسترده تری به نمایش بگذارند. اکنون میلیاردها کاربر در یک جریان اطلاعاتی جهانی شرکت می کنند و بسیاری از کشورها، مانند چین، اکنون سعی می کنند این جریان قوی را محدود کنند زیرا آنها آن را یک رقیب سیاسی یا فرهنگی برای ساختارهای قدرت ارتدکس می دانند.

در طول هفت سال گذشته، جیمز هادون و همکارانش گفتگوی خشونت آمیز آنلاین را در سراسر هفت کشور مورد بررسی قرار داده اند که دارای سطح بالایی از دسترسی به اینترنت و محدودیت های مختلف اما عمدتاً کم محدودیت های دولتی است.

در این مدت، گروه تحقیق افزایش نفرت پراکنی آنلاین را که به گروه ها حمله می کند، بر اساس نژاد، قومیت، ملیت، گرایش جنسی، مذهب یا برخی از ویژگی های گروه دیگر، مستند کرده است. این نوعی خشونت سایبری است که برخلاف زورگویی نه به شخص اختصاص دارد و نه یک قربانی خاص و این مطالب که شامل متن، فیلم، عکس، بازی و سایر روش های ارتباطی است، ابراز نفرت یا تحقیر نسبت به یک مجموعه است.

مطالعات زیادی انجام شده است که تأثیر منفی موارد تنفر آمیز را تأیید می کند و همانطور که یکی از کارهای مشترک هادون بیان می دارد، “این نوع سخنان نفرت انگیز بسیاری اثرات مخربی دارد. قرار گرفتن در معرض نفرت پراکنی با طیف وسیعی از نتایج رفتاری منفی ارتباط دارد، به عنوان مثال به کاهش اعتماد اجتماعی، انتقال بین نسلی با ایدئولوژی افراطی، تقویت تبعیض علیه گروه های مورد هدف و ترس و خشم در میان اعضای یک گروه می توان اشاره کرد. قرار گرفتن در معرض این رفتار افراطی نیز با اعمال خشونت آمیز مرتبط است.

شدیدترین نمونه این امر ظهور داعش و استفاده آنها از اینترنت و رسانه های اجتماعی برای رادیکال سازی و استخدام اعضا و برنامه ریزی اقدامات خشونت آمیز در سطح بین المللی است. تا همین اواخر، اکثر تحقیقات در مورد این موضوع در کشورهای انگلیسی زبان انجام شده است. با این حال، مطالعات اخیر بیشتر دامنه خود را گسترش داده و شامل فنلاند، فرانسه، آلمان، لهستان و اسپانیا است. بدیهی است که با توجه به ماهیت فزاینده جهانی گروه های گسترش دهنده نفرت و امکان دیگر جنبش های نفرت ملی سراسری مشابه داعش، دامنه تحقیقات باید گسترده تر باشد.

گسترش دهندگان نفرت در فضای مجازی (راست گرایان) تمایل دارند که جهان بینی ضد جهان وطنی اتخاذ کنند که ملت و فرهنگ آنها را مورد حمله مهاجرت و چندفرهنگی قرار دهد.

چه کسی آن را می سازد؟

تحقیقات زیادی توسط دکتر هادون و دیگران در مورد ایجاد نفرت در اینترنت، آنچه افراد را به دیدن آن سوق می دهد و اقدامات برای مبارزه با آن انجام شده است. گروه های سازمان یافته نفرت از ابتدای پیدایش آن در اینترنت حضور فزاینده ای داشته اند، اما بیشتر گسترش دهندگان نفرت به صورت آنلاین توسط افرادی ایجاد می شود که از وب سایت ها نگهداری می کنند یا در شبکه های اجتماعی اظهار نظر می کنند و تعداد افرادی که آن را ایجاد می کنند افزایش یافته است. به عنوان مثال، در یک مطالعه در سال 2013، 7 درصد از آمریکایی ها اعتراف کردند که نفرت پراکنی را در شبکه های مجازی انجام داده اند. در سال 2018، 21٪ به این کار اعتراف کردند.

گرچه افراط گرایی انواع مختلفی دارد اما افراط گرایی راست گرایانه در حال حاضر بر اینترنت یا قطعاً بخش انگلیسی زبان آن تسلط دارد و تولیدکنندگان نفرت تمایل دارند که جهان بینی ضد جهان میهنی اتخاذ کنند که ملت و فرهنگ آنها را مورد حمله قرار دهد. مهاجرت و چندفرهنگی به وجود آورد. همچنین تمایلات زن ستیزانه و ضد فمینیستی دارد و جای تعجب نیست که مردان بیشتر از خانم ها نفرت پراکنی می کنند.

در بین اعضای این گروه ها احساس قربانی جمعی نیز وجود دارد و کسانی که وابستگی شدیدی به این جوامع آنلاین احساس می کنند نیز بیشتر احتمال دارد نفرت پراکنی کنند. عامل دیگر این است که به نظر می رسد بین این تولیدکنندگان و خودکنترلی همبستگی وجود دارد، زیرا خودکنترلی کم نشانگر عدم توانایی در پیش بینی تأثیرات منفی و عدم حساسیت به عواقبی است که رفتار آنها می تواند برای خود داشته باشد یا هدف نفرت آنها باشد.

چگونه گسترش یافته است؟

مطالعات مختلف فرآیندهای “جمع شدن” و “پر کردن” را نشان می دهد. افرادی که یک جهان بینی ضد جهان میهنی را “در جمع” می پذیرند و پس از آن، “پر کردن” ذهن شان در جایی اتفاق می افتد که آنها نگرش های گروه های دیگر را یاد بگیرند و اتخاذ کنند.

با پیوستن افراد به چنین گروه هایی که باعث افزایش تماس آنها با افراد مشابه می شود در حالی که تماس آنها با دیدگاه های جایگزین محدود می شود، می توان این فرآیند را به صورت آنلاین تقویت کرد. این گروه تحقیقاتی دریافت که می تواند جهان بینی منفی را تقویت کند و مردم در گسترش آن راحت ترند. همانطور که تعداد سایت های پخش نفرت افزایش یافته است، تعداد افرادی که آن را مشاهده می کنند نیز افزایش یافته است و گروه های گسترش دهنده نفرت نیز از این موضوع آگاه هستند: “به گفته یکی از نیروهای راست افراط گرای آلمانی، اینترنت “ساده ترین راه برای برقراری ارتباط است و آنها بهتر می توانند مسئولیت ها را به عهده بگیرند و هماهنگ کنند، شهرت کسب کنند و پیشرفت کنند.”

الگوریتم هایی که سایتهایی مانند YouTube ،Reddit و Facebook از آنها استفاده می کنند به اوضاع کمک نمی کنند، زیرا این مواردی را که کاربران ممکن است دوست داشته باشند توصیه می کند و آنها را به سمت نفرت از مطالب سوق می دهد. همچنین ممکن است باعث شود فرد بیشتر بتواند جامعه ای شبیه خود پیدا کند.

کاربران همچنین می توانند از طریق پیوند به سایت هایی که روی موضوعات “جایگزین” تمرکز دارند، در معرض این موارد قرار بگیرند، بسیاری از آنها وب سایتهای ضد دولتی یا کاملاً آزادیخواهانه مانند 4Chan هستند که نه تنها بازدیدکنندگان جوان را به خود جلب می کنند، بلکه میزبان تعداد زیادی از محتوای افراطی (و ناشناس ارسال شده) هستند. همچنین شواهدی وجود دارد که نشان می دهد اگر ورود افراد جوانتر توسط والدین یا سرپرستانشان به این سایتها ممنوع شود، احتمالاً به عنوان نوعی عصیان، به دنبال نفرت پراکنی هستند.

شاید این کنترل اجتماعی آنلاین بتواند افراط گرایان را متقاعد کند که تا حدودی از قضا، یک جامعه بردبار ایدئولوژی های افراطی را تحمل نمی کند.

یک مطالعه نشان داد که درصد آمریکایی های 18 تا 25 ساله که نفرت پراکنی آنلاین را مشاهده می کنند از 53.9% در سال 2013 به 73.2% در سال 2018 افزایش یافته است و آنها دریافتند که روال آنلاین افراد – گذراندن اوقات آنلاین، استفاده از چندین سایت شبکه های اجتماعی، اضافه کردن افراد غریبه به زندگی اجتماعی، ابراز عقاید بحث برانگیز به صورت آنلاین یا داشتن جهان بینی ضد جهان میهنی – همه احتمال مشاهده نفرت به صورت آنلاین را افزایش می دهد.

در مورد آن چه می توان کرد؟

آخرین مطالعات بین المللی نشان می دهد که اجرای قوانین ضد نفرت پراکنی ممکن است مواجهه با بروز نفرت را محدود کند و همچنین اقداماتی توسط گروه های ضد نفرت، رسانه های اجتماعی و شرکت های فناوری انجام شده است، همانطور که دکتر هادون توضیح می دهد: “پروژه ضد افراط گرایی به عنوان مثال، از رسانه های اجتماعی و ابزارهای تکنولوژیکی برای شناسایی تهدیدات افراطی و مقابله مستقیم با ایدئولوژی و استخدام افراطی استفاده می کند. به همین ترتیب، بخش اروپایی گوگل برنامه هایی را برای بهبود توانایی ایجاد وقفه در این روند با استفاده از یادگیری بهتر ماشین برای شناسایی فیلم های افراطی، بکارگیری پرچمداران مستقل انسانی برای شناسایی محتوایی که فعالیت های گسترش دهنده نفرت را ترویج می دهد، یافتن دشوارتر فیلم های افراطی و هدایت جستجوها با محتوای رادیکال از طریق فیلم های ضد تروریسم را انجام داد.”

با این حال، حمایت از آزادی بیان می تواند اثربخشی قوانین را محدود کند زیرا وب سایت های موجود در یک شبکه جهانی می توانند در خارج از کشورها با قوی ترین حمایت ها مانند ایالات متحده آمریکا فعالیت کنند. سیستم عامل های شبکه های اجتماعی ممکن است با حذف پیام ها سعی در مبارزه با نفرت داشته باشند، اما تعداد زیاد پیام ها در این سیستم عامل ها انجام این کار را دشوار می کند. ما همچنین می بینیم که افراد از “کنترل اجتماعی غیررسمی” به صورت آنلاین استفاده می کنند، جایی که افراد از فشار گروه همسالان استفاده می کنند و بحث می کنند یا سعی در ایجاد فرهنگ ضد نفرت دارند.

در مطالعات دکتر هادون، بیش از دو سوم پاسخ دهندگان گزارش دادند كه به افرادی كه به صورت آنلاین نفرت خود ابراز می كنند، می گویند تا گروه مورد حمله را متوقف یا از آن دفاع كنند. او پیشنهاد می کند که شاید این کنترل اجتماعی آنلاین بتواند افراط گرایان را متقاعد کند که تا حدودی، یک جامعه ایدئولوژی های افراطی شان را تحمل نمی کند. این ممکن است یک دنیای مجازی تحمل پذیرتر ایجاد کند و خوشبختانه رادیکالیزاسیون مرتکب بعدی خشونت مبتنی بر نفرت را مختل کند.

با این حال، با توجه به اینکه بیشتر مردم در “حباب های فیلتر شده” خود جاگیرتر می شوند و به طور فزاینده ای به کسانی که دارای یک جهان بینی متفاوت هستند “گله می کنند”، این با گذشت زمان دشوارتر می شود. بنابراین واضح است که تحقیقات بیشتری باید انجام شود نه فقط در جهان غرب و در میان جوانان بلکه در سراسر جهان و هر گروه سنی.

چهار روش بحث برانگیز برای مبارزه با نفرت پراکنی

برای ناظران سیستم عامل های اجتماعی مانند فیس بوک، تلاش برای مهار فرهنگ بیمارگونه نفرت پراکنی آنلاین، مانند انجام یک بازی پیچیده خسته کننده است. به محض له شدن یک گروه ابراز کننده نفرت آنلاین، گروه دیگری به جای آن ظاهر می شود اغلب در یک سیستم عامل دیگر. به گفته کارشناسان، کنترل بی نظیر دیدگاه های چنین گروه هایی می تواند عواقب مرگبار داشته باشد.

با توجه به این مشکل، یک مطالعه جدید نفرت پراکنی آنلاین را به عنوان یک موجود زنده در حال تکامل معرفی می کند و گسترش و فعل و انفعالات آن را با گذشت زمان ردیابی می کند. تیم تحقیقاتی، به سرپرستی فیزیکدان و محقق نیل جانسون از دانشگاه جورج واشنگتن در واشنگتن دی سی، مدل های ریاضی برای تجزیه و تحلیل داده ها از سیستم عامل های اجتماعی از جمله فیس بوک را ایجاد کردند، جایی که کاربران می توانند گروه های دیگری را با دیدگاه های مشابه مشاهده کنند.

آنا ماریا بلیوک، روانشناس اجتماعی و سیاسی در دانشگاه داندی استرالیا می گوید: “این یک مطالعه مهم و بسیار به موقع است.” “این فراتر از آن است که ما می دانیم … با ارائه شواهدی در مورد چگونگی کمک سیستم عامل های آنلاین به” متنفران “برای متحد کردن در سیستم عامل ها و ایجاد” پل های نفرت “در سراسر ملت ها و فرهنگ ها.”

نفرت تعاریف زیادی دارد. محققان “گروه های نفرت” را کسانی تعریف کردند که کاربرانشان خصومت ابراز داشتند یا از خشونت علیه نژاد خاص یا یک گروه اجتماعی حمایت می کردند. محققان با استفاده از الگوریتم های هدایت شده توسط انسان و دانش آنها در مورد برخی از گروه های ممنوع شده، بیش از 1000 گروه گسترش دهنده نفرت را در چندین سیستم عامل شناسایی كردند، از جمله گروه هایی كه خود را نئو نازی، ضد یهود یا حامیان گروه دولت اسلامی معرفی می كردند.

با شروع این پروژه، محققان انتظار داشتند كه اكوسیستم نفرت پراکنی آنلاین شبیه “سوپرماركت” پرمصرف باشد و در یك راهرو برتری طلبان سفیدپوست، در دیگری ضد یهودیان و در دیگری دیگر زن ستیزها باشند. جانسون می گوید: “اما این چیزی نیست که ما پیدا کردیم.” در عوض، این بیشتر به یک طیف مداوم شباهت داشت که مردم را به سمت یک جامعه متنفر و نفرت انگیز آنلاین گسترده تر می کشاند.

محققان در درجه اول با ردیابی پست هایی که به گروه های دیگر پیوند خورده بودند، تعاملات بین گروه های مرتبط را ترسیم کردند. دستیابی به موفقیت آنها زمانی اتفاق افتاد که فهمیدند باید این تعاملات را در سیستم عامل های اجتماعی ردیابی کنند. جانسون و همكارانش گزارش می دهند، به جای اینکه گروه های ابراز کننده نفرت در یك محل جمع شوند، آنها اغلب در بسیاری از شبكه های مختلف ملاقات می كنند و محدودیت های شدیدتر در یك سیستم عامل باعث می شود كه جوامع آنها در سیستم عامل های دیگر تقویت شوند.

به گفته آنها ارتباطات بین پلتفرمی كه محققان از آنها به عنوان “بزرگراه های تنفر” یاد می كنند، به ویژه به سرعت ایجاد می شوند. به عنوان مثال، پس از تیراندازی در سال 2018 در دبیرستان Marjory Stoneman Douglas در پارکلند فلوریدا، بسیاری از رسانه ها در مورد علاقه تیرانداز به (Ku Klux Klan) بحث کردند. وی و همکارانش در گروه های فیس بوکی KKK با ارسال پیوندهایی به گروه های متنفر در سیستم عامل های مختلف مانند Gab یا VK، “تقویت ارگانیسم ایدئولوژیک غیرمتمرکز KKK” را افزایش دادند.

جانسون می گوید: بزرگراه های نفرت می توانند در اتحاد مردم از مرزهای جغرافیایی مختلف قدرتمند باشند. “با یک ارتباط بین 10،000 نئو نازی در انگلیس و 10،000 نئونازی در نیوزیلند و سپس 10،000 نفر در ایالات متحده، ناگهان شما 30،000 نفر را با همان نفرت به هم متصل کرده اید.”

علاوه بر این، برخی از سیستم عامل های مجاز تر می توانند به عنوان دستگاه جوجه کشی عمل کنند، به ویژه هنگامی که حضور یک گروه در یک سیستم عامل ممنوع است. به عنوان مثال هنگامی که فیس بوک در سال 2016 و 2017 گروه های KKK را مورد سرکوب و فیلتر قرار داد، بسیاری از اعضای سابق آنها به VK، یک پلت فرم رسانه های اجتماعی محبوب در روسیه و اروپای شرقی، رجوع کردند. جانسون می گوید در آنجا، آنها “كمیته استقبال” مجازی را پیدا كردند، صفحات ورودی آنها را به جوامع “افرادی كه مانند شما متنفرند” هدایت می كند.

محققان کشف کردند که بسیاری از این گروه های VK پیوندهای کمی به سیستم عامل های خارج از شبکه های اجتماعی داشتند اما تعداد زیادی پیوند به سایر گروه های نفرت در فضای VK داشتند.

بعداً اعضای چندین گروه KKK پس از یافتن راه هایی برای جستجوی محدودیت های موجود در محتوا، به فیس بوک بازگشتند. یکی از این گروه ها شامل پوسترهایی بود که به زبان اوکراینی نوشته می شدند. هنگامی که دولت اوکراین VK را در ماه مه 2017 ممنوع کرد، این جوامع برای جلوگیری از شناسایی توسط الگوریتم های جستجوی انگلیسی، در فیس بوک به عنوان КуКлухКлан، شکل سیریلیک “Ku Klux Klan”، تجسم یافتند.

محققان می گویند که این روش معمول برای مبارزه با چنین گروه هایی – با ممنوع کردن گروه های به خصوص فعال و نفرت انگیز بی تأثیر است. در عوض، آنها چهار سیاست مشتق شده از مدل های آنها را برای بی ثبات کردن جوامع گسترش دهنده نفرت آنلاین توصیه می کنند.

اولین روش این است که گروه های کوچک حذف شوند در حالی که بزرگترها در جای خود قرار می مانند. از آنجا که گروه های کوچک در نهایت به گروه های بزرگتری تبدیل می شوند، این سیاست جلوی رشد آنها را می گیرد. سیاست دوم ممنوعیت تصادفی زیر مجموعه کوچکی از کاربران است. جانسون می گوید، چنین ممنوعیتی احتمالاً خشم گروه بزرگی را به دنبال نخواهد داشت و این امر احتمال شکایت های قضایی متعدد را نیز کاهش می دهد.

دو گزینه دیگر بحث برانگیزتر هستند. یکی ایجاد گروه های ضد انحصاری است که سعی در تعامل با جوامع نفرت دارند، از نظر تئوری آنها را بیش از حد مشغول جذب نیرو می کند. آخرین مورد کاربران و گروه های جعلی را برای ایجاد اختلاف نظر در بین گروه های گسترش دهنده نفرت معرفی می کند. جانسون می گوید: “اگر سر و صدا اضافه كنید، روایت ها در گروه ها می تواند از مسیر خارج شود.”

سارا رابرتز، محقق اینترنتی در دانشگاه کالیفرنیا لس آنجلس که در مورد تعدیل محتوا مطالعه می کند، می گوید: “این از بسیاری از زمینه ها نگران کننده تر است.” او می گوید کاربرانی که در هر یک از این دو سیاست شرکت می کنند می توانند اثرات منفی بر سلامت روان داشته باشند. “آنها چه سیستم های پشتیبانی برای مقابله با این مشارکت ها را دارند؟ چه آموزش حل تعارضی؟ و اگر این تعاملات از تعاملات آنلاین به خشونت بین فردی در دنیای واقعی گسترش یابد، چه اتفاقی می افتد؟ ”

بلیوک موافق است. او می گوید استراتژی تعامل “ایده جالبی” است اما برای درک اینکه چگونه چنین تعامل آنلاینی می تواند نظرات گروه های مخالف ایدئولوژیک را تغییر دهد، نیاز به کار بیشتری دارد به ویژه با توجه به تحقیقاتی که نشان می دهد می تواند منجر به بیشتر شدنش شود.

جانسون اعتراف می کند که مدل های مطالعه “بسیار ایده آل” هستند. او می گوید سیستم عامل ها مجبور نیستند از هر خط مشی استفاده کنند – هر سایت می تواند تصمیم بگیرد که کدام استراتژی ها برای عملکرد آنها مناسب ترند. جانسون می گوید: “من فکر می کنم سیستم عامل های مختلف سیاست های مختلفی را انتخاب می کنند.” “اما اگر هرکدام این کار را انجام دهند، محاسبات ما نشان می دهد که این چهار سیاست نفرت پراکنی را کاهش می دهد.”

فراتر از این سوال که سیاست ها چقدر می توانند کار کنند، این پرسش باقی می ماند که چگونه با شیوه های هدایت اکثر سیستم عامل های رسانه های اجتماعی منطبق است. رابرتز شک دارد که آنها مایل به پذیرش خطرات اخلاقی و قانونی گسترده – و سرمایه گذاری – لازم برای یک موضع واحد هستند. وی می گوید: “فرضیه اساسی كه بنیان این مطالعه است … این است كه خود سیستم عامل ها به طور قطعی و صریح علیه نفرت در سایت های خود موضع گرفته اند.”

منبع:

researchoutreach

sciencemag