مقابله با قلدری سایبری در توییتر

به گزارش کارگروه فناوری اطلاعات سایبربان؛ گروهی از پژوهشگران دانشگاه ملک سعود عربستان، به تازگی الگوریتم یادگیری عمیقی به نام «OCDD¹» توسعه داده و ادعا می‌کنند به کمک آن می‌توان قلدری‌های سایبری صورت گرفته روی توییتر را تشخیص داد. برخلاف رویکردهای فعلی که ویژگی‌های مختلفی را از داخل توییت‌ها استخراج کرده و طبقه‌بندی می‌کند، الگوریتم «OCDD »، برداری از مجموعه کلمات را به وجود می‌آورد.

در طول سال‌های گذشته، مبحث قلدری سایبری به سرعت در حال گسترش پیدا کردن است. مهاجم برای این کار به کانال‌های ارتباطی آنلاین نیاز دارد تا بتواند پیام‌ها یا محتوای تهدیدآمیز و رعب‌انگیز را به هدف خود ارسال کند. این مسئله در بعضی از موارد تأثیرات روانی شدید داشته، حتی زندگی مخاطب را نیز به خطر می‌اندازد.

در حال حاضر پژوهشگران سراسر جهان در تلاش هستند تا راه‌های مختلفی را برای شناسایی و مقابله با آزارهای سایبری توسعه بدهند. بسیاری از الگوریتم‌های امروزی از طریق تجزیه‌وتحلیل محتوای متن و ویژگی‌های کاربر این کار را انجام می‌دهند؛ اما این الگوریتم‌ها با چندین محدودیت مختلف همراه هستند که به طور خاص عملکرد و تأثیرگذاری آن را کاهش می‌دهد.

برای مثال تعدادی از الگوریتم‌ها تلاش می‌کنند از طریق معرفی ویژگی‌های جدید، روند تشخیص را بهبود بدهند. با وجود این افزایش تعداد پارامترها، استخراج و گزینش داده‌ها را پیچیده‌تر می‌کند. به علاوه این رویکردها بعضی از داده‌های کاربران مانند سن و تاریخ تولد را که به سادگی قابل جعل هستند در نظر نمی‌گیرند. منیره الاجلان و مراد یخلف، 2 محقق دانشگاه ملک سعود، به منظور از بین بردن این محدودیت‌ها، الگوریتم OCDD را توسعه دادند.

محققان در متن گزارش خود آورده‌اند:

برخلاف پروژه‌های قبلی انجام شده در زمین مذکور، OCDD ویژگی‌ها را از توییت‌ها استخراج و دسته‌بندی نمی‌کند؛ بلکه محتوا را به عنوان مجموعه‌ای از بردار کلمات در نظر می‌گیرد. در این حالت معانی لغات حفظ شده و مراحل استخراج و طبقه‌بندی حذف می‌شوند.

محققان برای آموزش الگوریتم خود از داده‌های نشانه‌گذاری و تولید کلمات جایگذاری شده برای الگوریتم یادگیری ماشینی بدون نظارت «GloVe» بهره گرفتند. سپس این کلمات به منظور تشخیص قلدری سایبری، به یک شبکه عصبی کانولوشنال (CNN) ارسال می‌گردند.

نتایج آزمایش الگوریتم OCDD رضایت‌بخش بوده است. با وجود این همچنان نمی‌توان آن را به طور کامل در تشخیص قلدری سایبری به کار گرفت. پژوهشگران در تلاش هستند الگوریتم خود را برای تجزیه‌وتحلیل زبان عربی بهینه کنند.

1. _{optimized Twitter cyberbullying detection}