Twitter, seperti ditulis laman resminya hari ini, Rabu, 17 Oktober, segera akan mempunyai alat pemantau ujaran kebencian.
Sebuah peneliti dari New America Foundation dan Anti-Defamation League meluncurkan alat untuk memonitor perilaku akun-akun dengan konten ujaran kebencian.
Twitter dianggap merupakan lahan untuk menyebarkan ujaran-ujaran kebencian dan terus menerus Twitter berurusan dengan konten negatif ini.
Alat yang dinamakan Exploring Online Hate dashboard ini didedikasikan untuk melacak kelompok-kelompok yang mencuitkan ujaran kebencian di Twitter.
Alat ini menjadi tren dalam aktvitas kebencian melalui sampel seribu akun Twitter yang diduga menunjukkan konten kebencian.
“Para peneliti memilih 40 akun yang menunjukkan perilaku konten negatif, kemudian secara algoritme menghasilkan data akun terkait yang lebih besar. Yakni 1000 akun,” kata peneliti.
Dengan mengolah data dari Twitter, peneliti dapat menyampaikan informasi tentang topik yang sedang tren secara real time. Oleh karena itu, alat ini bisa mendeteksi konten-konten negatif dengan cepat.
Tampilan dashboard alat ini disebut mirip dengan Hamilton yang merupakan alat untuk melacak operasi pengaruh Rusia secara online. Namun alat ini gagal untuk memberikan performa baik karena mempublikasikan informasi akun yang dimonitor.
Dengan mempublikasikan informasi tersebut, akun-akun yang dimonitor bisa mengubah perilaku sehingga sulit untuk dilacak oleh alat. Para peneliti akan mempublikasikan laporan per kuartal tentang hasil dari alat pemantau.
“Pendekatan kami dirancang untuk memungkinkan pemahaman yang lebih mendalam tentang tema, misinformasi, dan disinformasi disebarluaskan oleh jaringan ini,” kata peneliti seperti dilansir The Verge
Sebelumnya Twitter telah mengajak pengguna untuk membantu mereka menyusun larangan komentar yang merendahkan orang.
Perubahan kebijakan yang telah dikerjakan Twitter selama beberapa bulan dimaksudkan untuk memperluas pembatasan konten berbau kebencian di layanan tersebut.
Mereka pun menyertakan pembatasan tweet yang menyinggung ras, agama, orientasi seksual, atau pengelompokan sosial lainnya.
“Bahasa yang membuat seseorang tidak manusiawi dapat berakibat buruk terhadap layanan, termasuk normalisasi kekerasan serius,” Vijaya Gadde dan Del Harvey dari Tim Twitter dalam blog resmi Twitter.
“Kami ingin memperluas kebijakan perilaku kebencian kami untuk memasukkan konten yang merendahkan orang lain berdasarkan keanggotaan mereka dalam kelompok yang dapat diidentifikasi, bahkan ketika materi tidak termasuk target langsung.”
Kebijakan Twitter sudah melarang komentar yang mempromosikan kekerasan atau ancaman berdasarkan diskriminasi. Kali ini, Twitter meminta umpan balik dari pengguna di seluruh dunia mengenai kata-kata yang akan digunakan dalam amandemen kebijakan.
“Kami ingin tanggapan pengguna untuk memastikan kami mempertimbangkan perspektif global dan bagaimana kebijakan ini dapat memengaruhi komunitas dan budaya yang berbeda,” kata Gadde dan Harvey.
Co-Founder Twitter Jack Dorsey awal bulan ini mengatakan kepada anggota parlemen AS bahwa layanan yang berbasis di San Francisco “tidak siap dan tidak dilengkapi dengan baik” untuk kampanye besar dari manipulasi yang mempengaruhi media sosial dalam beberapa tahun terakhir.
“Kami tidak bangga dengan bagaimana pertukaran informasi bebas dan terbuka itu telah digunakan dan digunakan untuk mengalihkan perhatian dan misahkan orang, dan bangsa kami,” katanya kepada para senator.
“Kami menemukan diri kami tidak siap dan tidak memiliki perlengkapan untuk masalah yang kami terima.”
Dorsey mengatakan Twitter telah meningkatkan upayanya untuk melindungi apa yang ia sebut sebagai “alun-alun publik yang sehat” tetapi tantangan itu menakutkan
Ujaran kebencian kini memang sedang lemanda para pemakai gadget.
Raksasa media sosial Facebook sendiri menyebut timnya memerlukan lebih banyak orang lagi untuk mengatasi permasalahan konten ujaran kebencian.
Hal itu lantaran menurut pihak perusahaan, peranti lunak (software) pendeteksi mereka tak cukup efektif dalam menangani hal tersebut.
Global Head of Safety Facebook, Antigone Davis mengungkapkan hal tersebut kepada SkyNews. Menurutnya, Facebook memerlukan lebih banyak keterlibatan manusia untuk mendukung upaya mereka melindungi platformnya dari ujaran kebencian.
“Saat berbicara mengenai ujaran kebencian, terdapat banyak konteks terkait bagaimana memahami istilah yang digunakan oleh seseorang, atau bagaimana seseorang menggunakan istilah tersebut,” ungkapnya. “Saya pikir kami membutuhkan keterlibatan manusia dalam hal ini.”
Dalam sebuah laporan transparan yang belum lama ini dirilis, Facebok melaporkan bahwa software mereka berhasil menemukan sembilan puluh sembilan persen lebih persen konten spam dan konten propaganda terorisme, bahkan sebelum konten-konten itu ditandai oleh pengguna.
Namun, algoritme tersebut hanya berhasil menemukan 38 persen konten ujaran kebencian yang bahkan dapat diakses dengan mudah oleh semua pengguna melalui kolom pencarian.
Dalam pencariannya, Sky News menemukan sebuah laman di Facebook yang berisi konten “Ritual Pembunuhan Yahudi.” Walau sudah kerap kali menerima protes dari kelompok-kelompok Yahudi pembela hak asasi manusia, Facebook membiarkan laman itu selama bertahun-tahun hingga akhirnya dihapus pada tahun ini.
Meski demikian, Davis enggan menyebut bahwa Facebook mengalami kesulitan dalam memaksimalkan teknologi yang mereka miliki untuk mengatasi masalah ujaran kebencian.
“Saya tidak menyebut bahwa kami kesulitan. Saya mengatakan, kinerja software tersebut dalam menangani ujaran kebencian tidak sama efektifnya dengan saat menangani konten-konten lainnya,” ujar dia kepada Sky News.
Oleh sebab itu, Facebook berjanji bakal menambah jumlah orang yang bekerja sebagai moderator konten di platformnya sebanyak dua kali lipat–dari 10 ribu orang menjadi 20 ribu orang