Aplikasi bencana membagikan data pribadi yang melanggar kebijakan privasinya
Computer

Menipu pendeteksi berita palsu dengan komentar pengguna yang berbahaya


Kredit: Pixabay / CC0 Domain Publik

Pendeteksi berita palsu, yang telah digunakan oleh platform media sosial seperti Twitter dan Facebook untuk menambahkan peringatan ke posting yang menyesatkan, secara tradisional menandai artikel online sebagai salah berdasarkan judul atau konten berita. Namun, pendekatan terbaru telah mempertimbangkan sinyal lain, seperti fitur jaringan dan keterlibatan pengguna, selain konten cerita untuk meningkatkan akurasinya.

Namun, penelitian baru dari tim di Penn State College of Information Sciences and Technology menunjukkan bagaimana pendeteksi berita palsu ini dapat dimanipulasi melalui komentar pengguna untuk menandai berita yang benar sebagai berita yang salah dan berita palsu sebagai berita yang benar. Pendekatan serangan ini dapat memberi musuh kemampuan untuk memengaruhi penilaian pendeteksi cerita meskipun mereka bukan penulis asli cerita.

“Model kami tidak mengharuskan musuh untuk mengubah judul atau konten artikel target,” jelas Thai Le, penulis utama makalah dan mahasiswa doktoral di College of IST. “Sebaliknya, musuh dapat dengan mudah menggunakan akun acak di media sosial untuk mengirim komentar jahat baik untuk menurunkan cerita nyata sebagai berita palsu atau mempromosikan cerita palsu sebagai berita nyata.”

Artinya, daripada membodohi pendeteksi dengan menyerang konten atau sumber cerita, pemberi komentar dapat menyerang pendeteksi itu sendiri.

Para peneliti mengembangkan kerangka kerja — disebut Malcom — untuk menghasilkan, mengoptimalkan, dan menambahkan komentar jahat yang dapat dibaca dan relevan dengan artikel dalam upaya untuk mengelabui detektor. Kemudian, mereka menilai kualitas komentar yang dibuat secara artifisial dengan melihat apakah manusia dapat membedakannya dari komentar yang dibuat oleh pengguna sebenarnya. Terakhir, mereka menguji kinerja Malcom pada beberapa pendeteksi berita palsu populer.

Malcom berkinerja lebih baik daripada model dasar yang ada dengan mengelabui lima pendeteksi berita palsu berbasis jaringan saraf terkemuka lebih dari 93% sepanjang waktu. Sepengetahuan peneliti, ini adalah model pertama yang menyerang pendeteksi berita palsu dengan menggunakan metode ini.

Pendekatan ini dapat menarik bagi penyerang karena mereka tidak perlu mengikuti langkah-langkah tradisional dalam menyebarkan berita palsu, yang utamanya melibatkan kepemilikan konten. Para peneliti berharap pekerjaan mereka akan membantu mereka yang dituduh membuat pendeteksi berita palsu untuk mengembangkan model yang lebih kuat dan memperkuat metode untuk mendeteksi dan menyaring komentar jahat, yang pada akhirnya membantu pembaca mendapatkan informasi yang akurat untuk membuat keputusan yang tepat.

“Berita palsu telah dipromosikan dengan niat sengaja untuk memperluas perpecahan politik, untuk merusak kepercayaan warga negara pada figur publik, dan bahkan untuk menciptakan kebingungan dan keraguan di antara masyarakat,” tulis tim dalam makalah mereka, yang akan dipresentasikan secara virtual selama IEEE 2020. Konferensi Internasional tentang Data Mining.

Ditambahkan Le, “Penelitian kami menggambarkan bahwa penyerang dapat memanfaatkan ketergantungan pada keterlibatan pengguna ini untuk mengelabui model pendeteksian dengan memposting komentar jahat di artikel online, dan ini menyoroti pentingnya memiliki model pendeteksi berita palsu yang kuat yang dapat bertahan dari serangan musuh.”


Peringatan tentang misinformasi COVID-19 diabaikan, studi baru menunjukkan


Informasi lebih lanjut:
Le et al., MALCOM: Menghasilkan Komentar Berbahaya untuk Menyerang Model Deteksi Berita Palsu Neural. (2020). pike.psu.edu/publications/icdm20.pdf

Disediakan oleh Pennsylvania State University

Kutipan: Menipu pendeteksi berita palsu dengan komentar pengguna yang berbahaya (2020, 2 November) diambil 27 November 2020 dari https://techxplore.com/news/2020-11-fake-news-detectors-malicious-user.html

Dokumen ini memiliki hak cipta. Selain dari transaksi yang adil untuk tujuan studi atau penelitian pribadi, tidak ada bagian yang boleh direproduksi tanpa izin tertulis. Konten disediakan untuk tujuan informasi saja.




Halaman Ini Di Persembahkan Oleh : Pengeluaran HK