Alat baru menyederhanakan berbagi data, menjaga privasi
Security

Peneliti menemukan bahwa alat perlindungan privasi membuat data pribadi tidak terlindungi


Kredit: Domain Publik Unsplash / CC0

Sistem pembelajaran mesin (ML) menjadi meluas tidak hanya dalam teknologi yang memengaruhi kehidupan kita sehari-hari, tetapi juga dalam teknologi yang mengamatinya, termasuk sistem pengenalan ekspresi wajah. Perusahaan yang membuat dan menggunakan layanan yang diterapkan secara luas seperti itu mengandalkan apa yang disebut alat pelestarian privasi yang sering menggunakan jaringan adversarial generatif (GAN), biasanya diproduksi oleh pihak ketiga untuk menghapus gambar identitas individu. Tapi seberapa bagus mereka?

Para peneliti di NYU Tandon School of Engineering, yang mengeksplorasi kerangka kerja pembelajaran mesin di balik alat ini, menemukan bahwa jawabannya adalah “tidak terlalu”. Dalam makalah “Subverting Privacy-Preserving GANs: Hide Secrets in Sanitized Images,” yang dipresentasikan bulan lalu pada Konferensi AAAI ke-35 tentang Kecerdasan Buatan, tim yang dipimpin oleh Siddharth Garg, Profesor Asosiasi Institut teknik listrik dan komputer di NYU Tandon, menyelidiki apakah data pribadi masih dapat dipulihkan dari gambar yang telah “dibersihkan” oleh diskriminator pembelajaran mendalam seperti GAN yang melindungi privasi (PP-GAN) dan yang bahkan telah lulus uji empiris. Tim tersebut, termasuk penulis utama Kang Liu, seorang Ph.D. kandidat, dan Benjamin Tan, asisten profesor peneliti teknik elektro dan komputer, menemukan bahwa desain PP-GAN sebenarnya dapat disubversi untuk lolos pemeriksaan privasi, sementara masih memungkinkan informasi rahasia diekstraksi dari gambar yang sudah disterilkan.

Alat privasi berbasis pembelajaran mesin memiliki penerapan yang luas, berpotensi dalam domain sensitif privasi apa pun, termasuk menghapus informasi yang relevan dengan lokasi dari data kamera kendaraan, mengaburkan identitas orang yang menghasilkan sampel tulisan tangan, atau menghapus kode batang dari gambar. Desain dan pelatihan alat berbasis GAN dialihdayakan ke vendor karena kerumitannya.

“Banyak alat pihak ketiga untuk melindungi privasi orang yang mungkin muncul di kamera pengintai atau pengumpulan data menggunakan PP-GAN ini untuk memanipulasi gambar,” kata Garg. “Versi sistem ini dirancang untuk membersihkan gambar wajah dan data sensitif lainnya sehingga hanya informasi penting aplikasi yang dipertahankan. Sementara PP-GAN lawan kami melewati semua pemeriksaan privasi yang ada, kami menemukan bahwa itu sebenarnya menyembunyikan data rahasia yang berkaitan dengan data sensitif. atribut, bahkan memungkinkan untuk rekonstruksi gambar pribadi asli. “

Studi ini memberikan latar belakang tentang PP-GAN dan pemeriksaan privasi empiris terkait, merumuskan skenario serangan untuk menanyakan apakah pemeriksaan privasi empiris dapat ditumbangkan, dan menguraikan pendekatan untuk menghindari pemeriksaan privasi empiris.

  • Tim tersebut memberikan analisis keamanan komprehensif pertama dari GAN yang melindungi privasi dan menunjukkan bahwa pemeriksaan privasi yang ada tidak memadai untuk mendeteksi kebocoran informasi sensitif.
  • Dengan menggunakan pendekatan steganografi baru, mereka memodifikasi PP-GAN canggih untuk menyembunyikan rahasia (ID pengguna), dari gambar wajah yang konon sudah dibersihkan.
  • Mereka menunjukkan bahwa PP-GAN permusuhan yang mereka usulkan dapat berhasil menyembunyikan atribut sensitif dalam gambar keluaran yang “dibersihkan” yang lolos pemeriksaan privasi, dengan tingkat pemulihan rahasia 100%.

Memperhatikan bahwa metrik empiris bergantung pada kapasitas belajar diskriminator dan anggaran pelatihan, Garg dan kolaboratornya berpendapat bahwa pemeriksaan privasi semacam itu tidak memiliki ketelitian yang diperlukan untuk menjamin privasi.

“Dari sudut pandang praktis, hasil kami menunjukkan kehati-hatian terhadap penggunaan alat sanitasi data, dan khususnya PP-GAN, yang dirancang oleh pihak ketiga,” jelas Garg. “Hasil eksperimental kami menyoroti ketidakcukupan pemeriksaan privasi berbasis DL yang ada dan potensi risiko menggunakan alat PP-GAN pihak ketiga yang tidak tepercaya.”


Cara memalsukan rekam medis untuk mengurangi risiko privasi


Informasi lebih lanjut:
Siddharth Garg dkk, Menumbangkan GAN yang Menjaga Privasi: Menyembunyikan Rahasia di Gambar Sanitasi, arXiv: 2009.09283 [cs.CV] arxiv.org/abs/2009.09283

Disediakan oleh NYU Tandon School of Engineering

Kutipan: Peneliti menemukan bahwa alat pelestarian privasi membuat data pribadi tidak terlindungi (2021, 3 Maret) diambil pada 3 Maret 2021 dari https://techxplore.com/news/2021-03-privacy-preserving-tools-private-unprotected.html

Dokumen ini memiliki hak cipta. Selain dari transaksi yang adil untuk tujuan studi atau penelitian pribadi, tidak ada bagian yang boleh direproduksi tanpa izin tertulis. Konten tersebut disediakan untuk tujuan informasi saja.


Halaman Ini Di Persembahkan Oleh : Togel Singapore Hari Ini