Kasus untuk menjaga manusia tetap dalam lingkaran
Lain2

Studi menguraikan apa yang menciptakan bias rasial dalam teknologi pengenalan wajah


Kredit: CC0

Saat teknologi pengenalan wajah mulai digunakan secara lebih luas di seluruh dunia, lebih banyak perhatian diberikan pada ketidakseimbangan dalam performa teknologi di seluruh balapan.

Dalam sebuah penelitian yang dipublikasikan secara online pada 29 September di jurnal Transaksi IEEE pada Biometrik, Perilaku, dan Ilmu Identitas, peneliti dari The University of Texas di Dallas School of Behavioral and Brain Sciences (BBS) menguraikan faktor-faktor yang mendasari yang berkontribusi terhadap defisit ini dalam akurasi pengenalan wajah dan menawarkan panduan untuk menilai algoritme seiring dengan peningkatan teknologi.

Dr. Alice O’Toole, Profesor Aage dan Margareta Møller di BBS, adalah penulis senior studi tersebut, yang dia gambarkan sebagai “mendalam dan tidak memuaskan” karena menjelaskan skala tantangan.

“Semua orang mencari solusi sederhana, tetapi fakta bahwa kami menguraikan cara-cara berbeda di mana bias dapat terjadi — tidak satupun dari mereka yang saling eksklusif — menjadikan ini makalah peringatan,” katanya. “Jika Anda mencoba memperbaiki algoritme, perhatikan berapa banyak hal berbeda yang terjadi.”

Dalam sebuah studi tahun lalu yang dilakukan oleh National Institute for Standards and Technology (NIST), badan pemerintah menemukan bahwa mayoritas algoritma pengenalan wajah jauh lebih mungkin untuk salah mengidentifikasi ras minoritas daripada kulit putih, dengan orang Asia, Kulit Hitam dan Penduduk Asli Amerika khususnya yang berisiko. .

Sebagai hasil dari penelitian mereka, para ilmuwan UT Dallas menyimpulkan bahwa meskipun tidak ada solusi satu ukuran untuk semua untuk bias rasial dalam algoritma pengenalan wajah, ada pendekatan khusus yang dapat meningkatkan kinerja teknologi.

Mahasiswa doktoral ilmu psikologi Jacqueline Cavazos, penulis utama studi tersebut, membagi faktor yang berkontribusi terhadap bias menjadi dua kategori: berdasarkan data dan ditentukan secara operasional. Yang pertama memengaruhi kinerja algoritme itu sendiri, sedangkan yang terakhir berasal dari pengguna.

“Faktor-faktor yang digerakkan oleh data berpusat pada isu-isu yang paling sering berteori — bahwa kumpulan pelatihan gambar itu sendiri miring,” kata Cavazos. “Apakah gambar yang digunakan mewakili kelompok? Apakah gambar pelatihan memiliki kualitas yang sama di seluruh ras? Atau adakah sesuatu yang melekat tentang penghitungan algoritme representasi wajah yang berbeda antara kelompok ras?”

O’Toole menambahkan, “Diskusi kami tentang kesulitan gambar untuk bias rasial adalah topik yang relatif baru. Kami menunjukkan bahwa ketika pasangan gambar menjadi lebih sulit untuk dibedakan — karena kualitas berkurang — bias rasial menjadi lebih jelas. Itu belum ditunjukkan. sebelum.”

Cavazos menjelaskan bahwa bias operasional dapat diperkenalkan tergantung di mana ambang batas ditetapkan antara keputusan yang cocok dan tidak cocok, dan jenis gambar berpasangan apa yang dipilih.

“Makalah kami menegaskan apa yang telah ditunjukkan sebelumnya: Di mana Anda menetapkan kriteria untuk apa identitas yang sama versus identitas yang berbeda dapat mempengaruhi tingkat kesalahan, dan terkadang ambang yang sama akan memberi Anda tingkat kesalahan yang berbeda untuk ras yang berbeda,” kata Cavazos. “Kedua, Anda perlu memastikan bahwa saat Anda menguji algoritme, pasangan gambar yang memiliki identitas berbeda harus selalu dicocokkan dengan demografi; —ini meyakinkan kami bahwa akurasi identifikasi hanya didasarkan pada identitas. Peserta manusia diperlihatkan dua gambar dari orang yang berbeda dengan demografi yang cocok — ras yang sama, jenis kelamin yang sama, dan sebagainya. Jika algoritme tidak juga disajikan dalam pasangan yang serupa, kinerja algoritme dapat tampak lebih baik daripada yang sebenarnya karena tugas mesin lebih mudah. ​​”

Sementara studi tersebut menguraikan bagaimana bias rasial harus dievaluasi dalam penggunaan algoritma pengenalan wajah, para peneliti menekankan bahwa tidak ada solusi yang mudah untuk masalah tersebut.

“Salah satu hal baru tentang makalah ini adalah bagaimana ia menyatukan semua faktor ini,” kata O’Toole. “Pekerjaan sebelumnya berpusat pada masalah individu. Tapi Anda harus melihat semuanya untuk mengetahui cara terbaik menggunakan algoritme ini.”

O’Toole yakin penelitian mereka dapat membantu pengguna memahami algoritme mana yang diharapkan menunjukkan bias dan bagaimana berpotensi mengkalibrasi untuk bias tersebut.

“Misalnya, Anda dapat mengukur performa suatu algoritme dalam berbagai cara. Satu pengukuran mungkin menunjukkan bahwa algoritme tersebut bias ras, sementara yang lain mungkin tidak. Selain itu, algoritme dapat menjadi bias dengan cara yang belum Anda ukur secara eksplisit. , “Kata O’Toole. “Misalnya, satu ukuran mungkin secara langsung menunjukkan apakah algoritme dapat secara keliru menuduh orang yang tidak bersalah. Ini mungkin ditujukan untuk menentukan seberapa mirip orang dalam dua gambar harus muncul di mesin untuk menunjukkan bahwa mereka adalah orang yang sama. Lainnya Pengukuran mungkin berfokus pada berapa banyak identifikasi yang benar yang dibuat oleh algoritme. Pengukuran ini dibuat dari algoritme yang sama, tetapi dapat dengan mudah dipisahkan, mengarah pada bias dalam satu kasus dan kinerja yang setara di kasus lain. “

O’Toole mengatakan peneliti di bidangnya masih melawan mitos yang ada tentang bias pengenalan wajah. Salah satunya adalah anggapan bahwa bias adalah masalah khusus mesin.

“Melempar mesin ke luar jendela tidak akan membuat prosesnya adil; manusia memiliki kesulitan yang sama seperti yang dilakukan algoritme,” katanya.

Tantangan lainnya adalah mengatasi persepsi bahwa ras adalah deskriptor semua atau tidak sama sekali.

Ras tidak boleh dilihat sebagai kategori, atau seolah-olah ada daftar ras yang terbatas, kata O’Toole. “Sebenarnya, secara biologis, ras itu berkelanjutan, jadi tidak masuk akal untuk berpikir bahwa Anda dapat mengatakan ‘persamaan ras’ dan menyetel algoritme untuk dua ras. Ini mungkin merugikan orang-orang dari ras campuran.”

Sementara para ilmuwan setuju bahwa algoritma pengenalan wajah memiliki potensi untuk membantu jika seseorang tahu bagaimana menggunakannya — dan algoritma yang lebih baru telah memungkinkan kemajuan yang signifikan melawan bias rasial — mereka tahu masih banyak pekerjaan yang harus dilakukan.

“Ini bukan untuk mengatakan bahwa algoritme ini tidak boleh digunakan sekarang seperti saat ini. Tetapi ada faktor-faktor yang perlu dipertimbangkan, dan pengoperasian harus dilakukan dengan sangat hati-hati,” kata O’Toole. “Kami telah belajar banyak tentang kompleksitas masalah sehingga kami harus mengakui bahwa mungkin tidak akan pernah ada solusi untuk masalah yang membuat setiap wajah sama menantang dengan algoritme pengenalan wajah.”


Ahli kimia menunjukkan bagaimana bias dapat muncul dalam hasil algoritma pembelajaran mesin


Informasi lebih lanjut:
Jacqueline G. Cavazos dkk. Perbandingan akurasi di seluruh algoritme pengenalan wajah: Di mana kita mengukur bias ras ?, Transaksi IEEE pada Biometrik, Perilaku, dan Ilmu Identitas (2020). DOI: 10.1109 / TBIOM.2020.3027269

Disediakan oleh University of Texas di Dallas

Kutipan: Garis besar studi tentang apa yang menciptakan bias rasial dalam teknologi pengenalan wajah (2020, 7 Desember), diakses 7 Desember 2020 dari https://techxplore.com/news/2020-12-outlines-racial-bias-facial-recognition.html

Dokumen ini memiliki hak cipta. Selain dari transaksi yang adil untuk tujuan studi atau penelitian pribadi, tidak ada bagian yang boleh direproduksi tanpa izin tertulis. Konten disediakan untuk tujuan informasi saja.


Halaman Ini Di Persembahkan Oleh : https://joker123.asia/