Keluarnya peneliti Google AI memicu etika, kekhawatiran bias
Bisnis

Keluarnya peneliti Google AI memicu etika, kekhawatiran bias


Kamis ini, 3 Januari 2013, file foto menunjukkan kantor pusat Google di Mountain View, California. Sarjana kecerdasan buatan terkemuka Timnit Gebru membantu meningkatkan citra publik Google sebagai perusahaan yang mengangkat ilmuwan komputer Black dan mempertanyakan penggunaan teknologi AI yang berbahaya. (Foto AP / Marcio Jose Sanchez, File)

Pakar kecerdasan buatan terkemuka Timnit Gebru membantu meningkatkan citra publik Google sebagai perusahaan yang mengangkat ilmuwan komputer Black dan mempertanyakan penggunaan berbahaya teknologi AI.

Namun secara internal, Gebru, pemimpin di bidang etika AI, tidak malu menyuarakan keraguan tentang komitmen tersebut — sampai dia dikeluarkan dari perusahaan minggu ini dalam perselisihan mengenai makalah penelitian yang memeriksa bahaya sosial dari cabang AI.

Gebru mengumumkan di Twitter bahwa dia dipecat. Google memberi tahu karyawan bahwa dia mengundurkan diri. Lebih dari 1.200 karyawan Google telah menandatangani surat terbuka yang menyebut insiden itu sebagai “sensor penelitian yang belum pernah terjadi sebelumnya” dan menyalahkan perusahaan atas rasisme dan sikap defensif.

Kehebohan atas kepergian mendadak Gebru adalah insiden terbaru yang menimbulkan pertanyaan tentang apakah Google telah menyimpang sejauh ini dari moto aslinya “Jangan Menjadi Jahat” sehingga perusahaan sekarang secara rutin memecat karyawan yang berani menantang manajemen. Keluarnya Gebru, yang berkulit hitam, juga meningkatkan keraguan lebih lanjut tentang keragaman dan inklusi di perusahaan di mana perempuan kulit hitam hanya menyumbang 1,6% dari angkatan kerja.

Dan itu mengungkap kekhawatiran di luar Google tentang apakah upaya mencolok di AI etis — mulai dari perintah eksekutif Gedung Putih minggu ini hingga tim peninjau etika yang dibentuk di seluruh industri teknologi — tidak banyak gunanya ketika kesimpulan mereka mungkin mengancam keuntungan atau kepentingan nasional.

Gebru telah menjadi bintang di dunia etika AI yang menghabiskan karir teknologi awalnya dengan mengerjakan produk Apple dan mendapatkan gelar doktornya mempelajari visi komputer di Laboratorium Kecerdasan Buatan Stanford.

Dia salah satu pendiri grup Black in AI, yang mempromosikan pekerjaan dan kepemimpinan Kulit Hitam di lapangan. Dia dikenal karena studi penting tahun 2018 yang menemukan bias rasial dan gender dalam perangkat lunak pengenalan wajah.

Gebru baru-baru ini mengerjakan makalah yang meneliti risiko pengembangan sistem komputer yang menganalisis database besar bahasa manusia dan menggunakannya untuk membuat teks mirip manusia mereka sendiri. Makalah, yang salinannya diperlihatkan kepada The Associated Press, menyebutkan teknologi baru Google sendiri, digunakan dalam bisnis pencariannya, serta yang dikembangkan oleh orang lain.

Selain menandai potensi bahaya bias, makalah itu juga mengutip biaya lingkungan akibat menghabiskan begitu banyak energi untuk menjalankan model — masalah penting di sebuah perusahaan yang membual tentang komitmennya untuk menjadi netral karbon sejak 2007 karena berusaha untuk menjadi lebih hijau.

Manajer Google memiliki kekhawatiran tentang kelalaian dalam pekerjaan dan waktunya, dan ingin nama karyawan Google dicabut dari penelitian, tetapi Gebru keberatan, menurut pertukaran email yang dibagikan dengan AP dan yang pertama ikut menulis studi pengenalan wajah 2018 dengan Gebru.

“Dia berhak mendapatkan lebih dari yang Google tahu bagaimana memberi, dan sekarang dia adalah agen gratis all-star yang akan terus mengubah industri teknologi,” kata Buolamwini melalui email, Jumat.

Bagaimana Google akan menangani inisiatif etika AI-nya dan perbedaan pendapat internal yang dipicu oleh keluarnya Gebru adalah salah satu dari sejumlah masalah yang dihadapi perusahaan menjelang tahun baru.

Pada saat yang sama dia akan keluar, Dewan Hubungan Perburuhan Nasional pada hari Rabu memberikan sorotan lain pada tempat kerja Google. Dalam sebuah pengaduan, NRLB menuduh perusahaan memata-matai karyawan selama upaya 2019 untuk mengatur serikat pekerja sebelum perusahaan memecat dua pekerja aktivis karena terlibat dalam kegiatan yang diizinkan berdasarkan undang-undang AS. Google membantah tuduhan dalam kasus tersebut, yang dijadwalkan untuk sidang April.

Google juga telah dilemparkan sebagai pengganggu keuntungan oleh Departemen Kehakiman AS dalam gugatan antimonopoli yang menuduh perusahaan tersebut telah secara ilegal menyalahgunakan kekuatan mesin pencari dominannya dan layanan digital populer lainnya untuk membungkam persaingan. Perusahaan juga menyangkal melakukan kesalahan dalam pertarungan hukum itu, yang mungkin berlangsung selama bertahun-tahun.


Google mempekerjakan 10.000 pekerja di empat kota pada tahun 2025


© 2020 The Associated Press. Seluruh hak cipta. Materi ini tidak boleh dipublikasikan, disiarkan, ditulis ulang atau didistribusikan ulang tanpa izin.

Kutipan: Keluarnya peneliti Google AI memicu etika, kekhawatiran bias (2020, 5 Desember) diambil pada 5 Desember 2020 dari https://techxplore.com/news/2020-12-google-ai-exit-ethics-bias.html

Dokumen ini memiliki hak cipta. Selain dari transaksi yang adil untuk tujuan studi atau penelitian pribadi, tidak ada bagian yang boleh direproduksi tanpa izin tertulis. Konten disediakan untuk tujuan informasi saja.




Halaman Ini Di Persembahkan Oleh : Keluaran HK