Google memimpin eksperimen manusia yang luas dan terselubung. Anda mungkin salah satu kelinci percobaan
Security

Google memimpin eksperimen manusia yang luas dan terselubung. Anda mungkin salah satu kelinci percobaan


Kredit: Shutterstock

Pada 13 Januari Australian Financial Review melaporkan Google telah menghapus beberapa konten berita Australia dari hasil penelusurannya untuk beberapa pengguna lokal.

Berbicara kepada Guardian, juru bicara Google mengonfirmasi bahwa perusahaan “menjalankan beberapa eksperimen yang masing-masing akan menjangkau sekitar 1% pengguna Google Penelusuran di Australia untuk mengukur dampak bisnis berita dan Google Penelusuran satu sama lain”.

Jadi, apa itu “eksperimen”? Dan seberapa peduli kita seharusnya tentang tindakan Google?

Merekayasa perhatian kita

Eksperimen Google (yang seharusnya berjalan hingga awal Februari) melibatkan menampilkan peringkat situs berita “alternatif” untuk pengguna Australia tertentu — setidaknya 160.000, menurut The Guardian.

Seorang juru bicara Google memberi tahu The Conversation bahwa eksperimen tersebut tidak mencegah pengguna (yang sedang diujicobakan) untuk mengakses berita. Sebaliknya, mereka tidak akan menemukan cerita melalui Penelusuran dan harus mengaksesnya dengan cara lain, seperti langsung di situs web penerbit.

Eksperimen Google adalah bentuk “pengujian A / B”, yang secara klasik melibatkan pembagian populasi secara acak menjadi dua — ke dalam grup A dan B — dan memberikan setiap grup ke “stimulus” yang berbeda.

Misalnya, dalam kasus desain web, kedua grup dapat disajikan dengan tata letak web yang berbeda. Ini dapat dilakukan untuk menguji perubahan pada tata letak, skema warna, atau elemen lainnya.

Performa dalam pengujian A / B dinilai berdasarkan berbagai faktor, seperti link mana yang diklik pertama kali, atau waktu rata-rata yang dihabiskan di halaman. Jika grup A membaca situs lebih lama dari grup B, modifikasi yang diuji pada grup A dapat dianggap menguntungkan.

Dalam kasus Google, kami tidak tahu motivasi di balik pengujian tersebut. Namun kami tahu bahwa sebagian kecil pengguna menerima hasil yang berbeda dengan mayoritas dan tidak diberi tahu.

Eksperimen tersebut telah menghasilkan promosi sumber berita yang meragukan daripada yang tepercaya, beberapa di antaranya diketahui mempublikasikan disinformasi (yang bermaksud menyesatkan) dan misinformasi (klaim palsu yang tersebar terlepas dari niatnya).

Ketika ditanya tentang peringkat ini, juru bicara Google mengatakan itu adalah “satu tangkapan layar anekdot” dan eksperimen tersebut tidak “menghapus hasil yang tertaut ke departemen dan lembaga resmi pemerintah.”

Bermaksud untuk memanipulasi

Pengujian A / B adalah praktik yang tersebar luas. Ini dapat berkisar dari cukup jinak — seperti menentukan lokasi terbaik untuk spanduk iklan — hingga yang jauh lebih invasif, seperti eksperimen suasana hati Facebook yang terkenal.

Pada Januari 2012, Facebook melakukan percobaan pada 700.000 pengguna tanpa sepengetahuan atau persetujuan eksplisit mereka. Ini menyesuaikan umpan pengguna untuk secara artifisial meningkatkan konten berita positif atau negatif.

Satu tujuan yang dilaporkan, menurut peneliti Facebook sendiri, adalah untuk memeriksa apakah keadaan emosional dapat menyebar dari pengguna ke pengguna di platform. Hasil dilaporkan di Prosiding National Academy of Sciences.

Setelah publikasi laporan tersebut, “eksperimen” Facebook secara luas dikutuk oleh akademisi, jurnalis dan publik sebagai sesuatu yang meragukan secara etis. Itu memiliki tujuan khusus untuk memanipulasi pengguna secara emosional dan tidak mendapatkan persetujuan.

Demikian pula, tidak mungkin pengguna yang terperangkap di tengah eksperimen berita Google Australia akan menyadarinya.

Dan sementara risiko langsung bagi mereka yang sedang diuji mungkin tampak lebih rendah dibandingkan dengan eksperimen suasana hati Facebook, mengubah hasil berita di Google Penelusuran memperkenalkan serangkaian risikonya sendiri. Seperti yang ditunjukkan oleh penelitian rekan saya dan saya, platform dan media berita sama-sama memainkan peran besar dalam menyebarkan teori konspirasi.

Google mencoba mengecilkan signifikansi eksperimen tersebut, mencatat bahwa eksperimen tersebut melakukan “puluhan ribu eksperimen di Google Penelusuran” setiap tahun.

Tapi ini tidak membebaskan perusahaan dari pengawasan. Jika ada, itu bahkan lebih memprihatinkan.

Bayangkan jika seorang petugas polisi menghentikan Anda karena ngebut dan Anda berkata: “Ya, saya ngebut ribuan kali setiap tahun, jadi mengapa saya harus membayar denda hanya sekali ini saja saya tertangkap?”

Jika ini hanya satu dari puluhan ribu eksperimen, seperti yang diakui Google, dengan cara lain apa kita telah dimanipulasi di masa lalu? Tanpa pengungkapan dasar, sulit untuk diketahui.

Sejarah non-disclosure

Ini bukan pertama kalinya Google kedapatan bereksperimen pada pengguna tanpa pengungkapan yang memadai. Pada tahun 2018, perusahaan tersebut merilis Google Duplex, asisten digital berkemampuan ucapan yang konon dapat membuat pemesanan restoran dan layanan pribadi lainnya atas nama pengguna.

Dalam demo Duplex, Google memutar audio dari agen wicara yang mendukung AI yang membuat pemesanan melalui percakapan dengan pekerja layanan nyata. Apa yang hilang dari panggilan tersebut, bagaimanapun, adalah pengungkapan bahwa agen yang membuka panggilan tersebut adalah bot, bukan manusia.

Kritikus mempertanyakan tipu daya teknologi, mengingat peniruannya terhadap ucapan manusia.

Pemecatan kontroversial Google terhadap peneliti etika AI terkemuka dunia, Timnit Gebru (mantan wakil ketua tim AI etisnya) pada bulan Desember semakin membayangi budaya internal perusahaan.

Apa yang perlu diubah?

Platform media digital termasuk Google, Facebook, Netflix dan Amazon (antara lain) memberikan kekuatan yang sangat besar dalam hidup kita. Mereka juga memiliki pengaruh politik yang luas.

Bukan kebetulan eksperimen peringkat berita Google terjadi dengan latar belakang perdebatan kode tawar media berita yang meningkat, di mana pemerintah federal ingin Google dan Facebook bernegosiasi dengan penyedia berita Australia untuk membayar penggunaan konten mereka.

Juru bicara Google mengonfirmasi eksperimen tersebut “secara langsung terkait dengan kebutuhan untuk mengumpulkan informasi untuk digunakan dalam proses arbitrase, jika kode tersebut menjadi undang-undang.”

Meskipun pengguna mendapat manfaat dari layanan yang disediakan oleh teknologi besar, kami perlu menghargai bahwa kami lebih dari sekadar konsumen layanan ini. Data yang kami hilangkan adalah masukan penting untuk mesin algoritmik besar-besaran yang dijalankan di inti perusahaan seperti Google.

Hasilnya adalah apa yang oleh para sarjana media digital disebut sebagai “budaya algoritmik”. Kami memberi mesin ini data kami dan dalam proses menyesuaikannya dengan selera kami. Sementara itu, mereka memberi kita lebih banyak hal untuk dikonsumsi, dalam lingkaran algoritme mesin-manusia raksasa.

Hingga baru-baru ini, kami telah menjadi peserta yang tidak kritis dalam loop dan eksperimen algoritmik ini, yang bersedia menggunakan layanan “gratis” untuk ditukar dengan data kami. Tapi kita perlu memikirkan kembali hubungan kita dengan platform dan harus menjaga mereka pada standar akuntabilitas yang lebih tinggi.

Pemerintah harus mengamanatkan standar pengungkapan minimum untuk pengujian pengguna platform. Pengujian A / B oleh platform masih dapat dilakukan dengan baik dengan pengungkapan yang memadai, pengawasan, dan opsi keikutsertaan.

Dalam kasus Google, “melakukan hal yang benar” berarti mengadopsi standar perilaku etis yang lebih tinggi dalam hal pengujian pengguna.


Google membombardir pengguna pencarian Australia saat kampanye PR meningkat


Disediakan oleh The Conversation

Artikel ini diterbitkan ulang dari The Conversation di bawah lisensi Creative Commons. Baca artikel aslinya.The Conversation

Kutipan: Google memimpin eksperimen manusia yang luas dan terselubung. Anda mungkin salah satu kelinci percobaan (2021, 29 Januari) diambil 29 Januari 2021 dari https://techxplore.com/news/2021-01-google-vast-covert-human-guinea.html

Dokumen ini memiliki hak cipta. Selain dari transaksi yang adil untuk tujuan studi atau penelitian pribadi, tidak ada bagian yang boleh direproduksi tanpa izin tertulis. Konten disediakan untuk tujuan informasi saja.


Halaman Ini Di Persembahkan Oleh : Togel Singapore Hari Ini