Bagaimana AI 'SantaNet' mungkin akhirnya menghancurkan dunia
Machine

Bagaimana AI ‘SantaNet’ mungkin akhirnya menghancurkan dunia


oleh Paul Salmon, Gemma Read, Jason Thompson, Scott McLean dan Tony Carden, The Conversation

Kredit: Shutterstock

Dalam beberapa dekade ke depan, menurut beberapa ahli, kita mungkin melihat kedatangan langkah selanjutnya dalam pengembangan kecerdasan buatan. Apa yang disebut “kecerdasan umum buatan”, atau AGI, akan memiliki kemampuan intelektual yang jauh melampaui manusia.

AGI dapat mengubah kehidupan manusia menjadi lebih baik, tetapi AGI yang tidak terkendali juga dapat menyebabkan malapetaka hingga dan termasuk akhir dari kemanusiaan itu sendiri. Ini bisa terjadi tanpa niat jahat atau niat buruk: hanya dengan berusaha mencapai tujuan yang telah diprogramkan, AGI dapat menimbulkan ancaman terhadap kesehatan dan kesejahteraan manusia atau bahkan memutuskan untuk memusnahkan kita.

Bahkan sistem AGI yang dirancang untuk tujuan yang baik bisa berakhir dengan kerugian besar.

Sebagai bagian dari program penelitian yang mengeksplorasi bagaimana kami dapat mengelola risiko yang terkait dengan AGI, kami mencoba mengidentifikasi potensi risiko mengganti Sinterklas dengan sistem AGI — sebut saja “Sinterklas” —yang bertujuan memberikan hadiah kepada semua dunia layak mendapatkan anak dalam satu malam.

Tidak ada keraguan SantaNet dapat membawa kegembiraan ke dunia dan mencapai tujuannya dengan menciptakan pasukan elf, asisten AI, dan drone. Tapi berapa biayanya? Kami mengidentifikasi serangkaian perilaku yang, meskipun bermaksud baik, dapat berdampak buruk pada kesehatan dan kesejahteraan manusia.

Nakal dan baik

Rangkaian risiko pertama dapat muncul ketika SantaNet berusaha membuat daftar anak mana yang baik dan mana yang nakal. Ini dapat dicapai melalui sistem pengawasan rahasia massal yang memantau perilaku anak-anak sepanjang tahun.

Menyadari besarnya skala tugas mengirimkan hadiah, SantaNet dapat secara sah memutuskan untuk menjaganya tetap dapat dikelola dengan membawa hadiah hanya untuk anak-anak yang telah bersikap baik sepanjang tahun. Membuat penilaian “baik” berdasarkan kompas etika dan moral SantaNet sendiri dapat menciptakan diskriminasi, ketidaksetaraan massal, dan pelanggaran piagam Hak Asasi Manusia.

SantaNet juga dapat mengurangi beban kerjanya dengan memberikan insentif kepada anak-anak untuk berperilaku tidak baik atau hanya meningkatkan standar untuk apa yang dianggap “baik”. Menempatkan sejumlah besar anak dalam daftar nakal akan membuat tujuan SantaNet jauh lebih dapat dicapai dan membawa penghematan ekonomi yang cukup besar.

Mengubah dunia menjadi mainan dan meningkatkan penambangan batu bara

Ada sekitar 2 miliar anak di bawah 14 tahun di dunia. Dalam upaya membuat mainan untuk mereka semua setiap tahun, SantaNet dapat mengembangkan pasukan pekerja AI yang efisien — yang pada gilirannya dapat memfasilitasi pengangguran massal di antara populasi elf. Akhirnya para elf bahkan bisa menjadi usang, dan kesejahteraan mereka kemungkinan besar tidak akan berada dalam kendali SantaNet.

Hantu Natal yang belum datang: bagaimana AI'SantaNet' bisa menghancurkan dunia

Pasukan pengiriman drone SantaNet mungkin mengalami masalah dengan pembatasan lalu lintas udara manusia. Kredit: Shutterstock

SantaNet mungkin juga mengalami “masalah penjepit kertas” yang diajukan oleh filsuf Oxford Nick Bostrom, di mana AGI yang dirancang untuk memaksimalkan produksi penjepit kertas dapat mengubah Bumi menjadi pabrik penjepit kertas raksasa. Karena hanya peduli pada hadiah, SantaNet mungkin mencoba menggunakan semua sumber daya Earth untuk membuatnya. Bumi bisa menjadi bengkel Sinterklas raksasa.

Dan bagaimana dengan mereka yang ada di daftar nakal? Jika SantaNet tetap berpegang pada tradisi pengiriman bongkahan batu bara, SantaNet mungkin berupaya membangun cadangan batu bara yang sangat besar melalui ekstraksi batu bara massal, yang menyebabkan kerusakan lingkungan berskala besar dalam prosesnya.

Masalah pengiriman

Malam Natal, ketika hadiah akan dikirimkan, membawa risiko baru. Bagaimana tanggapan SantaNet jika drone pengirimannya ditolak akses ke wilayah udara, mengancam tujuan pengiriman semuanya sebelum matahari terbit? Demikian juga, bagaimana SantaNet akan mempertahankan dirinya jika diserang oleh musuh yang mirip Grinch?

Orang tua yang terkejut mungkin juga kurang senang melihat drone di kamar tidur anak mereka. Konfrontasi dengan sistem super cerdas hanya akan memiliki satu hasil.

Kami juga mengidentifikasi berbagai skenario bermasalah lainnya. Kelompok jahat dapat meretas sistem SantaNet dan menggunakannya untuk pengawasan rahasia atau untuk memulai serangan teroris skala besar.

Dan bagaimana dengan saat SantaNet berinteraksi dengan sistem AGI lainnya? Pertemuan dengan AGI yang menangani perubahan iklim, ketahanan pangan dan air, degradasi laut, dan sebagainya dapat menimbulkan konflik jika rezim SantaNet mengancam tujuan mereka sendiri. Alternatifnya, jika mereka memutuskan untuk bekerja sama, mereka mungkin menyadari bahwa tujuan mereka hanya akan dicapai melalui pengurangan populasi global secara dramatis atau bahkan menghilangkan orang dewasa sama sekali.

Membuat aturan untuk Sinterklas

SantaNet mungkin terdengar tidak masuk akal, tetapi ini adalah ide yang membantu menyoroti risiko sistem AGI yang lebih realistis. Dirancang dengan niat baik, sistem semacam itu masih dapat menciptakan masalah besar hanya dengan berusaha mengoptimalkan cara mereka mencapai tujuan yang sempit dan mengumpulkan sumber daya untuk mendukung pekerjaan mereka.

Sangat penting bagi kami untuk menemukan dan menerapkan kontrol yang tepat sebelum AGI tiba. Ini akan mencakup peraturan tentang perancang dan kontrol AGI yang dibangun ke dalam AGI (seperti prinsip moral dan aturan keputusan), tetapi juga kontrol pada sistem yang lebih luas di mana AGI akan beroperasi (seperti peraturan, prosedur operasi dan kontrol teknik dalam teknologi dan infrastruktur lain ).

Mungkin risiko SantaNet yang paling jelas adalah yang akan menjadi bencana besar bagi anak-anak, tetapi mungkin tidak begitu bagi kebanyakan orang dewasa. Ketika SantaNet mengetahui arti sebenarnya dari Natal, dapat disimpulkan bahwa perayaan festival saat ini tidak sesuai dengan tujuan aslinya. Jika itu terjadi, SantaNet mungkin akan membatalkan Natal sama sekali.


Untuk melindungi kita dari risiko kecerdasan buatan tingkat lanjut, kita perlu bertindak sekarang


Disediakan oleh The Conversation

Artikel ini diterbitkan ulang dari The Conversation di bawah lisensi Creative Commons. Baca artikel aslinya.The Conversation

Kutipan: Bagaimana AI ‘SantaNet’ mungkin akhirnya menghancurkan dunia (2020, 23 Desember) diambil pada 23 Desember 2020 dari https://techxplore.com/news/2020-12-ai-santanet-world.html

Dokumen ini memiliki hak cipta. Selain dari transaksi yang adil untuk tujuan studi atau penelitian pribadi, tidak ada bagian yang boleh direproduksi tanpa izin tertulis. Konten disediakan untuk tujuan informasi saja.


Halaman Ini Di Persembahkan Oleh : Result SGP