Kami tidak akan bisa mengendalikan mesin superintelligent
Sciences

Kami tidak akan bisa mengendalikan mesin superintelligent


Memberi AI dengan tujuan mulia tidak dapat mencegah konsekuensi yang tidak diinginkan. Kredit: Iyad Rahwan

Kami terpesona oleh mesin yang dapat mengontrol mobil, membuat simfoni, atau mengalahkan orang dalam catur, Go, atau Jeopardy! Sementara lebih banyak kemajuan dibuat sepanjang waktu dalam Artificial Intelligence (AI), beberapa ilmuwan dan filsuf memperingatkan bahaya AI superintelligent yang tidak terkendali. Dengan menggunakan kalkulasi teoretis, tim peneliti internasional, termasuk ilmuwan dari Pusat Manusia dan Mesin di Institut Max Planck untuk Pembangunan Manusia, menunjukkan bahwa tidak mungkin mengendalikan AI yang superintelijen.

Misalkan seseorang memprogram sistem AI dengan kecerdasan yang lebih tinggi dari manusia, sehingga dapat belajar secara mandiri. Terhubung ke Internet, AI mungkin memiliki akses ke semua data umat manusia. Itu bisa menggantikan semua program yang ada dan mengendalikan semua mesin online di seluruh dunia. Apakah ini akan menghasilkan utopia atau distopia? Akankah AI menyembuhkan kanker, mewujudkan perdamaian dunia, dan mencegah bencana iklim? Atau akankah itu menghancurkan umat manusia dan mengambil alih Bumi?

Ilmuwan dan filsuf komputer telah bertanya pada diri sendiri apakah kita bahkan dapat mengendalikan AI superintelligent sama sekali, untuk memastikan itu tidak akan menimbulkan ancaman bagi umat manusia. Sebuah tim ilmuwan komputer internasional menggunakan kalkulasi teoretis untuk menunjukkan bahwa pada dasarnya mustahil untuk mengendalikan AI super cerdas

“Mesin super cerdas yang mengontrol dunia terdengar seperti fiksi ilmiah. Tapi sudah ada mesin yang melakukan tugas penting tertentu secara mandiri tanpa pemrogram memahami sepenuhnya bagaimana mereka mempelajarinya. Oleh karena itu, muncul pertanyaan apakah ini bisa menjadi tidak terkendali dan berbahaya bagi kemanusiaan, “kata rekan penulis studi Manuel Cebrian, Pemimpin Grup Mobilisasi Digital di Pusat Manusia dan Mesin, Institut Max Planck untuk Pembangunan Manusia.

Para ilmuwan telah mengeksplorasi dua gagasan berbeda tentang bagaimana AI superintelligent dapat dikendalikan. Di satu sisi, kemampuan AI superintelligent dapat dibatasi secara khusus, misalnya, dengan menutupinya dari Internet dan semua perangkat teknis lainnya sehingga tidak dapat berhubungan dengan dunia luar — namun ini akan membuat AI superintelligent secara signifikan menjadi kurang kuat. , kurang bisa menjawab misi humaniora. Karena tidak memiliki opsi itu, AI dapat dimotivasi sejak awal untuk hanya mengejar tujuan yang menjadi kepentingan terbaik umat manusia, misalnya dengan memprogram prinsip-prinsip etika ke dalamnya. Namun, para peneliti juga menunjukkan bahwa ini dan ide kontemporer dan historis lainnya untuk mengendalikan AI super cerdas memiliki batasnya.

Dalam studi mereka, tim menyusun algoritme penahanan teoretis yang memastikan AI superintelligent tidak dapat membahayakan orang dalam keadaan apa pun, dengan mensimulasikan perilaku AI terlebih dahulu dan menghentikannya jika dianggap berbahaya. Tetapi analisis yang cermat menunjukkan bahwa dalam paradigma komputasi kita saat ini, algoritme semacam itu tidak dapat dibangun.

“Jika Anda memecah masalah menjadi aturan dasar dari ilmu komputer teoretis, ternyata algoritme yang akan memerintahkan AI untuk tidak menghancurkan dunia dapat secara tidak sengaja menghentikan operasinya sendiri. Jika ini terjadi, Anda tidak akan tahu apakah algoritme penahanan masih menganalisis ancaman, atau apakah telah berhenti untuk menahan AI berbahaya. Akibatnya, ini membuat algoritme penahanan tidak dapat digunakan, “kata Iyad Rahwan, Direktur Pusat Manusia dan Mesin.

Berdasarkan perhitungan ini, masalah kontainmen tidak dapat dihitung, yaitu tidak ada algoritma tunggal yang dapat menemukan solusi untuk menentukan apakah suatu AI akan menyebabkan kerusakan pada dunia. Lebih jauh, para peneliti menunjukkan bahwa kita bahkan mungkin tidak tahu kapan mesin superintelligent telah tiba, karena memutuskan apakah sebuah mesin menunjukkan kecerdasan yang lebih tinggi daripada manusia berada di ranah yang sama dengan masalah penahanan.

Studi, “Superintelligence tidak dapat terkandung: Lessons from Computability Theory,” diterbitkan di Jurnal Penelitian Kecerdasan Buatan.


Apa yang membuat kecerdasan manusia luar biasa? Jawabannya mungkin tersembunyi di dalam game ini


Informasi lebih lanjut:
Manuel Alfonseca dkk. Superintelligence Tidak Dapat Diisi: Pelajaran dari Teori Komputasi, Jurnal Penelitian Kecerdasan Buatan (2021). DOI: 10.1613 / jair.1.12202

Disediakan oleh Max Planck Society

Kutipan: Kami tidak akan dapat mengontrol mesin superintelligent (2021, 11 Januari) diambil 11 Januari 2021 dari https://techxplore.com/news/2021-01-wouldnt-superintelligent-machines.html

Dokumen ini memiliki hak cipta. Selain dari transaksi yang adil untuk tujuan studi atau penelitian pribadi, tidak ada bagian yang boleh direproduksi tanpa izin tertulis. Konten disediakan untuk tujuan informasi saja.


Halaman Ini Di Persembahkan Oleh : Hongkong Prize