Suatu keharusan untuk nonproliferasi nuklir, keamanan nasional
Spotlight

Suatu keharusan untuk nonproliferasi nuklir, keamanan nasional


AI yang Dapat Dijelaskan memungkinkan cara baru untuk mendukung misi jangka panjang dalam keamanan nasional, mulai dari mengurangi ancaman biologis dan kimiawi hingga mendeteksi dan memantau ledakan nuklir di seluruh dunia. Kredit: Timothy Holland / Laboratorium Nasional Pacific Northwest

Kita semua pernah bertemu orang-orang yang sangat cerdas dan berpengetahuan sehingga kita tidak mengerti apa yang mereka bicarakan. Penasihat investasi membahas derivatif, dokter menjelaskan tentang sel B dan sel T, mekanik mobil berbicara tentang mesin terkomputerisasi saat ini — kami memercayai keputusan mereka, meskipun kami tidak sepenuhnya memahami arti kata-kata mereka.

Seperti halnya dengan kecerdasan manusia mentah, begitu pula dengan kecerdasan buatan (AI). Kita mungkin tidak tahu persis apa yang terjadi di dalam kotak hitam rumit yang dibangun oleh manusia, tetapi keputusannya bisa begitu akurat sehingga mendapatkan kepercayaan kita, jika bukan pemahaman kita.

Itu tidak masalah jika keputusannya tidak terlalu penting. Apakah kita benar-benar perlu memahami, misalnya, cara kerja sistem AI yang menyortir ratusan foto kucing dan anjing dengan sempurna dalam waktu yang diperlukan untuk mengucapkan kata “kucing dan anjing”?

Mungkin tidak. Kehidupan manusia dan nasib bangsa tidak bergantung pada keputusan itu.

Tetapi kebutuhan untuk memahami meningkat ketika taruhannya lebih tinggi. Untuk masalah keamanan nasional yang diteliti di Pacific Northwest National Laboratory (PNNL), tidak cukup baik untuk mengetahui bahwa suatu sistem berfungsi; ilmuwan ingin tahu bagaimana dan mengapa.

AI yang Dapat Dijelaskan: Jalan menuju pemahaman

Itulah dasar dari bidang studi yang dikenal sebagai “AI yang dapat dijelaskan”. Tujuannya adalah untuk memahami dan menjelaskan alasan sistem — untuk mengurai untaian informasi yang digunakan sistem AI untuk membuat pilihan atau rekomendasi.

“Dalam ruang keamanan nasional, keputusan dibuat oleh orang-orang yang menuntut transparansi dengan teknologi yang mereka gunakan,” kata Angie Sheffield, seorang manajer program senior dengan Administrasi Keamanan Nuklir Nasional (NNSA) Departemen Energi.

Sheffield mengelola portofolio ilmu data di Kantor Riset dan Pengembangan Nonproliferasi Nuklir NNSA, juga dikenal sebagai Litbang DNN. Kantor tersebut mengawasi dan meningkatkan kemampuan negara untuk mendeteksi dan memantau produksi dan pergerakan bahan nuklir, pengembangan senjata, dan ledakan nuklir di seluruh dunia. Kantor tersebut mendukung pekerjaan tim ilmuwan PNNL yang sedang mengeksplorasi cara membuat AI dapat dijelaskan dengan cara baru.

AI ada di mana-mana saat ini, dari desain obat hingga pembelian online, sistem reservasi, dan daftar periksa risiko kesehatan. Tidak terkecuali ranah keamanan nasional, dengan tantangan analisis data yang luas dan kemampuan komputasi yang kuat. Taruhannya sangat tinggi dalam hal masalah nonproliferasi nuklir, dan mengetahui persis bagaimana sistem AI mencapai kesimpulannya sangat penting.

“Mungkin sulit untuk memasukkan teknologi baru dan mengganggu seperti AI ke dalam pendekatan ilmiah saat ini. Salah satu pendekatannya adalah membangun cara baru agar manusia dapat bekerja lebih efektif dengan AI,” kata Sheffield. “Kami harus membuat alat yang membantu pengembang memahami cara kerja teknik canggih ini sehingga kami dapat memanfaatkannya sepenuhnya.”

Data yang langka membuat AI yang dapat dijelaskan menjadi penting

Teknik paling umum untuk melatih sistem AI adalah menyajikannya dengan banyak data. Ketika ada foto wajah yang hampir tak terbatas tersedia, misalnya, sistem belajar banyak tentang nuansa yang melibatkan mata, hidung, dan mulut untuk menggunakan pengenalan wajah guna menentukan apakah Anda harus membuka ponsel dengan pandangan sekilas. Sistem AI mengandalkan ketersediaan dan input data dalam jumlah besar untuk memungkinkan sistem mengklasifikasikan informasi dengan benar.

Tapi — untungnya — data jauh lebih jarang dalam hal ledakan nuklir atau pengembangan senjata. Kabar baik itu memperumit tantangan penggunaan AI di ruang keamanan nasional, membuat pelatihan AI kurang dapat diandalkan dan memperkuat kebutuhan untuk memahami setiap langkah proses.

“Kami sedang bekerja untuk memahami mengapa sistem memberikan jawaban yang mereka lakukan,” kata Mark Greaves, seorang ilmuwan PNNL yang terlibat dalam penelitian tersebut. “Kami tidak dapat secara langsung menggunakan teknologi AI yang sama dengan yang digunakan Amazon untuk memutuskan bahwa saya siap membeli mesin pemotong rumput, untuk memutuskan apakah suatu negara siap untuk membuat senjata nuklir. Data yang tersedia di Amazon sangat besar, dan mesin pemotong rumput yang salah rekomendasi bukanlah masalah besar.

“Tetapi jika sistem AI menghasilkan probabilitas yang salah tentang apakah suatu negara memiliki senjata nuklir, itu adalah masalah dengan skala yang sama sekali berbeda. Jadi sistem kita setidaknya harus menghasilkan penjelasan sehingga manusia dapat memeriksa kesimpulannya dan menggunakan keahlian mereka sendiri untuk memperbaikinya. untuk celah pelatihan AI yang disebabkan oleh ketersebaran data, “Greaves menambahkan. “Kami terinspirasi oleh kemajuan besar yang terus dilakukan AI, dan kami bekerja untuk mengembangkan teknik AI baru dan terspesialisasi yang dapat memberi Amerika Serikat jendela tambahan dalam aktivitas proliferasi nuklir.”

Sedikit AI, sedikit pengetahuan domain

Sheffield mencatat bahwa kekuatan PNNL bersumber dari dua sumber. Salah satunya adalah pengalaman signifikan dalam AI; Ilmuwan PNNL sering menjadi presenter di konferensi yang juga menampilkan peneliti dari entitas seperti Google, Microsoft, dan Apple. Tetapi yang lainnya adalah pengetahuan domain — detail teknis yang dipahami oleh staf di PNNL tentang masalah seperti bagaimana plutonium diproses, jenis sinyal yang unik untuk pengembangan senjata nuklir, dan rasio isotop yang dihasilkan oleh bahan semacam itu.

Kombinasi ilmu data, kecerdasan buatan, dan pengalaman keamanan nasional memberi PNNL peran unik dalam melindungi bangsa di AI — ruang keamanan nasional. Ini menggabungkan kekuatan ilmiah mentah AI dengan kecerdasan jalanan yang tidak masuk akal dari detektif nuklir.

“Dibutuhkan seperangkat pengetahuan, keterampilan, dan kemampuan teknis khusus untuk memajukan keadaan seni dalam keamanan nasional,” kata Sheffield. “Konsekuensi dari apa yang kami lakukan sangat tinggi, dan kami harus melampaui praktik standar untuk bertanggung jawab.”


Mengamankan sumber radiologis saat bepergian


Disediakan oleh Laboratorium Nasional Pacific Northwest

Kutipan: AI yang dapat dijelaskan: Suatu keharusan untuk nonproliferasi nuklir, keamanan nasional (2021, 26 Februari) diambil pada 26 Februari 2021 dari https://techxplore.com/news/2021-02-ai-nuclear-nonproliferation-national.html

Dokumen ini memiliki hak cipta. Selain dari transaksi yang adil untuk tujuan studi atau penelitian pribadi, tidak ada bagian yang boleh direproduksi tanpa izin tertulis. Konten disediakan untuk tujuan informasi saja.


Halaman Ini Di Persembahkan Oleh : Pengeluaran SGP Hari Ini