Pengarang: Rajesh Verma
Awalnya diterbitkan di Towards AI the World’s Leading AI and Technology News and Media Company. Jika Anda sedang membangun produk atau layanan terkait AI, kami mengundang Anda untuk mempertimbangkan untuk menjadi sponsor AI. Di Towards AI, kami membantu menskalakan AI dan startup teknologi. Biarkan kami membantu Anda melepaskan teknologi Anda kepada massa.
Antarmuka Manusia-AI dan konsekuensinya.
Data dan penilaian melengkapi AI sebagai elemen inti pengambilan keputusan dalam perang dan keamanan nasional secara umum. Perilaku seperti manusia dari teknologi berbasis AI menimbulkan pertanyaan tentang antarmuka antara sains, teknologi, dan masyarakat. Penerapan teknologi ini di bidang keberlanjutan, perawatan kesehatan, penemuan ilmiah, dan pertahanan dapat membuat perbedaan besar dalam realisasi manfaat.
Dalam artikel ini, kami akan mengeksplorasi proses tata kelola yang dapat membuat output AI dapat dipercaya, peran data dan penilaian manusia dalam proses pengambilan keputusan, dan perkembangan ilmu otak yang memiliki masa depan yang menjanjikan tetapi perlu diatur.
Antarmuka Human-AI merupakan faktor penting dalam realisasi nilai AI.
Kecerdasan buatan
Teknologi AI memiliki potensi untuk membuka kemampuan untuk mendapatkan keunggulan operasional dan kompetitif. Dengan potensi juga muncul risiko yang menghambat adopsi dan membuatnya tidak layak secara ekonomi. Praktik tata kelola AI yang tepat diperlukan untuk memanfaatkan potensi pertumbuhan dan mengurangi risiko tanpa menjadi penghalang.
Tim Teknologi Informasi (TI) memainkan peran penting dalam mewujudkan kemampuan AI. Organisasi TI memiliki model tata kelola TI. Model tata kelola TI ini dapat didekomposisi menjadi praktik struktural, prosedural, dan relasional untuk mengatur data, kualitas data, dan keamanan data. Dengan mengotomatiskan tugas-tugas biasa, kompleks, dan berulang, manusia dapat berinteraksi dengan output AI untuk pengambilan keputusan yang lebih baik.
Penyederhanaan proses, de-fragmentasi toolset, dan adopsi toolset pra-aktif untuk mengatasi masalah di awal memberikan dasar untuk membangun kepercayaan pada AI. Pendekatan dasar ini akan secara signifikan meningkatkan kepercayaan diri dan kualitas data, sehingga meningkatkan proses dan keluaran AI.
AI akan membuat prediksi lebih murah dan meningkatkan pengambilan keputusan tetapi meningkatkan nilai data bersih & penilaian.
Data dan penilaian melengkapi AI sebagai elemen inti pengambilan keputusan dalam perang dan keamanan nasional secara umum. Kemampuan prediktif AI dapat mengoptimalkan utilitas fungsi tertentu. Namun penentuan fungsi utilitas apa yang harus dioptimalkan didasarkan pada penilaian manusia.
Berbeda dengan sektor swasta, aspek-aspek ini mungkin tidak murni dan sempit, sehingga mengharuskan manusia untuk mengambil prediksi AI sebagai salah satu sumber informasi untuk membuat keputusan yang tepat. Fokus pada AI melengkapi aspek penilaian manusia, yang dapat ditentang, dan nilai data, yang kualitasnya harus dibuktikan, membuat perang berbasis AI lebih berlarut-larut dan membingungkan.
Keberhasilan AI di sektor komersial dikaitkan dengan data yang bersih, penilaian terukur yang jelas, dan model tata kelola kelembagaan. Tidak ada badan institusional yang mengatur perang, datanya bisa murni kontekstual, dan penilaian harus mencakup faktor-faktor yang tidak ada di medan perang, seperti dialog politik, kelayakan ekonomi, dll. Pentingnya manusia adalah kunci dari keputusan berbasis kebijakan -proses pembuatan, di mana prediksi AI hanyalah salah satu sumber informasi.
AI memimpin pengembangan dalam sains, di tangan aktor yang buruk atau penggunaan yang tidak diatur dapat memiliki hasil buruk yang parah.
Otak sibernetik
Kemajuan di bidang AI memungkinkan perkembangan pesat di bidang ilmu otak. Penyebaran teknologi ini di bidang keberlanjutan, perawatan kesehatan, penemuan ilmiah, dan pertahanan dapat memiliki manfaat sosial yang sangat besar.
Namun, kemajuan di tangan aktor yang buruk atau penggunaan yang tidak diatur ini dapat memiliki hasil buruk yang parah seperti penyalahgunaan yang disengaja, salah tembak senjata otonom, dan peningkatan kognitif yang tidak tepat dengan peningkatan otak-komputer.
Tata kelola berbasis kebijakan dari inovasi luar biasa harus dirancang untuk mengelola dan memantau penggunaan AI dan penelitian ilmu otak. Perilaku seperti manusia dari teknologi berbasis AI menimbulkan pertanyaan tentang antarmuka antara sains, teknologi, dan masyarakat. Aspek etika dan tata kelola harus dibingkai di hulu dalam proses penelitian, dengan masukan dari masyarakat umum. Tingkat otonomi yang akan diberikan kepada agen AI harus ditentukan berdasarkan pembelajaran berkelanjutan dan keterlibatan dari beragam peserta.
Kesimpulan
Mengatasi konsekuensi politik, operasional, dan moral dari penggantian orang, mesin, dan proses dengan sistem otomatis sangat penting. Ini, bersama dengan keamanan siber & kerahasiaan informasi rahasia, harus diperlakukan sebagai domain pelengkap AI untuk melindungi dari spionase dan tindakan rahasia.
Seperti disebutkan dalam Kebijakan AI: Dampak pada Keamanan Nasional, sifat multidimensi dan dampak AI dan inovasi terkait membuatnya sangat menantang dan menuntut pendekatan multi-cabang dengan rasa urgensi.
Kebijakan AI bersifat kompleks dan akan memiliki cakupan yang luas mulai dari pertahanan, makanan, air, gas, listrik, kesehatan, keuangan, transportasi, penelitian, rantai pasokan, pemerintah, dan banyak aktivitas lain yang dilakukan manusia. Oleh karena itu, penting bagi kebijakan untuk berkembang dengan fokus pada antarmuka Human-AI.
Referensi
Papagiannidis, Emmanouil, Ida Merete Enholm, Chirstian Dremel, Patrick Mikalef, dan John Krogstie. 2022. “Menuju Tata Kelola AI: Mengidentifikasi Praktik Terbaik dan Potensi Hambatan dan Hasil.” Batasan Sistem Informasi : Jurnal Riset dan Inovasi. Dordrecht, Belanda : Penerbit Kluwer Academic. https://doi.org/10.1007/s10796-022-10251-y. Goldfarb, Avi, dan Jon R. Lindsay. 2021. “Prediksi dan Penghakiman: Mengapa Kecerdasan Buatan Meningkatkan Pentingnya Manusia dalam Perang,” Keamanan Internasional 46, 46, no. 3: 7–50. https://doi.org/10.1162/isec_a_00425. Doya, Kenji, Arisa Ema, Hiroaki Kitano, Masamichi Sakagami, and Stuart Russell. 2022. “Dampak Sosial dan Tata Kelola AI dan Neuroteknologi,” Neural Networks 152, 152: 542–54. https://doi.org/10.1016/j.neunet.2022.05.012.
Kebijakan AI: Peran Teknologi awalnya diterbitkan di Towards AI on Medium, di mana orang-orang melanjutkan percakapan dengan menyoroti dan menanggapi cerita ini.
Diterbitkan melalui Menuju AI
