Author(s): Jorge Alcántara Barroso
Awalnya diterbitkan di Menuju AI.
Kecanggihan, wawasan, dan saran untuk masa depan
AI dalam keamanan dunia maya industri bukanlah pertanyaan. Ini akan melindungi infrastruktur penting kita di dunia yang semakin terhubung. Dengan belajar dari contoh dunia nyata, mengatasi tantangan, dan memanfaatkan kemampuan AI, perusahaan & pemerintah harus dapat melindungi sistem mereka dan privasi kita. Tidak menggunakan alat ini akan merugikan pengguna atau warga negara mereka.
Sumber: Midjourney v5
Saat dunia kita yang saling terhubung semakin cepat dan teknologi memberdayakan pengembang untuk mencapai lebih banyak dengan sumber daya yang lebih sedikit, pentingnya keamanan siber Teknologi Operasional (OT) yang kuat dalam melindungi infrastruktur–seperti sektor energi, transportasi, dan komunikasi–tidak pernah sepenting ini. Penjahat dan aktor yang bermusuhan mengerahkan serangan yang semakin canggih dan bervolume tinggi. Kecerdasan Buatan (AI) telah muncul sebagai solusi pengubah permainan untuk meningkatkan kemampuan organisasi dalam mencegah serangan dunia maya industri & potensi aktor jahat untuk membuat kekacauan dalam sistem ini.
Lanskap Ancaman AI yang Berkembang
Seiring kemajuan teknologi, begitu pula ancaman yang harus dihadapi oleh industri keamanan siber. Beberapa ancaman mungkin tidak dianggap signifikan hingga serangan besar pertama terjadi. Tetap saja, kita dapat bersiap menghadapi ancaman tradisional yang sudah menjadi tantangan yang semakin besar karena AI:
Serangan Rekayasa Sosial yang Dipersonalisasi: Pengembangan model gambar dan bahasa generatif, seperti GPT-4 & Midjourney v5, memungkinkan serangan rekayasa sosial yang canggih dan dipersonalisasi yang masih otomatis. Penjahat dunia maya dapat menggunakan model AI ini untuk membuat email phishing yang sangat meyakinkan, menyamar sebagai individu tepercaya, atau menghasilkan penipuan sadar konteks, sehingga semakin mempersulit pengguna dan solusi keamanan untuk mendeteksi konten atau pola berbahaya untuk mengidentifikasi perilaku seperti bot. [1]
Pemindah Opini & Bahaya Biometrik: Penipu sekarang dapat dengan mudah menggunakan teknologi pemalsuan mendalam untuk membuat video atau gambar yang diarahkan untuk memanipulasi opini publik, memeras individu, atau bahkan melewati sistem keamanan pengenalan wajah. [2]
Senjata Cyber bertenaga AI: Karena model ini meningkatkan efisiensi dan akurasi, mereka dapat dipersenjatai untuk membuat malware tingkat lanjut atau vektor serangan. Musuh dapat menggunakan algoritme ML untuk mengoptimalkan serangan mereka seperti halnya perusahaan keamanan siber melakukan hal yang sama untuk mendeteksi ancaman dalam tarik ulur tanpa akhir, membuat mereka lebih efektif dalam menghindari deteksi dan meningkatkan tingkat keberhasilannya. [3]
Serangan Adversarial pada Sistem AI: Meningkatnya ketergantungan pada AI untuk langkah-langkah keamanan menimbulkan serangan permusuhan yang menargetkan sistem AI itu sendiri. Serangan ini sering melibatkan pengumpanan input yang menipu–atau injeksi cepat–ke model AI yang menyebabkannya salah mengklasifikasikan data, berperilaku tidak terduga, atau mengungkapkan informasi sensitif. Model-model baru yang sangat kami sukai juga memiliki potensi untuk dibodohi atau dimanipulasi oleh aktor jahat, merongrong integritas sistem yang mereka lindungi atau berinteraksi dengannya. [4]
Penemuan dan Eksploitasi Kerentanan Otomatis: Alat berbasis AI dapat digunakan untuk mengidentifikasi kerentanan dalam perangkat lunak dan infrastruktur lebih cepat daripada analis manusia. Setelah kerentanan ditemukan, model AI dapat digunakan untuk membuat eksploit yang disesuaikan atau meluncurkan serangan terkoordinasi, yang secara signifikan mengurangi waktu antara penemuan dan eksploitasi kerentanan. [5]
Bagaimana AI Merevolusi Keamanan Siber Industri
Meski begitu, tidak semuanya suram. Saat ancaman muncul, begitu juga alat untuk mengatasi masalah baru ini dan meningkatkan perlindungan terhadap serangan yang lebih tradisional. Teknologi berbasis AI telah menunjukkan keunggulan dalam mendeteksi dan merespons ancaman keamanan dibandingkan dengan metode tradisional. Mari jelajahi bersama berbagai cara AI mengubah sistem ini, beserta contoh dunia nyata yang dapat Anda pelajari mulai hari ini:
Deteksi Anomali dan Analisis Perilaku
AI memanfaatkan pembelajaran mesin untuk menganalisis volume data yang masif (jutaan peristiwa keamanan) dan mengidentifikasi pola (analisis perilaku), memungkinkan pencegahan serangan siber dan meningkatkan waktu respons.
Contoh Dunia Nyata: Darktrace, sebuah perusahaan keamanan siber, menggunakan AI untuk mendeteksi pola perilaku abnormal dalam sistem kontrol [6]. Alat bertenaga AI-nya dapat mengidentifikasi dan mencegah potensi serangan dunia maya sebelum mendatangkan malapetaka, dan jauh sebelum tim manusia dapat mendeteksi suatu masalah.
Pemeliharaan dan Pengoptimalan Prediktif
Solusi AI sudah memantau dan memprediksi kebutuhan industri, menjadwalkan pemeliharaan, dan mencegah masalah peralatan di masa mendatang yang dapat menyebabkan waktu henti produksi yang tidak terjadwal dan kerugian finansial yang signifikan atau lebih buruk. Serangan dunia maya jangka panjang pada infrastruktur mungkin terbatas pada penggunaan sumber daya yang berlebihan secara rutin untuk menghasilkan kegagalan sistem.
Contoh Dunia Nyata: Siemens menggunakan solusi berbasis AI untuk mengantisipasi kegagalan peralatan dan mengoptimalkan jadwal pemeliharaan di berbagai industri, seperti pembangkit listrik, minyak, gas, dan manufaktur [7]. Pendekatan ini mengurangi waktu henti dan biaya serta dapat membantu Anda melacak penyalahgunaan.
Otomatisasi Tugas Keamanan
Mengotomatiskan tugas keamanan, seperti pemantauan jaringan, aplikasi tambalan, serta pembuatan dan pembaruan aturan firewall, membebaskan analis keamanan untuk menangani tugas yang lebih kompleks.
Contoh Dunia Nyata: IBM’s Watson for Cyber Security [8] mengotomatiskan deteksi dan respons ancaman, memungkinkan analis untuk mengatasi ancaman prioritas tinggi dengan lebih efisien.
Menavigasi Implementasi AI
Lanskap ancaman yang berubah dengan cepat menuntut CISO (chief information security officer) untuk proaktif dan tetap terdepan, terutama dalam hal AI. Perusahaan harus mengenali kebutuhan CISO yang memahami AI untuk menghadapi tantangan yang muncul dari integrasi AI dalam keamanan siber industri. Mari kita lihat rintangan yang paling jelas:
Kualitas Data: AI sebaik data pelatihannya, penerapan apa pun yang menggunakan log atau data sensitif Anda untuk dipelajari akan menghadapi tantangan dalam menyeimbangkan jumlah, kualitas vs privasi, dan keamanan informasi internal Anda. Batasan statistik – Menangani Kepalsuan: Mengelola potensi kelebihan peringatan atau ancaman yang terlewatkan karena menghasilkan positif atau negatif palsu oleh AI yang diterapkan secara tidak benar. Pemasangan otomatis: Mengidentifikasi perubahan yang dilakukan pada proses industri tanpa campur tangan manusia (operator) oleh proses itu sendiri. Model-model tersebut dapat tumbuh untuk menyesuaikan dengan prioritas sejarah dan akan membutuhkan pengaturan ulang dan pengawasan manusia untuk menjaga perlindungan terhadap metode serangan lama yang mungkin menjadi tidak biasa. Siapa yang mengawasi penjaga? Menjaga dari penyerang yang menipu atau memanipulasi model atau algoritme itu sendiri. Lapisan perlindungan yang berpotensi merantai, di mana model yang lebih sederhana dapat memeriksa I/O dari model lain yang lebih canggih. Berapa biayanya? Biaya alat ini biasanya tidak dapat diabaikan. Model besar membutuhkan banyak daya komputasi dan vendor akan membebankan semua biaya dan lebih banyak lagi kepada klien. Perusahaan Anda harus hati-hati memutuskan untuk mengatasi ancaman baru ini tanpa tenggelam dalam biaya pasar yang tinggi.
CISO yang Cerdas AI: Suatu Kebutuhan di Era AI Generatif
CISO yang paham AI bukan hanya ahli teknis tetapi juga pemimpin strategis yang memahami nilai AI dalam memperkuat postur keamanan siber perusahaan. Inilah cara CISO harus mendekati masalah dan mengapa perusahaan harus memprioritaskan keahlian AI dalam strategi perekrutan dan pengembangan mereka:
Rangkullah solusi keamanan berbasis AI: CISO harus berpengalaman dalam teknologi AI terbaru dan memahami cara memanfaatkannya secara efektif untuk meningkatkan tindakan keamanan organisasi mereka. Ini termasuk deteksi anomali, pemeliharaan prediktif, dan otomatisasi tugas keamanan. Mereka harus secara aktif mencari alat dan platform yang didukung AI, memastikan integrasi tanpa batas dengan infrastruktur keamanan yang ada. Tetap terinformasi: Tetap up-to-date dengan ancaman yang muncul dan vektor serangan yang didukung oleh AI sangatlah penting. CISO yang paham AI harus terus memantau penelitian terbaru, mengembangkan pemahaman mereka sendiri tentang potensi risiko dan kerentanan sebelum menjadi hal biasa. Menumbuhkan kolaborasi: mempromosikan budaya kolaborasi dan berbagi pengetahuan di dalam dan di antara tim teknis di perusahaan. Mendorong profesional keamanan & teknik untuk tetap mendapat informasi dan terdidik tentang kemajuan AI akan membantu membangun pertahanan yang kuat terhadap ancaman yang akan datang. CISO harus memfasilitasi program pelatihan dan lokakarya agar tim mereka tetap up-to-date dan terlibat. Menganjurkan pengembangan AI yang etis: Jika perusahaan Anda membuat alat atau model AI-nya sendiri (Anda mungkin harus melakukannya), CISO Anda harus mendukung pengembangan AI yang bertanggung jawab dengan memastikan kepatuhan terhadap pedoman dan peraturan etika. Mereka harus mengadvokasi transparansi, privasi, dan keamanan. Menyusun strategi untuk implementasi AI jangka panjang: CISO harus memulai dengan mengembangkan strategi implementasi AI jangka panjang yang menguraikan tujuan, sasaran, dan potensi tantangan organisasi. Ini harus mencakup rencana untuk memperoleh dan menerapkan alat AI, alokasi anggaran, manajemen talenta, dan menangani potensi masalah regulasi.
Peran CISO berkembang, dan perusahaan harus memprioritaskan integrasi keahlian AI dalam kepemimpinan keamanan siber mereka. Saat AI terus membentuk kembali keamanan dunia maya industri, CISO yang memahami AI akan sangat penting untuk mengatasi tantangan dan peluang yang ada di depan.
Saat ini: Big Tech terlibat
Pada RSA Conference 2023, Google meluncurkan Cloud Security AI Workbench [10], rangkaian keamanan siber komprehensif yang ditenagai oleh model bahasa AI khusus bernama Sec-PaLM. Dirancang khusus untuk aplikasi keamanan, Sec-PaLM memanfaatkan banyak kecerdasan keamanan, termasuk penelitian kerentanan perangkat lunak, analisis malware, indikator ancaman, dan profil pelaku ancaman perilaku.
Cloud Security AI Workbench menawarkan serangkaian alat canggih yang digerakkan oleh AI. Misalnya, AI Intelijen Ancaman Mandiant [11], diakuisisi oleh Google pada tahun 2022, akan memanfaatkan Sec-PaLM untuk mengidentifikasi, meringkas, dan mengatasi ancaman keamanan. VirusTotal, layanan lain milik Google, akan memanfaatkan Sec-PaLM untuk membantu pelanggan dalam menganalisis dan memahami perilaku skrip berbahaya.
Selain itu, Sec-PaLM akan membantu Chronicle, layanan keamanan siber cloud Google, dalam mencari peristiwa keamanan dan memfasilitasi interaksi percakapan dengan hasilnya. Pengguna AI Pusat Komando Keamanan Google akan menerima penjelasan yang mudah dicerna tentang paparan serangan dari Sec-PaLM, termasuk informasi tentang aset yang terkena dampak, mitigasi yang disarankan, dan ringkasan risiko untuk temuan keamanan, kepatuhan, dan privasi.
Sumber: Midjourney v5
Masa Depan: Peran Penting AI
Karena teknologi informasi dan komunikasi terus berkembang dan terintegrasi lebih dalam ke dalam infrastruktur penting, risiko serangan siber akan semakin meningkat. Akibatnya, ada kebutuhan untuk meningkatkan solusi yang saat ini digunakan di ranah PL.
Solusi berbasis AI dapat secara signifikan meningkatkan kemampuan organisasi untuk mendeteksi pola perilaku abnormal dan mengingatkan operator terhadap potensi ancaman. Selain itu, AI dapat digunakan untuk memprediksi risiko serangan, menawarkan rekomendasi mitigasi sebelum terjadi. Itu juga dapat memperkuat otentikasi dan otorisasi akses ke sistem kritis dan mengidentifikasi kerentanan sistem OT sebelum penyerang mengeksploitasinya.
Sebagai kesimpulan, karena alat ini tersedia secara luas, sangat penting untuk menggunakannya untuk perlindungan ancaman atau risiko tertinggal dari penjahat dunia maya dalam kemampuan teknologi.
Regulasi yang tepat akan sangat penting untuk mengurangi potensi penyalahgunaan AI dan pembelajaran mesin dalam keamanan siber industri [9]. Regulasi ditulis dengan darah, dan meskipun kami tidak akan melihat pekerjaan yang relevan dari sumber publik dalam jangka pendek, kami melihat sektor swasta berlari untuk mengisi kekosongan tersebut.
Sumber
Xorlab — Bagaimana AI mengaktifkan serangan phishing ‘hiperpersonal’ The Brookings Institution — Deepfakes dan Konflik Internasional (pdf) The Conversation — AI dan Perlombaan Senjata Keamanan Siber VentureBeat — Cara Melindungi Kecerdasan Buatan dari Dirinya Sendiri Prosegur — Peran Bermata Dua AI dalam Keamanan Siber Darktrace — Identifikasi Aset Pembelajaran Mandiri, Sistem Kekebalan Industri Layanan Prediktif Siemens — Penilaian, Konektivitas, Analisis IBM Watson untuk Keamanan Siber — Solusi Keamanan Siber Bertenaga AI Intelijen
Diterbitkan melalui Menuju AI
