Serahkan Operasi Keselamatan kepada Ejen AI Tetap: Putuskan Kebenaran, Pemantauan, Rekod dan Cara Menghentikan Dahulu

Laporan kelemahan keselamatan terus bertambah, dan pihak penyerang kini bergerak secara automatik sebaik sahaja pembaikan dikeluarkan. Dalam artikel ini, saya menyusun, sebagai kriteria keputusan saya sendiri, siapa yang patut menjalankan operasi keselamatan syarikat. Pada 20 Oktober saya bercakap tentang bagaimana kelajuan syarikat ditentukan oleh ulang-alik keputusan manusia, pada 21 Oktober tentang mengambil risiko dengan operasi yang boleh dipulihkan dan larian selari, dan pada 22 Oktober tentang membina semula organisasi dan sistem dengan ejen AI tetap sebagai teras. Kali ini saya menerapkannya pada pertahanan.

Biar saya jelaskan dari awal: ini bukan tentang menyalahkan kakitangan barisan hadapan. Bukan kerana mereka malas sehingga tidak dapat mengejar, tetapi kelajuan dan jumlah serangan sudah melebihi apa yang manusia mampu awasi secara bergilir. Memilih sistem pertahanan syarikat ialah tugas presiden.

Kesimpulannya ialah dua pilihan

Operasi keselamatan tidak lagi dapat mengejar jika ia mengandaikan manusia menjalankannya secara manual. Jika anda mempertahankan sendiri, bina operasi di mana ejen AI tetap mengendalikan sebahagian besar kerja. Jika tidak mampu, tumpang pada platform gergasi. Saya melihatnya sebagai dua pilihan ini, dan pilihan itu dibuat bukan sekali untuk seluruh syarikat tetapi mengikut sistem. Contohnya, e-mel dan hamparan boleh menumpang platform gergasi, manakala sistem yang berkait rapat dengan perniagaan sendiri dikekalkan dalam syarikat dan dikawal oleh ejen tetap. Pilihan paling berbahaya ialah mengekalkan sistem sendiri sambil masih mempertahankannya secara manual.

Menumpang platform gergasi juga tidak bermakna semua pertahanan diserahkan. Kebenaran mana diberi kepada siapa dan akaun mana terus digunakan masih ditentukan oleh pengguna. Jika ada yang belum menetapkan pengesahan dua langkah, pintu tetap terbuka walau sebesar mana pun platform itu. Membiarkan ejen tetap menyemak perkara ini sepanjang masa menjadikannya jauh lebih mudah.

Apa yang sedang berlaku

Menurut topik yang dikongsi di X, bilangan laporan bulanan dalam pangkalan data kelemahan NVD di Amerika Syarikat meningkat daripada 4,389 kepada 15,074 dalam setahun, kira-kira 3.4 kali ganda. Angka itu hanya setakat yang dikongsi, tetapi saya melihatnya sebagai tanda bahawa bilangan lubang yang ditemui mula melebihi apa yang manusia mampu baca dan nilai satu demi satu.

Dalam bahasa PHP yang digunakan secara meluas, dua kelemahan serius ditemui, dan yayasan PHP mengumumkannya lebih awal serta mengeluarkan pembaikan. Menurut laporan, ia ditemui oleh model AI. AI menemui, manusia membaiki; setakat ini baik. Namun ada juga hantaran yang menyatakan bahawa selepas pembaikan diterbitkan, ejen AI menyerang secara automatik pelayan yang belum memasang pembaikan itu. Membaca pembaikan mendedahkan di mana kelemahannya. Jam pihak penyerang mula berdetik sebaik sahaja pembaikan keluar. Ketika manusia masih bermesyuarat dan merancang untuk bertindak minggu depan, pihak lawan sudah mencari secara automatik.

Di pihak yang bertahan, ada juga suara dari lapangan bahawa kerana tidak dapat mencari kakitangan penyelenggaraan, mereka memperkenalkan pertahanan AI yang autonomi. Andaian bahawa kita mengupah orang untuk bertahan mula runtuh.

Salah faham biasa: bertindak tanpa memahami kandungan

Salah faham paling biasa dalam menangani kelemahan ialah bertindak tanpa memahaminya. Setiap kali, kita sepatutnya memahami kelemahan itu sendiri dan bertindak pada tempat yang mungkin terjejas. Hakikatnya, sangat banyak kes tersasar: menghentikan semuanya kerana ia masuk berita, mengubah tetapan yang tidak berkaitan, sementara tempat yang benar-benar terjejas dibiarkan. Bertindak tanpa membaca kandungan hanya menambah kerja dan tidak menguatkan pertahanan.

Sebabnya ialah manusia tidak sempat membaca setiap satu dengan teliti. Ejen tetap boleh membaca penerangan kelemahan, menyemak versi mana bagi sistem mana dalam syarikat yang terlibat, dan menyenaraikan hanya tempat yang terjejas.

Apa yang berjaya di syarikat saya, dan apa yang gagal

Di syarikat saya, kami segera mengemas kini sistem perniagaan bersepadu yang menggabungkan pengurusan peranti, lesen dan keselamatan. Selepas menyerahkannya kepada ejen tetap, pengurusan lesen, pengurusan versi PC, serta semakan status pengesahan dua langkah setiap akaun dan sama ada ia masih digunakan, terus boleh dilakukan. Jika perlu, akaun boleh digantung serta-merta. Inventori yang dibuat manusia setahun sekali menjadi tugas harian biasa bagi ejen. Lebih daripada segalanya, perubahan terbesar ialah rasa tenang kerana ejen tetap sentiasa memerhati.

Sebaliknya, kegagalan terbesar saya ialah idea untuk melakukannya secara manual itu sendiri. Dalam masyarakat yang mengandaikan AI, saya kurang sedar bahawa serangan siber juga sentiasa berlaku. Selagi pihak lawan menggunakan AI dan tidak pernah berehat, pertahanan juga mesti sentiasa berjalan.

Empat asas yang perlu diputuskan sebelum menyerahkan

Di luar negara, idea satah kawalan AI kini mendapat perhatian. Palo Alto Networks menerangkan bahawa kita bukan sahaja perlu melihat akses, cara penggunaan, data dan kos AI, tetapi juga mengawalnya di tempat. Okta juga menerbitkan soalan yang perlu dijawab oleh ketua keselamatan tentang ejen AI. Saya melihat ini sebagai perancah untuk menjalankan ejen tetap dengan selamat, dan memikirkannya dalam empat bahagian.

Pertama ialah kebenaran. Tentukan apa yang boleh dan tidak boleh dilakukan oleh ejen. OpenShell daripada NVIDIA diperkenalkan sebagai sistem yang menolak kebenaran ejen secara lalai, memantau tindakannya dan mengasingkannya. Pisahkan kebenaran untuk menyiasat daripada kebenaran untuk menggantung, dan berikan hanya kebenaran yang diperlukan, setakat yang diperlukan.

Kedua ialah pemantauan. Ia bermaksud kedua-duanya: ejen mengawasi sistem syarikat 24 jam sehari, dan tindakan ejen itu sendiri turut diawasi. Ia sama seperti meletakkan log operasi dan semakan berganda pada orang yang mempunyai kebenaran besar.

Ketiga ialah rekod. Simpan di tempat yang tetap kelemahan yang mana, versi mana bagi sistem mana yang dinilai terlibat, dan tindakan yang diambil. Dengan rekod, anda boleh mengesahkan kemudian sama ada tindakan itu sepadan dengan kandungan, dan membetulkannya lain kali jika tidak.

Keempat ialah cara menghentikan. Tentukan siapa yang menghentikan ejen dan bagaimana apabila ia tersilap, dan apa yang dipulihkan selepas ia dihentikan. Kerana anda tahu ia boleh dihentikan dan dipulihkan, anda boleh mempercayakan kebenaran yang besar. Yang ini, pastikan diputuskan sebelum menyerahkan apa-apa.

Kriteria saya: secara asasnya, serahkan kepada ejen tetap

Kriteria saya jelas: secara asasnya, saya menyerahkannya kepada ejen AI tetap. Syarikat saya sentiasa menyepadukan sistem dan membina sistem baharu, jadi lebih mudah menjadikan ejen tetap sebagai pemain utama dahulu daripada menjalankan pertahanan sahaja dengan tangan orang lain. Manusia menentukan, mengikut sistem, sama ada mengekalkannya dalam syarikat atau menumpang platform besar, menetapkan empat asas itu, dan melaraskan garisannya dengan membaca rekod. Peranan manusia tidak hilang; ia beralih daripada barisan hadapan pertahanan kepada reka bentuk pertahanan. Syarikat kecil tidak mampu menempatkan kakitangan keselamatan khusus, jadi saya fikir pendekatan ini lebih bermakna bagi mereka.

"Ia sukar" akan menjadi cakap kepentingan

Secara terus terang, saya fikir kenyataan bahawa langkah menangani serangan siber itu sukar akan bertukar menjadi cakap kepentingan pihak manusia. Jika kita mengandaikan manusia menjalankannya secara manual, pertahanan memang sukar. Tetapi jika ejen tetap mengawasi 24 jam sehari, membaca kandungan dan bertindak pada tempat yang terjejas, banyak kesukaran itu akan hilang. Lebih baik menerima apa yang tersirat dalam nama SI, superkecerdasan dan bukannya AI: bahawa sekurang-kurangnya dalam bidang pertahanan ini ia sudah mengatasi manusia, lalu memanfaatkannya.

Apa yang boleh anda lakukan minggu ini

Senaraikan sistem syarikat anda dan, bagi setiap satu, tulis dalam satu baris sama ada anda akan "menyerahkannya kepada AI tetap dalam syarikat" atau "menumpang platform gergasi". Jika ragu-ragu, tulis juga. Kemudian pilih hanya satu daripada sistem yang diputuskan untuk dikekalkan dalam syarikat dan serahkan hanya pengesanan dan pelaporan kelemahan kepada ejen tetap. Pada mulanya, jangan biarkan ia membaiki apa-apa; cukup sekadar menemui dan memaklumkan. Pada masa yang sama, tentukan kebenaran, pemantauan, rekod dan cara menghentikan dalam satu baris setiap satu. Selepas seminggu membaca rekod, anda akan nampak sejauh mana ia boleh dipercayakan.

▶ Tonton video penuh (bahasa Jepun)
https://www.youtube.com/watch?v=i36ILLrPhs4