Adakah Pengawasan AI Maha Kuasa? Isu Subsidi AS Mendedahkan “Lubang Tadbir Urus”

Kecacatan Tadbir Urus “RM6.175 Trilion” yang Dibongkar oleh Pengawasan AI

Kerajaan Amerika Syarikat sedang merancang untuk menggunakan AI (Kecerdasan Buatan) bagi mengawasi penyelewengan penerimaan subsidi. Sasaran adalah jumlah pembayaran “tidak wajar” yang mencecah kira-kira RM6.175 trilion. Berita yang dilaporkan oleh Nikkei ini, pada pandangan pertama, kelihatan seperti “usaha maju mencegah penyelewengan dengan teknologi”. Namun, dari perspektif pereka tadbir urus, pemandangan yang sama sekali berbeza muncul. Ia adalah masalah yang lebih asas: “sebelum cuba menyelesaikan dengan teknologi, reka bentuk asasnya sudah gagal”.

Bagi pemilik perniagaan PKS, permohonan subsidi dan geran pastinya isu yang dekat. Sibuk menyediakan dokumen semasa memohon, laporan perbelanjaan selepas kelulusan menjadi beban. Apatah lagi skala RM6.175 trilion sukar dibayangkan. Walau bagaimanapun, tanpa mengira skala besar atau kecil, isu asas tadbir urus yang tersembunyi di sini adalah sama. Ia adalah soalan: sebelum memperkenalkan “AI yang mengawasi hasil (penyelewengan)”, mengapa mereka mereka bentuk punca iaitu “proses permohonan & kelulusan yang mudah terdedah kepada penyelewengan”?

Kesilapan Reka Bentuk Asas yang Disembunyikan oleh “Pengawasan Berasaskan AI”

Mari kita lihat contoh AS dengan lebih terperinci. Menurut laporan, AI berfungsi sebagai “pengawas” yang mempelajari corak penyelewengan lalu dan mengesan permohonan mencurigakan. Memang, ia mungkin lebih cekap berbanding manusia menyemak beribu-ribu permohonan. Namun, terdapat perangkap besar di sini. Semakin diperkukuh pengawasan lepas fakta oleh AI, semakin mudah organisasi mengabaikan “kekurangan reka bentuk proses itu sendiri”.

Intipati tadbir urus bukanlah “mengesan pelanggaran”, tetapi “mereka bentuk mekanisme yang sukar untuk pelanggaran berlaku dari awal”. Dalam konteks permohonan subsidi, keutamaan adalah membina proses di mana penyelewengan “secara fizikal sukar berlaku”, seperti reka bentuk borang permohonan, pengagihan kuasa kelulusan, permudahan dan automasi laporan perbelanjaan. Pengawasan AI hanyalah langkah sekunder atau tertier, digunakan apabila langkah pencegahan primer sedemikian tidak mencukupi.

Buta Titik dalam “Proses Permohonan” yang Berlaku untuk PKS

Ini berkait langsung dengan operasi harian PKS. Contohnya, fikirkan proses penyelesaian perbelanjaan pekerja.

• Kes A (Reka Bentuk Kurang + Pengawasan Diperkukuh): Mencipta peraturan perbelanjaan yang kompleks dan sukar difahami. Kaedah penyerahan resit juga tidak konsisten. Namun, kemudiannya, pihak perakaunan menyemak setiap resit dan menegaskan perkara mencurigakan. Ini adalah pengawasan seperti “AI manusia”.
• Kes B (Pengoptimuman Reka Bentuk Proses): Mendigitalkan permohonan perbelanjaan, menetapkan aliran kelulusan secara automatik mengikut kategori. Resit dimuat naik serta-merta selepas diimbas dengan telefon pintar. Peraturan dipaparkan terus pada skrin permohonan. “Kekangan fizikal” yang menyukarkan penyelewengan dibina dalam dari awal.

Kes A adalah pemikiran yang sama dengan pengawasan AI kerajaan AS. Kes B itulah “reka bentuk atasan” sebagai tadbir urus. Masalahnya, ramai organisasi cenderung memilih laluan Kes A atas alasan kos dan kesusahan.

Menggabungkan AI sebagai “Peranti Pelaksanaan”, Bukan “Peranti Membuat Keputusan”

Jadi, bagaimana AI harus digabungkan dalam tadbir urus? Jawapannya adalah dengan memposisikan AI bukan sebagai “pengawas”, tetapi sebagai “peranti yang melaksanakan proses unggul dengan pasti”.

Dalam contoh penyelesaian perbelanjaan tadi, peranan AI bukanlah “mencari resit mencurigakan”. Sebaliknya, fungsi seperti berikut:

• Mencadangkan kategori perbelanjaan yang sesuai secara automatik berdasarkan input pemohon.
• Mengagihkan laluan pelulus yang optimum secara automatik berdasarkan corak kelulusan lepas.
• Memberi amaran awal apabila hampir melebihi dengan memadankan bajet projek.

Dengan cara ini, AI digabungkan “di dalam” proses, mengurangkan kesilapan pertimbangan dan kesusahan manusia, sekaligus mengurangkan ruang untuk penyelewengan itu sendiri. Inilah konsep “reka bentuk risiko 1-99”. Walaupun mustahil menjadikan risiko kepada 0, reka bentuk yang mengurangkan kebarangkalian kejadian dengan ketara dan mengehadkan impak jika berlaku adalah mungkin.

Langkah Praktikal: Kenal pasti “Proses Boleh Di-AI-kan” Syarikat Anda

Berikut adalah tiga tindakan konkrit yang boleh dimulakan oleh PKS esok.

1. Senaraikan “Pengulangan Keputusan”
Pertama, kenal pasti keputusan rutin yang kerap dibuat dalam syarikat. Kelulusan perbelanjaan, permohonan cuti, tindakan awal aduan pelanggan, pesanan pembelian, dan sebagainya. Dalam proses ini, nyatakan secara lisan “apakah asas pertimbangan” yang digunakan oleh pihak bertanggungjawab setiap kali. Ini menjadi prototaip “peraturan” untuk diajar kepada AI.

2>Uraikan Proses kepada “Input · Pemprosesan · Output”
Contohnya, untuk pesanan pembelian, “input” ialah borang permintaan pesanan, “pemprosesan” ialah semakan bajet dan pengagihan pelulus, “output” ialah penciptaan dan penghantaran pesanan pembelian. Fokus pada bahagian “pemprosesan” di mana kesilapan manusia atau kelewatan paling kerap berlaku. Pertimbangkan sama ada automasi mudah (RPA) atau bantuan AI boleh diperkenalkan di sini.

3. Tanya Pakar tentang “Syarat Kejayaan”, Bukan “Kebolehterimaan”
Apabila berunding dengan pakar undang-undang atau cukai mengenai pelaksanaan alat AI, jangan tanya “Adakah ini sah dari segi undang-undang?”. Soalan ini hanya akan menghasilkan jawapan “0 atau 100”. Sebaliknya, tanyakan “syarat kejayaan”: “Kami ingin mengautomasikan dan memcekapkan proses ini. Dari aspek pengendalian data dan rekod, apakah perkara yang perlu dipatuhi dari segi undang-undang dan cukai?”. Pakar mungkin tidak dapat menjadikan risiko kepada 0, tetapi mereka boleh mencadangkan syarat untuk mencapainya dalam tahap risiko boleh diterima (1-99).

Dari “Pengawasan” ke “Reka Bentuk”: Tingkatkan Perspektif Tadbir Urus

Rancangan pengawasan AI kerajaan AS, walaupun pada skala besar, boleh dikatakan contoh tipikal di mana pemikiran tadbir urus condong ke arah “pengawasan lepas fakta”. Ini selari dengan kecenderungan organisasi yang semakin besar, di mana lebih sukar untuk mengubah proses sedia ada yang rumit, dan sebaliknya cuba menutupinya dengan pengawasan.

Walau bagaimanapun, PKS mempunyai kelebihan besar. Oleh kerana skala yang kecil, “kos perubahan” untuk mereka bentuk semula proses itu sendiri dari sifar adalah agak rendah. Sementara syarikat besar melabur banyak untuk melaksanakan sistem pengawasan AI, PKS boleh membina “proses pintar dari awal” yang memanfaatkan AI dengan lebih pantas.

Perkara penting adalah jangan terpengaruh dengan teknologi AI semata-mata. AI hanyalah salah satu “peranti” untuk melaksanakan reka bentuk tadbir urus yang unggul dengan lebih pasti dan cekap. Sebelum itu, apa yang perlu dilakukan adalah menyatakan secara lisan dan mereka bentuk aliran membuat keputusan dan pelaksanaan yang optimum untuk merealisasikan “perniagaan yang ingin dilakukan” oleh syarikat sendiri.

Berita mengenai pengawasan penyelewengan RM6.175 trilion dengan AI menanyakan kita: “Di syarikat anda, sebelum menguatkan pengawasan selepas masalah timbul, sejauh manakah anda benar-benar mereka bentuk mekanisme yang sukar untuk masalah berlaku?”. Menghadapi soalan ini adalah langkah pertama ke arah tadbir urus praktikal di era teknologi.