Asas Tadbir Urus Berubah dengan Agen AI
“Jangan biarkan agen AI terlepas kawalan” – Dasar ServiceNow ini sangat memberi pengajaran kepada pemilik perniagaan kecil dan sederhana (PKS). Syarikat tersebut mengiktiraf keputusan autonomi agen AI, namun pada masa sama memperkenalkan strategi “pusat kawalan AI” untuk mengawalnya (Sumber: Yahoo! News “Jangan biarkan agen AI terlepas kawalan – ServiceNow seimbangkan autonomi dan tadbir urus dengan ‘pusat kawalan AI'”).
Yang penting di sini ialah penggunaan agen AI membawa dua sisi: faedah “meningkatkan autonomi di peringkat operasi” dan risiko “mewujudkan sudut buta dalam tadbir urus”. Cara mereka bentuk keseimbangan ini dalam PKS akan menentukan daya saing masa depan.
Mengapa Tadbir Urus Agen AI Menjadi Isu Sekarang
Agen AI bukan sekadar chatbot; ia adalah sistem yang boleh melaksanakan tugas dan membuat keputusan secara autonomi tanpa arahan manusia. Contohnya, automasi respons pelanggan, pengoptimuman pengurusan inventori, semakan kontrak – AI semakin memasuki bidang yang sebelum ini diputuskan oleh manusia.
Bagi PKS, teknologi ini adalah peluang besar. Ia secara langsung mengatasi kekurangan tenaga kerja, meningkatkan kecekapan operasi, dan mengurangkan kos. Namun pada masa sama, timbul persoalan asas: jika AI membuat keputusan salah, siapa yang bertanggungjawab?
Kes ServiceNow menunjukkan perlunya mekanisme untuk mengimbangi “autonomi” dan “kawalan” agen AI. Syarikat itu membina sistem pengurusan pusat yang memantau dan mengawal tindakan setiap agen AI melalui konsep “pusat kawalan AI”.
Tiga Corak Kegagalan Lazim PKS
Dalam pengalaman saya membantu pelbagai syarikat, terdapat banyak contoh kegagalan tadbir urus akibat pengenalan AI. Tiga corak tipikal adalah seperti berikut:
Kegagalan 1: “Keadaan Terlepas Kawal” Serah kepada Operasi
Kes di mana alat AI diperkenalkan tetapi kriteria keputusan dan skop penggunaannya tidak ditetapkan dengan jelas, lalu diserahkan bulat-bulat kepada kakitangan operasi. Akibatnya, timbul risiko AI memberikan maklumat salah kepada pelanggan atau mencadangkan syarat kontrak yang tidak sesuai.
Kegagalan 2: “Ketidakfungsian” Akibat Kawalan Berlebihan
Sebaliknya, ada kes di mana terlalu takutkan risiko sehingga menetapkan aliran kelulusan yang terlalu ketat untuk keputusan agen AI. Ini menghilangkan kelebihan AI iaitu keputusan pantas, dan akhirnya situasi menjadi sama seperti manusia perlu menyemak segala-galanya.
Kegagalan 3: “Kotak Hitam” Akibat Kebergantungan Teknologi
Keadaan di mana proses keputusan AI menjadi kotak hitam, dan sukar untuk menjelaskan mengapa sesuatu kesimpulan dicapai. Ini adalah risiko besar dari sudut “akauntabiliti” yang dikehendaki oleh Agensi Perkhidmatan Kewangan.
Tiga Titik Penting dalam Reka Bentuk “Pusat Kawalan AI”
Berdasarkan kes ServiceNow, saya rumuskan titik penting reka bentuk “pusat kawalan AI” yang boleh diamalkan oleh PKS sendiri.
Titik 1: Jelas “Kuasa” dan “Skop” Keputusan
Tentukan dengan jelas keputusan apa yang boleh diamanahkan kepada agen AI, dan keputusan apa yang memerlukan kelulusan manusia. Contohnya, respons rutin kepada pelanggan boleh diserahkan kepada AI, tetapi perubahan syarat kontrak atau pengendalian aduan perlu diputuskan oleh manusia.
Titik 2: Sertakan Mekanisme Pemantauan dan Rekod
Bina mekanisme untuk merekod semua keputusan dan tindakan agen AI sebagai log, dan menyemaknya secara berkala. “Pusat kawalan AI” ServiceNow direka untuk memantau tindakan setiap agen secara berpusat dan mengeluarkan amaran segera jika ada anomali.
Titik 3: Wujudkan Proses “Semakan Semula” Berkala
Kriteria keputusan dan skop kuasa agen AI tidak berakhir setelah ditetapkan sekali. Berdasarkan hasil operasi sebenar, proses semakan semula berkala diperlukan. Contohnya, mengesahkan ketepatan keputusan AI setiap suku tahun dan mengemas kini peraturan jika perlu.
Pelan Tindakan Konkrit
Sekarang, saya kongsikan tiga perkara yang boleh dilakukan oleh pemilik PKS dengan segera.
Tindakan 1: Buat “Manual Penggunaan” Agen AI
Pertama, senaraikan semua agen AI yang digunakan dalam syarikat, dan buat manual yang menyatakan dengan jelas “apa yang boleh diputuskan” dan “apa yang tidak boleh diputuskan” untuk setiap satu. Ini menjadi asas untuk kakitangan menggunakan AI tanpa kekeliruan.
Tindakan 2: Tentukan “Orang yang Memantau” Keputusan AI
Lantik seorang kakitangan yang akan menyemak tindakan agen AI secara berkala. Orang ini tidak perlu mahir dalam teknologi AI. Yang penting ialah memahami kesan keputusan AI terhadap perniagaan dan dapat mengesan anomali.
Tindakan 3: Jelas “Tanggungjawab” Sebelum Pengenalan AI
Apabila memperkenalkan agen AI, pastikan terlebih dahulu “siapa yang akan bertanggungjawab jika ada masalah dengan keputusan AI”. Ini penting bukan sahaja untuk mengelakkan risiko undang-undang, tetapi juga untuk mewujudkan persekitaran di mana kakitangan boleh menggunakan AI dengan yakin.
Kesimpulan: Tadbir Urus adalah Sumber Daya Saing Era AI
Seperti yang ditunjukkan oleh kes ServiceNow, mengimbangkan autonomi agen AI dan tadbir urus adalah syarat wajib dalam pengurusan perniagaan masa depan. Terutamanya bagi PKS yang mempunyai sumber terhad, reka bentuk tadbir urus yang cekap amat diperlukan.
Optimisme “serah kepada AI, semuanya okay” mahupun sikap pasif “AI menakutkan, jadi jangan guna” – kedua-duanya bukan jawapan yang betul. Yang penting ialah mereka bentuk mekanisme yang memaksimumkan kuasa AI sambil mengawal risiko, disesuaikan dengan syarikat sendiri.
Berdasarkan pengalaman saya membantu membina tadbir urus untuk lebih 38 syarikat, saya boleh katakan bahawa tadbir urus yang baik bukanlah penghalang kepada pertumbuhan perniagaan, sebaliknya enjin yang mempercepatkannya. Tadbir urus era AI juga harus didekati dengan pemikiran yang sama.
Bagaimana jika anda mula dengan menyemak semula status penggunaan AI syarikat sendiri, dan memulakan tiga tindakan yang diperkenalkan kali ini? Itu akan menjadi langkah pertama untuk memenangi persaingan masa depan.
コメント