Andaian Tadbir Urus Perusahaan Berubah oleh AI Agent
Ungkapan “serahkan kerja kepada AI” semakin menjadi realiti. Cognizant dan Rubrik mengumumkan pada April 2025 bahawa mereka akan memperluas kerjasama dalam lapisan tadbir urus AI agent. Persoalan timbul: bagaimana perusahaan harus mengubah reka bentuk tadbir urus mereka dalam era AI yang membuat keputusan dan bertindak secara autonomi?
Pada masa yang sama, Mercari mengumumkan penyertaannya dalam Persatuan Tadbir Urus AI. Aliran ini bukan sahaja melibatkan syarikat besar, malah PKS juga tidak boleh berdiam diri.
Apa itu AI Agent dan Mengapa Tadbir Urus Menjadi Masalah?
AI agent ialah sistem AI yang membuat keputusan sendiri dan bertindak untuk mencapai matlamat yang diberikan. Tidak seperti chatbot konvensional, ia melaksanakan tugas tanpa arahan manusia.
Contohnya, bukan sahaja membalas pertanyaan pelanggan secara automatik, malah menyemak data inventori dan membuat keputusan pesanan. AI seperti ini mula beroperasi dalam perusahaan.
Masalahnya ialah siapa dan bagaimana menguruskan keputusan autonomi ini. Keputusan yang boleh dihentikan oleh pekerja manusia “secara logik akal” mungkin dilaksanakan oleh AI dalam lingkungan peraturan yang diberikan.
Tiga Cabaran Tadbir Urus yang Dihadapi PKS
Cabaran yang dihadapi PKS dalam pengenalan AI agent berbeza secara kualitatif daripada syarikat besar.
1. Kotak Hitam Kriteria Keputusan
Syarikat besar boleh membentuk pasukan pakar untuk mengesahkan logik keputusan AI. Namun, PKS cenderung bergantung sepenuhnya kepada vendor yang diperkenalkan.
Apabila laluan keputusan seperti “mengapa pesanan dibuat kepada pelanggan ini” atau “mengapa sebut harga pada harga ini” menjadi kotak hitam, pemilik perniagaan sendiri tidak dapat memahami keadaan syarikat.
2. Kekaburan Tanggungjawab
Jika AI membuat keputusan yang salah, siapa yang bertanggungjawab? Vendor AI, pemilik perniagaan yang memperkenalkannya, atau kakitangan yang memantau AI?
Dalam PKS, tidak jarang pengenalan AI berlaku dengan tanggungjawab yang masih kabur.
3. Kepantasan Peraturan Menjadi Usang
Manual operasi konvensional cukup dengan semakan setahun sekali. Namun, AI agent belajar setiap hari dan corak tindakannya berubah. Peraturan tetap tidak dapat mengejar.
Mengubah Falsafah Reka Bentuk Tadbir Urus AI
Perkara penting di sini ialah jangan mereka bentuk tadbir urus AI sebagai “senarai larangan”.
Reka Bentuk Skop “Perkara yang Boleh Dilakukan”
Banyak syarikat cenderung membuat peraturan yang menyenaraikan “perkara yang tidak boleh dilakukan oleh AI”. Namun, ini menyempitkan skop penggunaan AI dan mengurangkan separuh kesan pengenalan.
Sebaliknya, reka bentuk yang mentakrifkan dengan jelas skop “perkara yang boleh diamanahkan kepada AI” dan membenarkan keputusan autonomi dalam skop itu adalah lebih berkesan.
Contohnya, “Pesanan tambahan untuk produk standard bernilai di bawah RM10,000 adalah OK dengan keputusan AI. Walau bagaimanapun, pesanan kepada pelanggan baharu memerlukan kelulusan.”
Menilai pada Tahap Risiko 1 hingga 99
Jangan fikirkan risiko keputusan AI sebagai 0 atau 100, tetapi nilailah sebagai kuantiti berterusan 1 hingga 99.
Tidak realistik untuk semua keputusan AI diluluskan oleh manusia. Reka bentuk yang membenarkan AI mengendalikan keputusan berisiko rendah dan hanya manusia terlibat dalam keputusan berisiko tinggi adalah lebih praktikal.
Pemikiran ini adalah falsafah yang sama seperti yang dinyatakan dalam dasar editorial laman web ini: “Risiko bukan 0 atau 100, tetapi direka bentuk sebagai kuantiti berterusan 1 hingga 99.”
Pelan Tindakan Khusus
Berikut adalah tiga tindakan yang perlu disediakan oleh PKS sekarang.
1. Buat Peraturan Visualisasi Keputusan AI
Perkenalkan mekanisme untuk merekodkan keputusan AI dan asasnya.
Secara khusus, buat mekanisme untuk menyemak log keputusan AI secara berkala. Luangkan masa seminggu sekali untuk pemilik perniagaan atau jabatan pengurusan menyemak sejarah tindakan AI.
2. Buat Peta Kepentingan Keputusan
Klasifikasikan proses perniagaan kepada “bidang yang boleh diamanahkan kepada AI” dan “bidang yang memerlukan keputusan manusia”.
Contohnya,
– Bidang risiko rendah (semakan inventori, balasan pertanyaan pelanggan rutin) → Serahkan kepada AI
– Bidang risiko sederhana (penciptaan sebut harga, keputusan pesanan) → AI cadangkan, manusia luluskan
– Bidang risiko tinggi (kontrak dengan pelanggan baharu, perubahan harga) → Hanya manusia membuat keputusan
Kongsi peta ini dengan pihak pengurusan dan semak secara berkala.
3. Semak Semula Kontrak Semasa Pengenalan AI
Dalam kontrak dengan vendor AI, pastikan perkara berikut disemak:
– Kebolehcapaian log keputusan AI
– Pembahagian tanggungjawab sekiranya keputusan salah
– Skop penggunaan data pembelajaran AI
– Kewujudan audit algoritma berkala
Terutamanya PKS, yang sering menggunakan kontrak standard vendor secara terus, perlu berhati-hati.
Kesimpulan: Reka Bentuk Tadbir Urus Era AI adalah Reka Bentuk “Cara Amanah”
Pengenalan AI agent adalah peluang besar bagi PKS. Potensi seperti mengatasi kekurangan tenaga kerja, meningkatkan kecekapan operasi, dan mencipta perkhidmatan baru semakin meluas.
Namun, jika reka bentuk tadbir urus ditangguhkan, risiko akan meningkat tanpa disedari. Perkara penting ialah mereka bentuk “cara amanah” bukan “larangan”.
Kerjasama Cognizant dan Rubrik serta penyertaan Mercari dalam persatuan tadbir urus AI adalah bukti bahawa aliran ini semakin serius. PKS juga harus mula mereka bentuk tadbir urus AI yang sesuai dengan skala syarikat mereka sekarang.
Para pemilik perniagaan, mulakan dengan mengenal pasti proses perniagaan syarikat anda dan membezakan “bidang yang boleh diamanahkan kepada AI” dan “bidang yang perlu diputuskan oleh manusia”. Itulah langkah pertama reka bentuk tadbir urus era AI.
コメント