Bank Waspada AI, Apa Pengajarannya?
Pihak berkuasa kewangan Australia, APRA, baru-baru ini memberi amaran tentang penggunaan AI yang semakin meluas dalam sektor perbankan. Laporan menyatakan bahawa kelemahan dalam tadbir urus dan keselamatan siber menjadi punca utama kebimbangan ini.
Pada pandangan pertama, berita ini mungkin kelihatan hanya relevan untuk syarikat besar. Namun, saya percaya bahawa para pemilik perniagaan kecil dan sederhana (PKS) seharusnya mengambil iktibar daripada amaran ini.
Mengapa? Kerana semakin rendah halangan untuk menggunakan AI, semakin besar “sudut buta” dalam tadbir urus. Syarikat besar mempunyai jabatan khusus dan bajet yang mencukupi, tetapi PKS terpaksa bergantung pada pertimbangan pemilik sendiri. Perbezaan inilah yang boleh membawa kepada risiko yang membawa maut.
Artikel ini akan menggunakan amaran APRA sebagai titik permulaan untuk membincangkan reka bentuk tadbir urus yang perlu dipertimbangkan oleh PKS apabila menggunakan AI. Saya akan kongsikan langkah-langkah konkrit yang boleh diambil oleh para pemilik perniagaan untuk mengubah penggunaan AI syarikat mereka kepada “reka bentuk yang selamat”.
Amaran APRA: 3 Sudut Buta Penggunaan AI
Amaran APRA boleh diringkaskan kepada tiga perkara utama:
Pertama, kekurangan tadbir urus. Siapa yang menguruskan proses membuat keputusan AI dan siapa yang bertanggungjawab? Ini tidak jelas. Kedua, kelemahan dalam keselamatan siber. Sistem AI boleh menjadi sasaran serangan baharu. Ketiga, kekurangan akauntabiliti. Jika AI membuat keputusan yang salah, tiada sistem yang boleh menjelaskan puncanya.
Ini adalah risiko yang sama yang dihadapi oleh PKS apabila menggunakan AI. Tidak seperti syarikat besar, PKS tidak mempunyai jabatan khusus, menyebabkan tiga perkara ini sering diabaikan sebagai “risiko yang tidak kelihatan”.
Contohnya, jika AI digunakan untuk menganalisis data pelanggan, siapakah yang bertanggungjawab ke atas pengurusan data tersebut? Jika AI mencadangkan produk yang tidak sesuai kepada pelanggan, siapakah yang perlu bertanggungjawab? Jika soalan-soalan ini tidak dijawab sebelum pelaksanaan, ia boleh membawa kepada masalah besar di kemudian hari.
Struktur “Kegagalan Tadbir Urus AI” yang Menimpa PKS
Apabila amaran APRA ditafsirkan dalam konteks PKS, struktur berikut dapat dilihat:
Dalam kebanyakan PKS, keputusan untuk menggunakan AI dibuat oleh “jabatan teknikal” atau “secara unilateral oleh pemilik perniagaan”. Dalam proses ini, perspektif undang-undang dan pematuhan sering terlepas pandang.
Ini berlaku kerana kekurangan perspektif bahawa tadbir urus bukan sekadar “pertahanan”, tetapi “teknik reka bentuk”. AI adalah alat “serangan” untuk mempercepatkan perniagaan, tetapi proses pelaksanaannya memerlukan perspektif “pertahanan” untuk mereka bentuk risiko.
Sebagai contoh, katakan sebuah PKS memulakan perkhidmatan yang menggunakan AI untuk menganalisis sejarah pembelian pelanggan dan menghantar kupon secara individu. Pada ketika ini, pengesahan “Adakah ini melanggar Akta Perlindungan Data Peribadi?” sahaja tidak mencukupi. Anda perlu mereka bentuk “risiko 1 hingga 99”, seperti sama ada hasil analisis AI mengandungi unsur diskriminasi, atau bagaimana untuk bertindak balas jika pelanggan menganggap analisis itu tidak sesuai.
Saya memanggil keadaan di mana reka bentuk ini tidak wujud sebagai “Kegagalan Tadbir Urus AI”. Ini bukan sahaja menghalang pertumbuhan perniagaan, malah boleh membawa kepada tindakan undang-undang dan risiko reputasi.
3 Langkah untuk Menzahirkan “Risiko Tidak Kelihatan”
Jadi, bagaimana kita boleh mencegah “Kegagalan Tadbir Urus AI” secara konkrit? Saya mengesyorkan tiga langkah berikut:
Langkah 1: Jelaskan Tujuan dan Skop Penggunaan AI
Pertama, pemilik perniagaan perlu menyatakan dengan jelas “mengapa” dan “untuk apa” AI digunakan. Pada ketika ini, jangan tetapkan matlamat abstrak seperti “meningkatkan kecekapan operasi”, tetapi tetapkan matlamat berangka yang konkrit seperti “mengurangkan masa respons pelanggan sebanyak 50%”.
Kemudian, jelaskan skop keputusan yang boleh dibuat oleh AI. Contohnya, tetapkan peraturan bahawa “AI hanya membuat cadangan, dan keputusan akhir dibuat oleh manusia”. Garis pemisah ini akan menjelaskan tanggungjawab.
Langkah 2: Reka Bentuk Penilaian Risiko dan Langkah Pencegahan
Seterusnya, kenal pasti dan nilai risiko yang berkaitan dengan penggunaan AI. Pada ketika ini, menggunakan matriks “Kebarangkalian Kejadian x Tahap Kesan” adalah sangat berkesan.
Contohnya, risiko AI membuat keputusan yang salah yang menyebabkan kerugian kepada pelanggan mungkin mempunyai kebarangkalian kejadian yang rendah, tetapi tahap kesannya adalah besar, jadi langkah pencegahan perlu diutamakan. Secara konkrit, bina sistem yang merekodkan keputusan AI sebagai log untuk membolehkan pengesahan di kemudian hari.
Selain itu, sebagai langkah keselamatan siber, hadkan akses kepada sistem AI kepada minimum dan lakukan imbasan kelemahan secara berkala. Seperti yang dinyatakan oleh APRA, AI adalah sasaran serangan baharu. Jika langkah ini diabaikan, ia boleh membawa kepada situasi serius seperti kebocoran data pelanggan.
Langkah 3: Bina Mekanisme Akauntabiliti
Akhir sekali, sediakan sistem yang boleh menjelaskan sebab di sebalik keputusan AI jika timbul keraguan. Ini adalah langkah untuk menangani “masalah kotak hitam AI”.
Bagi PKS, mungkin sukar untuk memperkenalkan AI yang boleh dijelaskan (XAI) yang canggih seperti syarikat besar. Walau bagaimanapun, sekurang-kurangnya, adalah penting untuk merekodkan “data yang digunakan oleh AI untuk membuat keputusan” dan dapat menerangkannya kepada pihak berkepentingan.
Selain itu, sediakan saluran untuk menangani pertanyaan pelanggan dan jelaskan laluan perundingan jika pelanggan tidak berpuas hati dengan keputusan AI. Dengan adanya mekanisme ini sahaja, risiko kehilangan kepercayaan pelanggan dapat dikurangkan dengan ketara.
Apa Yang Perlu Dilakukan Oleh Pemilik Perniagaan Sekarang: Mentakrif Semula Reka Bentuk Tadbir Urus
Amaran APRA menunjukkan bahawa penggunaan AI bukanlah “masalah teknikal”, tetapi “masalah tadbir urus”. Apa yang diperlukan daripada pemilik PKS bukanlah “menggunakan” AI, tetapi “mereka bentuknya dengan betul”.
Pertama, semak semula projek penggunaan AI syarikat anda dan pastikan tiga langkah di atas dipenuhi. Jika penggunaan telah diputuskan tetapi pertimbangan ini tidak mencukupi, anda perlu berani menghentikan projek buat sementara waktu.
Tadbir urus bukan untuk “menghentikan perniagaan”, tetapi untuk “mempercepatkan perniagaan dengan selamat”. Sebelum memasang enjin berkuasa yang dipanggil AI, reka bentuk brek dan stereng dengan teliti. Itulah cara paling pasti untuk PKS berkembang secara mampan.
Para pemilik perniagaan, marilah kita zahirkan “risiko tidak kelihatan” penggunaan AI sekarang. Itulah langkah pertama untuk melindungi masa depan syarikat anda.
コメント