Bila Algoritma Semakin Berpengaruh: Keperluan Memperkukuh Tadbir Urus AI Negara

Perkembangan pesat kecerdasan buatan (AI) kini muncul sebagai antara pemacu utama transformasi digital negara. Dalam sektor awam dan swasta, teknologi ini semakin meluas digunakan bagi meningkatkan kecekapan operasi, mempercepatkan pemprosesan maklumat serta menyokong proses membuat keputusan. Daripada sistem sokongan pelanggan hinggalah kepada analisis dasar dan perancangan strategik, AI semakin menjadi komponen penting dalam landskap pentadbiran moden. Namun, seiring dengan manfaat yang ditawarkan, timbul keperluan mendesak untuk memastikan penggunaan teknologi ini dipandu oleh dasar nasional yang jelas, seimbang dan bertanggungjawab.

Tadbir urus AI merujuk kepada kerangka prinsip, dasar dan mekanisme kawalan yang bertujuan memastikan sistem AI digunakan secara selamat, adil, telus serta boleh dipertanggungjawabkan. Kepentingan tadbir urus ini semakin ketara apabila algoritma digunakan untuk menilai kelayakan bantuan, menapis permohonan pekerjaan, mengesyorkan tindakan pentadbiran dan menyokong analisis dasar awam. Dalam konteks ini, AI bukan lagi sekadar alat teknikal, sebaliknya telah menjadi faktor yang mampu mempengaruhi hala tuju pentadbiran serta kesejahteraan masyarakat secara langsung.

Walaupun AI sering digambarkan sebagai objektif dan neutral, hakikatnya sistem ini dibangunkan oleh manusia dan dilatih menggunakan data sejarah. Data tersebut lazimnya mencerminkan struktur sosial, ekonomi dan institusi sedia ada, termasuk ketidakseimbangan tertentu atau halusinasi. Tanpa mekanisme semakan dan audit yang berkesan, penggunaan AI berisiko mengulangi atau mengukuhkan bias sedia ada secara automatik dan pada skala yang lebih besar. Keadaan ini boleh menjejaskan prinsip keadilan sosial serta menimbulkan ketidakpercayaan masyarakat terhadap keputusan yang dihasilkan oleh sistem digital.

Sehubungan itu, dasar nasional perlu memastikan penggunaan AI disertai tahap ketelusan yang mencukupi. Ini termasuk kejelasan mengenai tujuan penggunaan, skop dan had keupayaan sistem, serta prosedur semakan sekiranya keputusan yang dihasilkan memberi kesan negatif kepada individu atau kumpulan tertentu. Pendekatan ini penting bagi memastikan peningkatan kecekapan melalui teknologi tidak mengorbankan nilai akauntabiliti dan kepercayaan awam.

Dalam sektor berisiko tinggi seperti kesihatan dan pendidikan, AI wajar berfungsi sebagai sistem sokongan, bukannya pengganti pertimbangan profesional manusia. Walaupun AI mampu membantu mempercepatkan analisis awal atau pengurusan maklumat, keputusan kritikal yang melibatkan kesejahteraan rakyat mesti kekal di bawah tanggungjawab manusia. Garis pemisah yang jelas antara sokongan teknologi dan kuasa membuat keputusan perlu ditetapkan melalui dasar dan garis panduan yang tegas.

Satu lagi cabaran penting yang semakin mendapat perhatian ialah fenomena halusinasi AI, iaitu keadaan apabila sistem AI menghasilkan maklumat yang kelihatan meyakinkan tetapi sebenarnya tidak tepat atau tidak wujud. Hal ini berlaku kerana AI tidak memahami fakta secara mutlak, sebaliknya meramal perkataan berdasarkan corak bahasa dalam data latihan. Tanpa literasi digital dan mekanisme pengesahan yang memadai, pengguna boleh tersalah anggap maklumat tersebut sebagai fakta sahih, sekali gus menjejaskan kualiti wacana awam dan penyebaran maklumat yang bertanggungjawab.

Keberkesanan AI juga sangat bergantung kepada kualiti data yang digunakan. Tadbir urus data merupakan asas penting dalam pembangunan sistem AI yang boleh dipercayai. Data yang tidak lengkap, tidak konsisten atau tidak diselaraskan antara agensi boleh menjejaskan ketepatan output dan seterusnya melemahkan keyakinan terhadap penggunaan AI dalam sektor awam. Justeru, pengurusan data governan yang baik perlu dilihat sebagai sebahagian daripada ekosistem tadbir urus AI secara menyeluruh.

Dalam masa yang sama, landskap AI global memperlihatkan persaingan sengit antara syarikat teknologi utama. Kemunculan model AI baharu seperti Gemini oleh Google telah mendorong pemain lain menyusun semula strategi, termasuk memberi tumpuan kepada pengalaman pengguna, penguasaan ekosistem dan skala pasaran. OpenAI sendiri dilaporkan memberi fokus sepenuhnya kepada penambahbaikan produk teras bagi mengekalkan kedudukan dalam pasaran yang semakin kompetitif. Suasana ini menunjukkan bahawa pembangunan AI bukan sekadar isu teknikal, tetapi turut dipengaruhi faktor ekonomi, psikologi pengguna dan geopolitik teknologi.

Perkembangan global ini mengukuhkan perbahasan mengenai konsep AI berdaulat. Dari sudut dasar awam, AI berdaulat tidak boleh difahami secara sempit sebagai sistem yang sekadar mampu berbahasa tempatan. Sebaliknya, ia melibatkan kawalan sebenar terhadap asas model, data latihan, infrastruktur pengkomputeran, tadbir urus lesen serta mekanisme audit. Tanpa penguasaan terhadap aspek-aspek ini, sesebuah sistem AI berisiko kekal bergantung kepada teknologi luar dan menimbulkan persoalan mengenai kedaulatan digital serta keselamatan data negara.

Dalam konteks Malaysia, strategi nasional perlu mengimbangi keterbukaan teknologi dengan perlindungan kepentingan strategik. Kerajaan mengambil pendekatan berkecuali dan inklusif bagi memastikan syarikat tempatan memperoleh akses terkawal kepada cip AI terkemuka dunia, sambil melindungi kedaulatan data negara. Kawal selia perdagangan strategik melalui Akta Perdagangan Strategik 2010 berperanan penting dalam menjaga rantaian bekalan semikonduktor dan mengurangkan risiko keselamatan.

Pada masa yang sama, usaha memperkukuh keupayaan tempatan diteruskan melalui pembangunan infrastruktur data berdaulat, penyelidikan dan pembangunan, serta visi jangka panjang ke arah keupayaan cip AI buatan Malaysia. Kerjasama antarabangsa dalam sektor semikonduktor turut dimanfaatkan bagi memastikan pemindahan pengetahuan dan akses teknologi berlaku secara berhemat serta selari dengan kepentingan nasional.

Kesimpulannya, AI menawarkan potensi besar untuk menyokong pembangunan negara sekiranya diurus secara berhemah dan bertanggungjawab. Melalui tadbir urus yang kukuh, literasi pengguna, kedaulatan pusat data, keselamatan siber dan strategi nasional yang seimbang, Malaysia berpeluang membina ekosistem AI yang bukan sahaja maju dari segi teknologi, tetapi juga dipercayai serta selari dengan aspirasi pembangunan negara.

Oleh: Ts. Dr. Sabri Ahmad Hisham
E-mel: sabrihisham@umpsa.edu.my

Penulis adalah Pengurus Teknologi Maklumat, Pusat Pembangunan dan Teknologi Maklumat, Universiti Malaysia Pahang Al-Sultan Abdullah (UMPSA).

Rencana ini merupakan pandangan peribadi penulis dan tidak menggambarkan pendirian rasmi Universiti Malaysia Pahang Al-Sultan Abdullah (UMPSA).