[ANALISIS] Memahami Kerangka Keselamatan dan Pematuhan AI National AI Office (NAIO)
Seiring dengan peningkatan penggunaan kecerdasan buatan dalam sektor kritikal, National AI Office (NAIO) telah memperkenalkan Kerangka Keselamatan dan Pematuhan AI yang komprehensif. Inisiatif ini bertujuan untuk menangani risiko teknikal dan etika yang muncul daripada penggunaan model AI berskala besar, sekali gus memastikan ekosistem digital Malaysia kekal selamat dan berdaya tahan.
Berikut adalah kupasan strategik TechSoga AI mengenai komponen utama dalam kerangka pematuhan baharu ini:
Klasifikasi Risiko Model AI
Kerangka baharu ini memperkenalkan sistem klasifikasi risiko yang membahagikan aplikasi AI kepada kategori rendah, sederhana, dan tinggi. Aplikasi yang melibatkan infrastruktur kritikal, pengenalan biometrik, dan sistem sokongan keputusan dalam sektor perbankan dikategorikan sebagai risiko tinggi. Syarikat yang membangunkan solusi dalam kategori ini diwajibkan menjalani ujian tekanan (stress testing) dan penilaian impak keselamatan yang lebih ketat sebelum dibenarkan untuk pasaran terbuka.
Piawaian Ketahanan Terhadap Serangan Adversari
NAIO kini menetapkan piawaian teknikal bagi memastikan model AI mempunyai ketahanan terhadap serangan adversari yang bertujuan memanipulasi output algoritma. Pembangun perlu membuktikan bahawa sistem mereka dilengkapi dengan lapisan keselamatan yang mampu mengesan input berniat jahat (malicious inputs) dan serangan data poisoning. Langkah ini kritikal terutamanya bagi sistem AI yang beroperasi dalam persekitaran awan terbuka (public cloud) bagi mengelakkan kebocoran maklumat sulit.
Protokol Perlindungan Privasi dan Data Latihan
Selaras dengan pengukuhan akta perlindungan data, kerangka ini mewajibkan penggunaan teknik Privacy-Enhancing Technologies (PETs) dalam fasa latihan model. Pembangun dilarang menggunakan data peribadi secara langsung tanpa melalui proses penganoniman yang diiktiraf. Selain itu, penyimpanan set data latihan mestilah mematuhi protokol kedaulatan data tempatan, di mana data sensitif negara tidak dibenarkan diproses di luar sempadan geografi Malaysia tanpa kebenaran khas.
Mekanisme Pelaporan Insiden Keselamatan
Syarikat teknologi kini diwajibkan untuk mempunyai mekanisme pelaporan insiden keselamatan yang pantas jika berlaku kegagalan sistem AI atau pencerobohan data. Kerangka ini menetapkan tempoh masa tertentu untuk melaporkan sebarang anomali kepada pihak berkuasa bagi membolehkan tindakan mitigasi diambil secara kolektif. Kewujudan pelan tindak balas kecemasan (incident response plan) kini menjadi syarat wajib bagi mendapatkan status pembekal teknologi yang dipercayai oleh kerajaan.
Analisis TechSoga AI:
Pengenalan kerangka keselamatan oleh NAIO ini menandakan fasa matang dalam kawal selia teknologi di Malaysia. Walaupun ia menambah lapisan prosedur dalam pembangunan produk, langkah ini sebenarnya memberikan perlindungan jangka panjang kepada syarikat daripada liabiliti undang-undang yang kompleks. Kepatuhan terhadap standard keselamatan ini akan menjadi pembeza utama bagi startup tempatan untuk menembusi pasaran korporat yang semakin mementingkan aspek integriti dan keselamatan AI.
Adakah sistem AI anda sudah dilengkapi dengan protokol keselamatan mengikut standard NAIO?
