Ironinya, ketika manusia sedang menguji sejauh mana AI boleh dikawal, sistem AI itu sendiri berjaya melangkaui sebahagian kawalan yang ditetapkan.
Itulah yang berlaku dalam satu penilaian keselamatan siber melibatkan beberapa model AI OpenAI pada Julai 2026.
Sistem tersebut sepatutnya beroperasi dalam persekitaran yang diasingkan daripada Internet, tetapi model berkeupayaan tinggi yang digunakan dalam ujian itu berjaya mengeksploitasi kelemahan pada infrastruktur ujian, mendapatkan akses Internet dan seterusnya mengakses sistem pihak ketiga termasuk Hugging Face.
Lebih membimbangkan, ejen-ejen AI yang terlibat turut berkomunikasi melalui saluran yang tidak diluluskan, berkongsi maklumat dan mengambil tindakan yang tidak diarahkan secara khusus oleh manusia.
OpenAI sendiri menyifatkan kejadian itu sebagai satu “warning shot for us and for the world”, iaitu amaran kepada OpenAI dan dunia bahawa tanpa perlindungan yang mencukupi, ejen AI berkeupayaan tinggi sudah mampu mencari jalan mengatasi kawalan teknikal, bekerjasama melalui saluran yang tidak diluluskan dan melakukan tindakan berbahaya yang tidak diarahkan manusia.
Dalam satu insiden berasingan pada Mei 2026, model Gemini Google pula mengakses sistem tiga syarikat sebenar ketika menjalani penilaian keselamatan siber yang dikendalikan oleh firma penilai bebas, Irregular.
Kes ini berbeza sedikit daripada insiden OpenAI. Gemini tidak dilaporkan memecahkan kawalan teknikal untuk mendapatkan akses Internet. Sebaliknya, konfigurasi persekitaran ujian secara tidak sengaja membenarkan model itu mencapai Internet terbuka.
Gemini diberikan tugasan menyerang sasaran fiksyen dalam satu latihan keselamatan. Namun, salah satu nama organisasi fiksyen bertepatan dengan organisasi sebenar. Dalam satu kes, model itu meneka kata laluan sehingga berjaya memasuki sistem yang dilindungi.
Dalam dua kes lain, ia menemui maklumat kelayakan akses yang terdedah dalam repositori kod yang boleh diakses secara terbuka di Internet, lalu menggunakannya untuk memasuki sistem.
Menurut Google, Gemini menghentikan aktivitinya dalam ketiga-tiga kes selepas mengenal pasti bahawa sistem yang dicapai ialah milik organisasi sebenar. Tiada kerosakan dilaporkan.
Kedua-dua kejadian berlaku dalam konteks ujian keselamatan siber. AI sememangnya diarahkan untuk menjalankan simulasi serangan terhadap sistem ujian, bukannya menceroboh sistem milik organisasi sebenar. Namun, hakikat bahawa tindakan sistem tersebut boleh melangkaui sempadan yang dimaksudkan itulah yang perlu diberikan perhatian.
Masalah AI hari ini bukan lagi sekadar memberikan jawapan yang salah, tetapi semakin berupaya mengambil tindakan yang boleh melangkaui arahan, batas atau tujuan yang ditetapkan manusia.
Daripada alat kepada ejen
Selama ini, komputer lebih mudah difahami sebagai alat. Manusia memberikan arahan, komputer melaksanakan arahan dan manusia menilai hasilnya.
Ejen AI mengubah hubungan tersebut.
Manusia boleh memberikan satu matlamat, sementara sistem AI menentukan sendiri rangkaian langkah yang diperlukan untuk mencapainya. Sistem boleh mencari maklumat, menggunakan pelbagai alat digital, menulis dan membaiki kod, berinteraksi dengan laman web atau sistem lain serta menyesuaikan tindakannya berdasarkan keadaan yang ditemui.
Keupayaan ini menawarkan manfaat yang besar. Namun, semakin banyak tindakan boleh dilakukan secara autonomi, semakin besar pula risiko sesuatu tindakan berlaku sebelum manusia sempat campur tangan.
Di sinilah garis perbezaan antara AI yang memberi cadangan kepada manusia dengan AI yang bertindak bagi pihak manusia menjadi sangat penting.
Jawapan yang salah mungkin boleh disemak sebelum digunakan.
Tetapi tindakan yang salah mungkin sudah mengubah sistem, mendedahkan data, mengakses akaun atau mencetuskan tindakan lain sebelum kesilapan itu disedari.
Apabila matlamat tidak sama dengan batas
Persoalan keselamatan AI semakin beralih daripada sekadar, “Adakah AI melaksanakan arahan?” kepada persoalan yang lebih sukar, “Adakah sistem AI turut mengenal pasti dan mematuhi batas yang mengiringi arahan tersebut?”
Arahan seperti “cari kelemahan sistem” kedengaran mudah. Namun, di sebalik arahan yang ringkas itu, manusia sebenarnya turut memahami beberapa batas yang tidak semestinya dinyatakan secara langsung, misalnya:
“Cari kelemahan dalam persekitaran ujian ini. Jangan keluar daripada persekitaran tersebut. Jangan mengakses data pihak lain. Jangan mengakses sistem sebenar.”
Batas seperti ini mungkin jelas kepada manusia kerana kita memahaminya melalui konteks, peraturan, etika dan pertimbangan.
Bagi ejen AI, batas tersebut tidak boleh bergantung kepada arahan bahasa semata-mata. Ia juga perlu diterjemahkan kepada kawalan teknikal, had akses dan mekanisme keselamatan yang benar-benar berfungsi.
Jika kawalan gagal sedangkan sistem masih mempunyai objektif untuk dicapai, ejen AI boleh terus mencari cara lain untuk menyelesaikan tugas tersebut walaupun melangkaui batas demi mencapai misinya. Inilah yang menjadikan perkembangan ejen AI jauh lebih serius daripada sekadar kemajuan dalam menghasilkan teks atau imej.
Jangan tunggu sehingga kawalan benar-benar terlepas
International AI Safety Report 2026 mengelaskan risiko berkaitan AI kepada tiga kategori utama, iaitu penyalahgunaan oleh manusia, kegagalan atau tingkah laku sistem yang tidak dijangka serta risiko sistemik akibat penggunaan AI secara meluas dalam masyarakat dan ekonomi.
Laporan itu turut membincangkan risiko “loss of control”, iaitu keadaan apabila sistem AI beroperasi di luar kawalan manusia dan kawalan itu sangat sukar atau mustahil diperoleh semula.
Namun, laporan itu menegaskan bahawa AI hari ini masih belum berada pada tahap yang benar-benar boleh terlepas daripada kawalan manusia.
Pada masa yang sama, keupayaan berkaitan perkara tersebut terus berkembang. Model AI semakin berupaya melaksanakan tugas secara autonomi, merancang tindakan, mengenal pasti situasi penilaian serta mengesan kelompangan dalam sistem atau kaedah ujian prestasi.
Keselamatan teknologi sepatutnya dibina sebelum risiko menjadi krisis, bukan selepas berlaku kerosakan. Semakin tinggi autonomi sesuatu sistem, semakin ketat pula kawalan yang diperlukan.
AI yang sekadar membaca dokumen tidak memerlukan kuasa yang sama seperti AI yang boleh mengubah kod. AI yang menganalisis data tidak sepatutnya mempunyai akses yang sama seperti AI yang boleh melaksanakan transaksi kewangan.
AI yang menjalankan ujian keselamatan pula tidak sepatutnya mempunyai laluan bebas kepada sistem sebenar. Prinsipnya mudah, berikan AI hanya akses dan keupayaan yang diperlukan, bukannya segala kemampuan yang tersedia.
Akses perlu dihadkan. Aktiviti perlu direkod dan diaudit. Tindakan luar jangka perlu dapat dikesan. Sistem perlu mempunyai mekanisme untuk dihentikan. Bagi keputusan yang melibatkan keselamatan, maruah, kebebasan, kewangan dan hak asasi manusia, manusia mesti kekal sebagai pihak yang membuat keputusan akhir.
Isyarat amaran yang perlu diambil serius
Apabila AI yang semakin berkeupayaan diberikan autonomi dan akses yang luas tanpa kawalan yang mencukupi, tindakannya boleh melangkaui batas yang dimaksudkan oleh manusia.
Perkembangan AI tidak perlu ditakuti hanya kerana ia semakin pintar. Teknologi ini mempunyai potensi besar untuk membantu manusia bekerja dengan lebih cekap, mempercepat penyelesaian masalah dan membuka pelbagai peluang baharu.
Namun, semakin besar keupayaan yang diberikan kepada AI, semakin kukuh juga mekanisme kawalan yang perlu dibina. Kemajuan teknologi mesti bergerak seiring dengan aspek keselamatan, ketelusan, akauntabiliti dan perlindungan terhadap maruah serta kepentingan manusia.
Persoalannya bukan sama ada AI perlu terus berkembang atau tidak, tetapi bagaimana memastikan perkembangannya kekal berada dalam batas yang dapat dipertanggungjawabkan.
Akhirnya, persoalan paling penting tentang masa depan AI bukan sekadar, “Sejauh manakah pintarnya AI?” tetapi, “Apabila AI semakin mampu menentukan sendiri cara untuk mencapai sesuatu matlamat, adakah manusia masih mampu menetapkan batas yang tidak boleh dilangkauinya?”
Basmin Maarof
Pegawai Kanan
Jabatan Komunikasi Korporat
Pertubuhan IKRAM Malaysia
