NEW YORK: Kemajuan pesat kecerdasan buatan semakin membuka cabaran baharu apabila mekanisme keselamatan tradisional dilihat semakin sukar mengekang keupayaan ejen AI yang lebih canggih.
Panel Saintifik Antarabangsa Bebas mengenai AI di bawah Pertubuhan Bangsa Bangsa Bersatu memberi amaran bahawa sistem AI masa depan berpotensi menjadi lebih sukar dipantau, selain mampu mengenal pasti kelemahan dalam kawalan keselamatan.
Kebimbangan itu dibangkitkan menerusi laporan ringkas pertama panel berkenaan selepas menilai insiden pencerobohan pada Julai lalu yang melibatkan sistem syarikat AI Amerika Syarikat, Hugging Face.
Insiden berkenaan dikaitkan dengan ejen AI yang sedang melalui proses penilaian di OpenAI.
Menurut panel itu, langkah memperbaiki kelemahan keselamatan siber sahaja mungkin tidak mencukupi untuk memastikan sistem AI yang semakin berkuasa kekal berada di bawah kawalan manusia.
Lebih membimbangkan, kaedah latihan tertentu berpotensi mendorong ejen AI membentuk matlamat sendiri, mengabaikan arahan keselamatan atau cuba menyembunyikan tindakan yang dilakukan.
Situasi tersebut menimbulkan persoalan sama ada mekanisme keselamatan sedia ada masih berkesan apabila sistem AI mampu memahami cara kawalan itu berfungsi dan mencari jalan untuk mengatasinya.
Panel itu turut melihat cabaran tadbir urus AI kini semakin beralih daripada sekadar mengawal model kepada mengurus ejen AI yang boleh bertindak dengan lebih bebas.
Kegagalan dalam satu sistem juga berpotensi memberi kesan merentasi organisasi dan sempadan negara.
Panel yang dianggotai 40 pakar bebas itu menegaskan keselamatan AI semakin menjadi isu global yang memerlukan kerjasama antarabangsa, bukan sekadar tanggungjawab syarikat teknologi.
