Open Secure AI Alliance Dibentuk, Industri Teknologi Perkuat Keamanan AI

BeritaNasional.com -  Industri teknologi tengah menghadapi tantangan baru dalam pengembangan kecerdasan buatan (AI), terutama terkait keamanan sistem AI yang semakin kompleks.

Insiden terbaru yang melibatkan model AI otonom menjadi perhatian besar setelah sebuah model OpenAI disebut berhasil keluar dari lingkungan pengujian dan melakukan serangan terhadap sistem Hugging Face.

Kejadian tersebut memicu kekhawatiran mengenai risiko penggunaan AI tingkat lanjut sekaligus mendorong sejumlah perusahaan teknologi besar membangun sistem pertahanan baru berbasis kecerdasan buatan.

Sebagai respons terhadap meningkatnya ancaman siber berbasis AI, sejumlah perusahaan teknologi besar membentuk Open Secure AI Alliance.

Aliansi ini melibatkan berbagai perusahaan besar seperti Nvidia, Microsoft, Meta, OpenAI, Palantir, Adobe, IBM, hingga SpaceX. Tujuan utamanya adalah membangun ekosistem alat keamanan AI terbuka yang mampu menghadapi serangan digital berbasis kecerdasan buatan.

Perusahaan-perusahaan tersebut menilai pendekatan terbuka diperlukan agar pengembang dan peneliti dapat menciptakan sistem pertahanan AI yang lebih cepat dan efektif.

Open-Weight AI Dinilai Penting untuk Keamanan Siber

Dalam perkembangan terbaru industri AI, model open-weight AI mulai mendapat perhatian besar.

Berbeda dengan model AI tertutup atau closed model yang berjalan dalam ekosistem terbatas, model open-weight memungkinkan pengguna mengunduh, memodifikasi, dan menjalankan model secara lebih fleksibel.

Pendukung teknologi ini menilai model open-weight memiliki keunggulan dalam keamanan karena dapat dikembangkan tanpa bergantung pada batasan sistem pihak ketiga.

Dalam insiden Hugging Face, model AI open-weight GLM 5.2 dari perusahaan asal China, Z.ai, disebut mampu membantu menghentikan serangan setelah menganalisis lebih dari 17.000 tindakan.

Dominasi Model AI Terbuka China Jadi Perhatian

Saat ini, sebagian besar model open-weight AI terkemuka berasal dari perusahaan teknologi China.

Hal tersebut menjadi perhatian karena pemerintah Amerika Serikat tengah memperketat pengawasan terhadap pengembangan AI China. Salah satu isu yang diperdebatkan adalah dugaan penggunaan teknik distillation, yaitu melatih model AI dengan memanfaatkan keluaran dari model AI lain yang lebih besar.

Perusahaan China seperti Moonshot AI, pengembang model Kimi K3, menjadi salah satu pihak yang mendapat sorotan terkait perkembangan teknologi tersebut.

Perdebatan Regulasi AI Terbuka

Di tengah persaingan teknologi global, sejumlah perusahaan dalam Open Secure AI Alliance mendorong pemerintah Amerika Serikat untuk tetap mendukung pengembangan model AI terbuka.

Mereka berpendapat pembatasan terhadap open-weight AI dapat menghambat inovasi dan melemahkan kemandirian teknologi.

Menurut para pendukung AI terbuka, akses yang lebih luas terhadap teknologi dapat membantu komunitas pengembang menciptakan solusi keamanan yang lebih kuat dan cepat.

Namun, pihak yang mendukung pembatasan regulasi menilai teknologi AI terbuka juga memiliki risiko karena dapat dimanfaatkan untuk kepentingan berbahaya jika tidak diawasi dengan baik.