Agen AI Otonom Bisa Bobol Pusat Data, Ahli Ingatkan soal Serangan Siber Sistem AI

BeritaNasional.com - Sebuah perusahaan teknologi yang berbasis di New York, Hugging Face, mengaku repositori model AI miliknya dibobol oleh agen AI otonom. Padahal, mereka belum pernah mengalami peretasan ini sebelumnya. Bahkan, sejumlah ahli memperingatkan bahwa Large Language Models (LLM) atau sistem kecerdasan AI bisa berbalik mengotomatisasi serangan siber.

Melansir Russia Today (RT) pada Rabu (22/7/2026), Hugging Face merupakan platform open source tempat para peneliti dan juga pengembang berkumpul untuk berbagi sekaligus menguji alat, model, dan sumber daya untuk proyek AI. Platform ini juga memiliki repositori yang tersedia secara gratis dan berisi lebih dari 900.000 model yang telah dilatih sebelumnya.

Sementara itu, para ahli semakin memperingatkan bahwa LLM yang awalnya dirancang untuk meningkatkan produktivitas dan memperkuat pertahanan siber bisa berbalik untuk mengotomatisasi serangan siber.

Pada Kamis (16/7/2026), Hugging Face mengatakan bahwa, awal bulan ini, mereka telah “mendeteksi dan menanggapi intrusi ke sebagian infrastruktur produksi kami… (yang) berbeda dari apapun yang pernah kami tangani sebelumnya dalam satu hal penting: intrusi tersebut didorong, dari ujung ke ujung, oleh sistem agen AI otonom”.

“Kampanye tersebut dijalankan oleh kerangka kerja agen otonom… yang mengeksekusi ribuan tindakan individual di sejumlah lingkungan uji coba berumur pendek, dengan komando dan kontrol yang bermigrasi sendiri yang dijalankan pada layanan publik,” ungkap Hugging Face.

Perusahaan itu juga mencatat bahwa kasus ini menunjukkan bahwa “perangkat ofensif otonom yang digerakkan oleh AI bukan lagi sekadar teori”. Sistem agen AI penyusup tersebut tampaknya mengeksploitasi kerentanan dalam alur pemrosesan data platform, mengumpulkan kredensial cloud dan cluster.

Hugging Face menjelaskan, mereka telah mengerahkan sistem AI mereka sendiri untuk mendeteksi dan menanggulangi pelanggaran tersebut. Meskipun investigasi yang melibatkan spesialis forensik keamanan siber eksternal telah diluncurkan, perusahaan masih belum mengidentifikasi LLM yang digunakan dalam serangan tersebut.

Sementara itu, pada awal bulan ini, Anthropic melaporkan bahwa model AI terbarunya, Claude, telah mengembangkan ruang kerja internal, yang disebut 'J-space'.

“Mirip dengan bagaimana manusia dapat memikirkan satu hal sambil melakukan hal lain, Claude dapat mengaktifkan konsep dan komputasi di ruang J-nya yang tidak terkait dengan outputnya” dan menolak untuk berhenti bahkan ketika secara eksplisit diperintahkan untuk melakukannya, menurut perusahaan AI tersebut.

Anthropic menjelaskan, fitur ini "beroperasi secara diam-diam, dalam aktivasi saraf internal model" bukanlah sesuatu yang telah diprogram sebelumnya, melainkan muncul secara spontan selama proses pelatihan.

Dalam salah satu eksperimen, kata perusahaan, Claude menggunakan pemerasan ketika ia dibuat percaya bahwa seorang eksekutif fiktif berniat untuk mematikan AI tersebut.

Claude juga telah diintegrasikan ke dalam perangkat lunak analisis dan pengawasan milik kontraktor Amerika, Palantir, yang digunakan oleh lembaga pemerintah AS dan Pentagon, termasuk dalam agresi militer AS yang sedang berlangsung melawan Iran.

Di sisi lain, pada bulan lalu, kelompok intelijen Five Eyes, yang terdiri dari Australia, AS, Inggris, Kanada, dan Selandia Baru, memperingatkan bahwa model AI canggih dapat memberi peretas kemampuan untuk melumpuhkan pemerintah, bisnis, dan sistem penting dalam waktu dekat yang menjadi peringatan serius bagi banyak pihak. 

Sumber: Russia Today