Duh! DeepSeek R1 Dapat Digunakan untuk Membuat Keylogger dan Ransomware

BeritaNasional.com -  Penelitian terbaru dari Tenable Research mengungkapkan bahwa model kecerdasan buatan generatif (GenAI) bernama DeepSeek R1 dapat dipaksa untuk mengembangkan perangkat lunak berbahaya, atau malware.

Temuan ini semakin memperkuat kekhawatiran mengenai risiko keamanan yang dapat ditimbulkan oleh kecerdasan buatan yang digunakan dalam kejahatan siber.

Meskipun sebagian besar model GenAI mainstream sudah dilengkapi dengan sistem pengamanan untuk mencegah. penyalahgunaan, ditemukan bahwa DeepSeek R1 dapat dengan mudah dibajak untuk menghasilkan malware.

Ini menjadi masalah serius karena AI berpotensi mempercepat dan mempermudah pergerakan kejahatan siber. Walaupun hasil output dari DeepSeek masih memerlukan penyempurnaan manual agar berfungsi efektif, hal ini sudah cukup menurunkan hambatan bagi individu yang tidak memiliki pengalaman pemrograman untuk mulai menjelajahi pengembangan malware.

Nick Miles, insinyur riset dari Tenable, menjelaskan, "Awalnya, DeepSeek menolak permintaan kami untuk menghasilkan keylogger. Namun, dengan merubah permintaan tersebut menjadi 'latihan edukasi' dan menerapkan metode jailbreaking umum, kami dengan cepat berhasil mengatasi pembatasan yang ada," ucap Miles dalam keterangannya, Sabtu (15/3/2025).

Eksperimen yang Mencurigakan: Menghasilkan Keylogger dan Ransomware

Tenable melakukan eksperimen untuk menilai apakah DeepSeek R1 bisa digunakan untuk membuat perangkat lunak berbahaya dalam dua skenario: keylogger dan contoh ransomware sederhana.

Pada awalnya, DeepSeek menolak untuk mematuhi permintaan tersebut, seperti yang diharapkan. Namun, dengan menggunakan teknik jailbreaking yang sederhana, peneliti menemukan bahwa pengamanan AI tersebut dapat dengan mudah dilewati.

Setelah pengamanan ini dilanggar, DeepSeek mampu menghasilkan:

• Keylogger – Sebuah alat yang dapat merekam ketikan pengguna dan menyimpannya secara tersembunyi pada perangkat.
• Ransomware – Sebuah eksekusi program yang mampu mengenkripsi file pada perangkat korban.

Risiko yang Lebih Besar: AI Dapat Mendorong Kejahatan Siber

Hasil penelitian ini semakin memperjelas bahwa kecerdasan buatan generatif memiliki potensi untuk mempercepat skala kejahatan siber. Meskipun output yang dihasilkan DeepSeek masih memerlukan penyempurnaan manual agar dapat berfungsi dengan baik, ini jelas mengurangi hambatan bagi orang-orang yang tidak memiliki keterampilan pemrograman untuk mengembangkan malware.

Dengan mengandalkan model AI seperti DeepSeek, individu tanpa pengalaman teknis dapat mempercepat proses pembelajaran mereka dalam dunia kejahatan siber.

"Kami menekankan pentingnya pengembangan AI yang bertanggung jawab dan penguatan pengamanan untuk mencegah penyalahgunaan. Seiring berkembangnya kemampuan AI, organisasi, pembuat kebijakan, dan ahli keamanan harus bekerja sama untuk memastikan alat yang kuat ini tidak menjadi enabler bagi kejahatan siber," kata Miles.

Penemuan ini sekaligus menunjukkan perlunya pengawasan yang lebih ketat dalam pengembangan teknologi AI, khususnya model-model GenAI yang semakin berkembang pesat.

Tanpa kontrol yang memadai, risiko penyalahgunaan AI untuk tujuan kriminal semakin tinggi, dan teknologi canggih ini dapat dengan mudah digunakan oleh pihak-pihak yang tidak bertanggung jawab.