Wamenkomdigi Wanti-wanti Bahaya Deepfake AI, Masyarakat Sulit Bedakan Konten Asli

BeritaNasional.com - Perkembangan pesat Kecerdasan Artifisial (AI) kini menjadi pisau bermata dua. Di satu sisi membawa efisiensi, di sisi lain teknologi ini kian memperumit ancaman penipuan digital karena mampu memproduksi konten palsu yang luar biasa mirip dengan aslinya.

Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria mengingatkan penyalahgunaan AI lewat teknologi deepfake kini menjelma sebagai tantangan etis dan keamanan siber yang wajib diwaspadai secara serius.

“Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat mulus,” ujarnya melalui siaran persnya yang dikutip pada Rabu (17/06/2026).

Menurut Nezar, lompatan teknologi AI saat ini melaju sangat kencang. Industri teknologi bahkan telah melampaui fase generative AI dan kini mulai bergerak menuju pengembangan agentic AI serta berbagai inovasi baru lain.

Nezar menyoroti para pelaku kejahatan siber memanfaatkan AI untuk melancarkan aksi penipuan (scam) bermodus deepfake. 

Manipulasi berbasis AI ini telah berevolusi menjadi synthetic reality atau realitas sintetik, sebuah kondisi di mana masyarakat awam bakal semakin sulit membedakan mana konten yang tulen dan mana yang hasil rekayasa komputer.

"Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa," tegasnya.

Melihat ngerinya potensi salah guna pada agentic AI yang memiliki kemampuan bernalar dan mengambil keputusan mandiri, Nezar mengingatkan pentingnya memegang teguh prinsip human in the loop (keterlibatan manusia).

Langkah ini krusial agar kendali dan keputusan penting tidak sepenuhnya dilepas kepada mesin.

“Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making,” jelasnya.

Lebih lanjut, Wamenkomdigi menegaskan bahwa pendekatan etika dalam pengembangan AI sudah tidak bisa lagi bersifat sukarela (voluntary) seperti masa-masa awal kemunculannya. 

Ia mendesak agar aspek transparansi, akuntabilitas, dan keamanan diwujudkan secara nyata sejak awal merancang teknologi lewat pendekatan ethics by design.

“Transparency, accountability, safety, itu harus hadir di dalam implementasi, di dalam pengembangan satu produk AI,” katanya.

Melalui forum Indonesia Ethical AI Summit ini, Nezar mendorong seluruh kolaborasi dari para pengembang, pelaku industri, akademisi, hingga komunitas pengguna AI untuk memperketat tata kelola dan mitigasi risiko sejak dini.

“Semoga kita bisa merumuskan langkah-langkah yang tepat dan pemikiran dari forum ini mungkin bisa menjadi pertimbangan-pertimbangan dalam membuat satu kebijakan AI yang etis di Indonesia,” tandasnya.