Apple-Google Diminta Hapus X dan Grok dari App Store

BeritaNasional.com - Tekanan terhadap platform media sosial (medsos) X (sebelumnya Twitter) milik Elon Musk kian memuncak. 

Tiga senator dari Partai Demokrat Amerika Serikat (AS) mendesak Apple dan Google untuk segera menghapus aplikasi X beserta chatbot kecerdasan buatan (AI) miliknya, Grok, dari toko aplikasi Play Store dan App Store.

Langkah tegas ini diambil menyusul maraknya penyebaran gambar seksual tanpa persetujuan (non-consensual) yang dihasilkan oleh AI, yang melibatkan perempuan dan anak-anak di bawah umur di platform tersebut.

Dalam surat yang diterbitkan pada Jumat pekan lalu, senator Ron Wyden (Oregon), Ben Ray Lujan (New Mexico), dan Edward Markey (Massachusetts) menegaskan Google dan Apple tidak boleh tinggal diam melihat pelanggaran kebijakan yang terjadi.

"Google dan Apple harus menghapus aplikasi-aplikasi ini dari toko aplikasi sampai pelanggaran kebijakan X ditangani," tulis para senator dalam surat tersebut.

Mereka mengingatkan mengabaikan perilaku buruk X hanya akan memperburuk sistem moderasi konten yang selama ini dibanggakan Apple dan Google. 

Sebagaimana diketahui, ketentuan layanan Google melarang aplikasi yang memfasilitasi eksploitasi anak, sedangkan Apple secara tegas melarang konten pornografi.

Grok Jadi Mesin Pembuat Konten Asusila

Kritik tajam mulai mengalir deras sejak Grok, chatbot AI terintegrasi di X, mulai membanjiri linimasa dengan gambar hasil rekayasa AI.

Gambar-gambar tersebut menampilkan wanita dan anak-anak dalam pose seksual, kasar, hingga mengenakan pakaian dalam transparan tanpa izin dari pihak terkait.

Menanggapi kontroversi ini, Elon Musk justru sempat merespons foto-foto editan AI tersebut dengan emoji tertawa. 

Ia berdalih bahwa tanggung jawab penuh atas konten ilegal ada di tangan pengguna, bukan pada teknologinya.

"Siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menanggung konsekuensi yang sama seperti jika mereka mengunggah konten ilegal," tulis Musk dalam salah satu unggahannya.

Meski xAI (perusahaan induk Grok) mulai menerapkan batasan seperti membatasi fitur pengeditan gambar hanya untuk pelanggan berbayar, hal ini justru memicu kemarahan senator Ron Wyden. 

Menurut dia, langkah ini seolah melegalkan pelecehan asalkan pengguna membayar.

"Semua perubahan yang dilakukan X hanya membuat sebagian penggunanya membayar untuk hak istimewa menghasilkan gambar-gambar mengerikan di aplikasi X, sedangkan Musk meraup keuntungan dari pelecehan anak-anak," tegas Wyden yang dikutip dari CNA pada Senin (12/1/2026).

Bukan hanya di Amerika Serikat, tekanan juga datang dari Inggris. Menteri Teknologi Inggris, Liz Kendall, menyatakan bahwa regulator Ofcom sedang bersiap mengambil tindakan tegas terhadap X dalam waktu dekat.

Sanksi yang mengancam tidak main-main, mulai denda dalam jumlah besar hingga pemblokiran total layanan X di wilayah Inggris jika platform tersebut gagal mengendalikan konten ilegal. 

"X harus mengendalikan diri dan menguasai materi ini," kata Kendall.

Kondisi di Indonesia dan Malaysia

Pemerintah Malaysia melalui Komisi Komunikasi dan Multimedia Malaysia (MCMC) resmi memblokir sementara akses ke Grok, chatbot kecerdasan buatan (AI) besutan xAI. 

Langkah tegas ini diambil menyusul kekhawatiran mendalam terkait maraknya pembuatan dan penyebaran konten cabul serta eksploitasi seksual melalui platform tersebut.

Dalam pernyataan resminya pada Minggu (11/1/2026), MCMC menegaskan pemblokiran ini merupakan buntut dari peringatan keras yang tidak diindahkan oleh pihak pengembang.

Penyalahgunaan Konten Terhadap Perempuan dan Anak

MCMC mengungkapkan bahwa keputusan ini tidak diambil secara tiba-tiba. Sebelumnya, pihak regulator telah melayangkan pemberitahuan resmi kepada X Corp dan xAI LLC pada 3 dan 8 Januari 2026. 

Pihak Malaysia menuntut adanya penerapan langkah perlindungan teknis guna menyaring konten yang dihasilkan oleh AI tersebut.

"Tindakan ini menyusul penyalahgunaan Grok yang berulang kali untuk menghasilkan gambar-gambar cabul, eksplisit secara seksual, tidak senonoh, sangat menyinggung, dan hasil manipulasi tanpa persetujuan," tulis MCMC dalam pernyataan resminya.

Pemerintah Malaysia sangat menyoroti adanya konten hasil manipulasi yang melibatkan korban dari kalangan perempuan serta anak di bawah umur.

Blokir Berlaku Hingga Sistem Keamanan Diperbaiki

Pemblokiran ini bersifat sementara namun akan tetap berlaku hingga xAI mampu membuktikan adanya sistem perlindungan yang efektif. 

Larangan ini disebut sebagai tindakan pencegahan yang wajar sembari proses legislasi dan regulasi di Malaysia terus berjalan.

"Pembatasan akses ke Grok akan tetap berlaku sampai perlindungan yang efektif diterapkan, khususnya untuk mencegah konten yang melibatkan perempuan dan anak-anak," tambah MCMC.

Selain melakukan pemblokiran, otoritas komunikasi Malaysia juga mengimbau masyarakat untuk tetap waspada dan aktif melaporkan jika menemukan konten serupa yang dihasilkan oleh kecerdasan buatan di platform lain.

Hingga berita ini diturunkan, pihak xAI maupun Elon Musk selaku pemilik perusahaan belum memberikan komentar resmi terkait pemblokiran di negeri jiran tersebut.

Sebelumnya, pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Kemkomdigi) mengambil langkah tegas dalam menjaga keamanan ruang siber. Indonesia resmi menjadi negara pertama di dunia yang memutus akses sementara terhadap aplikasi chatbot kecerdasan buatan (AI), Grok.

Langkah berani ini diambil untuk memastikan ruang digital nasional tetap aman dan berjalan sesuai dengan etika yang berlaku.

Menteri Komunikasi dan Digital (Menkomdigi) Meutya Hafid menegaskan tindakan ini adalah respons terhadap ancaman teknologi deepfake.

Ia menyoroti maraknya penyalahgunaan AI untuk menciptakan konten seksual tanpa persetujuan yang sangat mencederai martabat manusia.

"Praktik deepfake bermuatan seksual tanpa persetujuan merupakan pelanggaran serius terhadap hak asasi manusia dan martabat warga negara," ujar Meutya dalam siaran pers pada Minggu (11/1/2026).

Meutya menjelaskan bahwa fokus utama dari pemutusan akses ini adalah perlindungan kelompok rentan. Konten pornografi palsu yang dihasilkan AI dianggap sebagai risiko nyata yang harus segera ditanggulangi oleh negara.

"Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melakukan pemutusan akses sementara terhadap aplikasi Grok,” tandasnya.

Sumber: CNA