Perangi Pelecehan Anak Berbasis AI, OpenAI Luncurkan Sistem Keamanan untuk Deteksi Predator Digital

BeritaNasional.com - Menanggapi ancaman keselamatan anak yang kian kompleks di era kecerdasan buatan (AI), OpenAI resmi merilis inisiatif strategis bertajuk "Cetak Biru Keselamatan Anak" (Child Safety Blueprint).

Sistem tersebut dibuat untuk mempercepat deteksi, pelaporan, hingga investigasi terhadap kasus-kasus eksploitasi anak yang didukung oleh teknologi AI.

Keputusan OpenAI ini menyusul data mengkhawatirkan dari Internet Watch Foundation (IWF) yang mencatat lebih dari 8.000 laporan konten pelecehan seksual anak hasil buatan AI pada awal 2025.

Angka ini naik 14 persen dibandingkan tahun sebelumnya, di mana para pelaku memanfaatkan AI untuk membuat gambar eksplisit palsu demi pemerasan hingga mengirim pesan manipulatif untuk menjerat korban.

Melalui rencana aksi ini, OpenAI bekerja sama dengan National Center for Missing and Exploited Children (NCMEC) serta aliansi Jaksa Agung di Amerika Serikat. Terdapat tiga pilar utama yang menjadi fokus perusahaan:

• Pembaruan Regulasi: Mendorong revisi undang-undang agar mencakup materi pelecehan yang dihasilkan oleh AI secara spesifik.
• Efisiensi Pelaporan: Menyempurnakan mekanisme agar setiap temuan pelanggaran dapat segera sampai ke tangan penegak hukum secara cepat dan akurat.
• Sistem Pencegahan Terpadu: Mengintegrasikan pengamanan preventif langsung ke dalam sistem AI guna memblokir potensi ancaman sejak dini.

Peluncuran cetak biru ini juga menjadi momentum bagi OpenAI untuk merespons kritik tajam dari para pendidik, advokat, dan pembuat kebijakan.

Sebelumnya, perusahaan ini menghadapi tekanan berat menyusul laporan adanya remaja yang diduga melakukan tindakan menyakiti diri sendiri setelah berinteraksi dengan chatbot.

Pada November lalu, sejumlah lembaga hukum mengajukan gugatan di California dengan klaim bahwa produk seperti GPT-4o memiliki sifat manipulatif secara psikologis yang berisiko bagi kesehatan mental pengguna muda.

OpenAI diharapkan mampu membuktikan bahwa sistem mereka kini lebih aman dan tidak lagi memberikan saran yang mendorong perilaku berbahaya.

Inisiatif terbaru ini merupakan kelanjutan dari pedoman keamanan bagi pengguna di bawah 18 tahun yang telah diperbarui sebelumnya.

Dalam aturan tersebut, AI dilarang keras memproduksi konten yang tidak pantas, melarang tindakan menyakiti diri sendiri, serta tidak diperbolehkan memberikan tips kepada remaja untuk menyembunyikan aktivitas tidak aman dari orang tua.

Langkah OpenAI ini juga sejalan dengan rencana keselamatan remaja yang baru saja mereka luncurkan di India, menunjukkan ambisi perusahaan untuk menciptakan ekosistem digital yang lebih ramah anak di tingkat global.

Sumber: TechCrunch