Meta Perkuat Perlindungan AI untuk Remaja, Batasi Topik Sensitif dan Konten Tak Senonoh

BeritaNasional.com - Meta mengambil langkah cepat mengubah cara kerja chatbot AI untuk memprioritaskan keselamatan remaja setelah mendapat sorotan tajam dari laporan investigasi dan tekanan publik dunia. 

Dilansir dari TechCrunch pada Selasa (2/9/2025), perusahaan teknologi ini mengumumkan bahwa AI chatbot kini dilatih untuk tidak lagi membahas topik sensitif seperti bunuh diri, gangguan makan, atau percakapan romantis yang tidak pantas dengan pengguna di bawah umur.

Perubahan ini dilakukan menyusul laporan investigasi Reuters yang mengungkap dokumen internal Meta yang seolah mengizinkan chatbot berinteraksi dalam percakapan seksual dengan anak di bawah umur.

Laporan tersebut memicu kontroversi dan menuai kecaman dari politisi hingga Jaksa Agung di Amerika Serikat.

Juru Bicara Meta Stephanie Otway mengakui bahwa sebelumnya chatbot mereka memang bisa berinteraksi dengan remaja tentang berbagai topik. 

Namun, kini mereka menyadari adanya kesalahan. Otway menjelaskan, ini merupakan langkah awal yang bersifat sementara sambil Meta mempersiapkan pembaruan keamanan jangka panjang.

“Seiring berkembangnya komunitas kami dan perkembangan teknologi, kami terus mempelajari bagaimana anak muda dapat berinteraksi dengan perangkat ini dan memperkuat perlindungan kami,” ujar Otway beberapa waktu lalu.

Ia menambahkan, sebagai tindakan pencegahan ekstra, Meta melatih AI untuk mengarahkan pengguna remaja ke sumber daya ahli alih-alih berinteraksi langsung tentang topik sensitif. 

Selain itu, akses remaja ke karakter AI buatan pengguna bernuansa seksual akan dibatasi. Pengguna di bawah umur hanya bisa mengakses karakter AI yang berfokus pada pendidikan dan kreativitas.

“Kami secara seragam muak dengan pengabaian yang tampak ini terhadap kesejahteraan emosional anak-anak,” bunyi surat dari para Jaksa Agung, “dan khawatir bahwa Asisten AI terlibat dalam perilaku yang tampaknya dilarang oleh hukum pidana kami masing-masing,” katanya.

Otway menolak berkomentar mengenai jumlah pengguna remaja pada chatbot AI Meta. Namun, ia menegaskan bahwa Meta akan terus menyesuaikan pendekatannya untuk memastikan remaja memiliki pengalaman yang aman dan sesuai usia saat berinteraksi dengan AI.