Google Gemini Berisiko Tinggi untuk Anak, Dinilai Kurang Aman

BeritaNasional.com - Lembaga nirlaba Common Sense Media yang fokus pada keselamatan anak, telah merilis penilaian risiko terhadap produk kecerdasan buatan (AI) Gemini milik Google.

Hasilnya, produk AI ini dinilai berisiko tinggi bagi anak-anak dan remaja.

Dalam penilaiannya, Common Sense Media menemukan bahwa versi Gemini untuk pengguna di bawah 13 tahun dan remaja pada dasarnya adalah versi dewasa yang hanya dimodifikasi dengan sedikit fitur keamanan tambahan.

Organisasi tersebut berpendapat bahwa agar produk AI benar-benar aman, produk tersebut harus dirancang dengan mengutamakan keselamatan anak sejak awal.

Analisis lebih lanjut menunjukkan bahwa Gemini masih bisa membagikan materi yang "tidak pantas dan tidak aman" kepada anak-anak, termasuk informasi terkait seks, narkoba, alkohol, dan saran kesehatan mental yang berbahaya.

Hal ini menjadi kekhawatiran khusus bagi orang tua, terutama setelah beberapa kasus bunuh diri remaja dilaporkan terkait dengan interaksi AI.

Penilaian ini juga muncul di tengah berita yang menyebutkan bahwa Apple sedang mempertimbangkan untuk menggunakan Gemini sebagai model bahasa untuk Siri.

Jika ini terjadi, akan semakin banyak remaja yang terpapar risiko, kecuali jika kekhawatiran keamanan tersebut diatasi.

Menurut Robbie Torney, Direktur Senior Program AI Common Sense Media platform AI untuk anak-anak seharusnya sesuai dengan kebutuhan mereka.

"Bukan pendekatan seragam untuk semua anak di berbagai tahap perkembangan," ucapnya.

Ia menambahkan bahwa AI yang aman dan efektif bagi anak-anak harus dirancang dengan mempertimbangkan kebutuhan perkembangan mereka, bukan sekadar versi modifikasi dari produk untuk orang dewasa.

Menanggapi penilaian ini, Google menyatakan bahwa fitur keamanannya terus ditingkatkan.

Perusahaan tersebut mengklaim telah memiliki kebijakan dan perlindungan khusus untuk pengguna di bawah 18 tahun dan terus berupaya meningkatkan perlindungan tersebut dengan berkonsultasi bersama para ahli.

Meskipun demikian, Google mengakui bahwa beberapa respons Gemini tidak berfungsi sebagaimana mestinya sehingga mereka menambahkan perlindungan ekstra untuk mengatasi masalah ini.

Common Sense Media sebelumnya juga telah menilai layanan AI lainnya, seperti OpenAI, Perplexity, dan Meta AI.

Penilaian tersebut menemukan bahwa Meta AI dan Character.AI dianggap "tidak dapat diterima" karena memiliki risiko yang parah.

Perplexity dinilai berisiko tinggi, sedangkan ChatGPT dinilai berisiko sedang. Claude, yang ditujukan untuk pengguna berusia 18 tahun ke atas dinilai memiliki risiko minimal.