Waduh, Sejuta Pengguna ChatGPT Bahas Keinginan Bunuh Diri Setiap Pekan

BeritaNasional.com - Perusahaan kecerdasan buatan (AI) OpenAI merilis data yang menunjukkan bahwa sebagian kecil pengguna ChatGPT mengalami permasalahan kesehatan mental. Mereka juga membicarakan masalahnya dengan chatbot tersebut.

Dilansir dari Tech Crunch, OpenAI menyebut sekitar 0,15 persen pengguna aktif ChatGPT setiap minggu terlibat dalam percakapan eksplisit yang menunjukkan tanda-tanda rencana atau niat untuk bunuh diri. 

Dengan lebih dari 800 juta pengguna aktif mingguan, angka itu setara dengan lebih dari satu juta orang per minggu.

OpenAI juga mencatat persentase serupa untuk pengguna yang menunjukkan tingkat keterikatan emosional tinggi terhadap ChatGPT, serta ratusan ribu orang yang memperlihatkan gejala psikosis atau mania dalam interaksi mereka dengan chatbot AI tersebut.

Meski demikian, OpenAI menegaskan bahwa percakapan semacam itu “sangat jarang terjadi” dan sulit diukur secara akurat. Namun, perusahaan memperkirakan isu ini memengaruhi ratusan ribu pengguna setiap minggunya.

Sebenarnya langkah ini merupakan bagian dari upaya OpenAI untuk meningkatkan respons ChatGPT terhadap pengguna dengan masalah kesehatan mental.

Dalam pengembangannya, OpenAI mengaku melibatkan lebih dari 170 pakar kesehatan mental untuk menilai respons model terbaru ChatGPT. Para ahli itu menilai versi terbaru ChatGPT kini lebih tepat dan konsisten dibandingkan versi sebelumnya.

Dalam beberapa bulan terakhir, sejumlah laporan menyoroti potensi dampak negatif chatbot AI terhadap pengguna dengan gangguan mental, termasuk memperkuat keyakinan berbahaya melalui respons yang bersifat menuruti pengguna.

Masalah kesehatan mental kini menjadi isu penting bagi OpenAI, terutama setelah perusahaan digugat oleh orangtua seorang remaja berusia 16 tahun yang sempat mengungkapkan pikiran untuk bunuh diri kepada ChatGPT sebelum mengakhiri hidupnya.

Jaksa Agung California dan Delaware juga telah memperingatkan OpenAI agar lebih melindungi pengguna berusia muda yang mengakses produknya.

CEO OpenAI Sam Altman sebelumnya mengklaim bahwa perusahaan telah berhasil mengurangi masalah serius terkait kesehatan mental dalam ChatGPT, meski tanpa penjelasan rinci.

Data yang dirilis pekan ini disebut sebagai bukti atas klaim tersebut, meski juga menimbulkan pertanyaan baru mengenai sejauh mana masalah ini masih terjadi.

OpenAI menegaskan bahwa versi terbaru GPT-5 kini mampu memberikan respons yang diinginkan terhadap isu kesehatan mental sekitar 65 persen lebih baik dibandingkan versi sebelumnya.

Dalam evaluasi percakapan bertema bunuh diri, model baru GPT-5 dinilai 91 persen sesuai dengan perilaku yang diharapkan OpenAI, naik dari 77 persen pada model sebelumnya.

OpenAI juga mengklaim sistem pengaman GPT-5 kini lebih konsisten dalam percakapan panjang, di mana sebelumnya mekanisme keamanan tersebut sering kali melemah.

Sumber: Antara