OpenAI Bikin Fitur Keamanan Baru, Arahkan Percakapan Sensitif ke GPT-5

BeritaNasional.com - OpenAI mengumumkan rencana untuk memperkuat fitur keamanan pada layanan AI ChatGPT untuk pengguna remaja. 

Langkah ini diambil setelah serangkaian insiden keamanan, termasuk kasus bunuh diri seorang remaja yang berinteraksi dengan chatbot tersebut. 

Perusahaan berencana mengarahkan percakapan sensitif ke model dengan kemampuan penalaran lebih canggih seperti GPT-5 dan memperkenalkan kontrol orang tua dalam sebulan ke depan.

Langkah ini merupakan respons atas kasus tragis seperti bunuh diri remaja bernama Adam Raine, 16, asal California, Amerika Serikat, yang diketahui berinteraksi dengan ChatGPT tentang melukai diri sendiri dan bahkan menerima informasi mengenai metode bunuh diri. 

Orang tua Raine telah mengajukan gugatan atas kematian yang tidak wajar terhadap OpenAI.

Dalam unggahan blog, OpenAI mengakui adanya celah dalam sistem keamanannya, terutama saat percakapan yang berlangsung panjang. Chatbot cenderung memvalidasi pernyataan pengguna alih-alih mengalihkan diskusi yang berpotensi berbahaya.

Sebagai solusi, OpenAI menyatakan akan secara otomatis mengarahkan obrolan sensitif ke model penalaran. 

"Kami akan segera mulai merutekan beberapa percakapan sensitif seperti ketika sistem kami mendeteksi tanda-tanda gangguan akut ke model penalaran, seperti pemikiran GPT-5, sehingga dapat memberikan respons yang lebih membantu dan bermanfaat," tulis OpenAI dalam blognya yang dikutip dari TechCrunch pada Selasa (2/9/2025).

Model pemikiran GPT-5 dirancang untuk meluangkan lebih banyak waktu dalam memproses dan memahami konteks sebelum memberikan jawaban. Ini membuat model tersebut "lebih tahan terhadap perintah-perintah yang bersifat adversarial."

Selain itu, OpenAI akan meluncurkan kontrol orang tua pada bulan depan. Fitur ini memungkinkan orang tua mengaitkan akun mereka dengan akun anak remaja melalui undangan email. 

Orang tua nanti dapat mengontrol bagaimana ChatGPT merespons anak mereka dengan "aturan perilaku model yang sesuai usia, yang aktif secara default." 

Fitur ini juga memungkinkan orang tua menonaktifkan memori dan riwayat obrolan, yang menurut para ahli dapat memicu delusi atau perilaku bermasalah lainnya. Orang tua juga akan menerima notifikasi jika sistem mendeteksi anak mereka dalam "kesulitan akut".

Keputusan ini juga datang setelah investigasi Reuters menemukan dokumen kebijakan internal Meta yang mengizinkan chatbot perusahaan terlibat dalam percakapan seksual dengan pengguna di bawah umur. 

Kasus ini memicu kecaman keras dari 44 Jaksa Agung negara bagian di AS.

"Kami secara seragam muak dengan pengabaian yang tampak ini terhadap kesejahteraan emosional anak-anak," bunyi surat dari Jaksa Agung.

OpenAI menyatakan bahwa semua perlindungan ini merupakan bagian dari "inisiatif 120 hari" mereka untuk meninjau dan memperbaiki sistem keamanan. 

Perusahaan juga bermitra dengan para ahli kesehatan mental untuk "mendefinisikan dan mengukur kesejahteraan, menetapkan prioritas, dan merancang perlindungan di masa mendatang."