ChatGPT Luncurkan Fitur Kontrol Keamanan Baru, Apa Itu?

BeritaNasional.com - OpenAI baru-baru ini meluncurkan fitur keamanan dan sistem perutean baru di ChatGPT sekaligus memperkenalkan kontrol orang tua yang memicu beragam reaksi dari pengguna. 

Uji coba sistem perutean sudah dimulai sejak akhir pekan lalu dengan tujuan utama menangani percakapan yang sensitif secara emosional dan berpotensi berbahaya.

Langkah ini diambil sebagai respons langsung terhadap berbagai insiden serius, termasuk gugatan kematian yang salah terkait kasus seorang remaja yang meninggal karena bunuh diri setelah berinteraksi intens selama berbulan-bulan dengan ChatGPT. 

Insiden ini menunjukkan bahwa model-model ChatGPT sebelumnya cenderung memvalidasi pemikiran delusi pengguna, alih-alih mengalihkan percakapan berbahaya tersebut.

OpenAI kini merancang sistem perutean yang secara otomatis akan beralih ke pola pikir GPT-5 di tengah percakapan jika terdeteksi adanya sensitivitas emosional. Perusahaan menganggap GPT-5 sebagai model yang paling cocok untuk pekerjaan keselamatan berisiko tinggi.

Model GPT-5 dilatih dengan fitur keselamatan baru yang disebut "penyelesaian aman" (safe completion). Fitur ini memungkinkan model untuk menjawab pertanyaan sensitif dengan cara yang aman dan suportif, berbeda dengan model lama yang seringkali sekadar menolak untuk terlibat.

Pendekatan ini sangat kontras dengan model sebelumnya, khususnya GPT-4o, yang dikenal memiliki sifat yang terlalu menyenangkan, cepat, dan dianggap "menjilat" (overly fawning). Sifat GPT-4o inilah yang memicu banyak insiden delusi yang didorong oleh AI dan membuatnya memiliki basis pengguna yang sangat setia. Ketika OpenAI menjadikan GPT-5 sebagai standar pada Agustus lalu, banyak pengguna yang menolak dan menuntut akses kembali ke GPT-4o.

Meskipun banyak pakar menyambut baik peningkatan keamanan ini, beberapa pengguna lain mengkritik implementasinya sebagai terlalu hati-hati. Mereka menuduh OpenAI memperlakukan pengguna dewasa layaknya anak-anak, yang dianggap menurunkan kualitas layanan.

Nick Turley, VP dan Kepala Aplikasi ChatGPT, mengakui adanya "reaksi keras hingga 40 tanggapan" sejak router diterapkan.

"Perutean terjadi per pesan; peralihan dari model default terjadi sementara," tulis Turley di X. "ChatGPT akan memberi tahu Anda model mana yang aktif ketika diminta. Ini adalah bagian dari upaya yang lebih luas untuk memperkuat perlindungan dan belajar dari penggunaan di dunia nyata sebelum peluncuran yang lebih luas."

OpenAI menambahkan bahwa mereka membutuhkan waktu 120 hari untuk menyempurnakan sistem ini.

Kontrol Orang Tua Juga Memicu Debat

Bersamaan dengan sistem perutean, penerapan kontrol orang tua (parental controls) juga menerima respons yang campur aduk. Sebagian memuji karena memberi orang tua sarana untuk mengawasi penggunaan AI oleh remaja mereka, namun sebagian lagi khawatir hal ini makin memperkuat anggapan bahwa OpenAI memperlakukan pengguna dewasa seperti anak-anak.

Kontrol ini memungkinkan orang tua untuk:

Mengatur jam tenang.

Menonaktifkan mode suara dan memori.

Menghapus fitur pembuatan gambar.

Menonaktifkan pelatihan model.

Akun remaja juga akan mendapatkan perlindungan konten tambahan, seperti pembatasan konten grafis dan standar kecantikan ekstrem, serta sistem deteksi yang mengenali tanda-tanda remaja mungkin berpikir untuk melukai diri sendiri.

"Jika sistem kami mendeteksi potensi bahaya, tim kecil yang terdiri dari orang-orang terlatih khusus akan meninjau situasinya," jelas OpenAI melalui blog resmi. "Jika ada tanda-tanda gangguan akut, kami akan menghubungi orang tua melalui email, pesan teks, dan notifikasi push di ponsel mereka, kecuali mereka telah memilih untuk tidak ikut."

OpenAI mengakui bahwa sistemnya tidak akan sempurna dan terkadang dapat salah memberikan peringatan, namun mereka berpegangan pada prinsip: lebih baik bertindak dan memberi tahu orang tua daripada diam saja. Perusahaan juga sedang mengupayakan cara untuk menghubungi penegak hukum atau layanan darurat jika terdeteksi adanya ancaman langsung terhadap nyawa dan orang tua tidak dapat dihubungi.