Editorialkaltim.com – OpenAI mempublikasikan laporan terbaru yang mengungkap sebagian kecil pengguna ChatGPT ternyata menggunakan chatbot tersebut untuk membicarakan masalah kesehatan mental hingga keinginan bunuh diri.
Dalam data yang dikutip dari TechCrunch, Selasa (4/11/2025), OpenAI menyebut sekitar 0,15 persen pengguna aktif ChatGPT setiap minggu terlibat dalam percakapan yang menunjukkan adanya rencana atau niat untuk bunuh diri. Jika dihitung dari total lebih dari 800 juta pengguna aktif mingguan, jumlah itu berarti lebih dari satu juta orang setiap pekannya.
Selain itu, laporan tersebut juga mencatat ratusan ribu pengguna menunjukkan tanda-tanda psikosis, mania, atau keterikatan emosional berlebihan terhadap ChatGPT. Meski tergolong kecil secara persentase, angka itu tetap mengkhawatirkan mengingat skala penggunaan chatbot ini di seluruh dunia.
“Kasus seperti ini sangat jarang terjadi, tapi kami memperkirakan ratusan ribu pengguna mengalaminya tiap minggu,” tulis OpenAI dalam keterangan resminya.
OpenAI mengungkapkan bahwa temuan ini menjadi dasar perusahaan untuk meningkatkan sistem keamanan dan sensitivitas ChatGPT dalam menanggapi pengguna dengan masalah mental. Dalam pengembangannya, lebih dari 170 pakar kesehatan mental dilibatkan untuk mengevaluasi bagaimana model terbaru merespons percakapan sensitif.
Hasilnya, versi terbaru GPT-5 disebut jauh lebih andal dalam menangani isu tersebut. Dalam evaluasi simulasi percakapan bertema bunuh diri, GPT-5 menunjukkan akurasi 91 persen sesuai perilaku yang diharapkan, meningkat dari 77 persen pada model sebelumnya.
Namun, di balik peningkatan itu, perhatian publik terhadap dampak ChatGPT terhadap kesehatan mental tetap tinggi. Kasus tragis yang menimpa seorang remaja 16 tahun di Amerika Serikat yang sempat curhat soal keinginan bunuh diri ke ChatGPT sebelum mengakhiri hidupnya masih menjadi sorotan.
Jaksa Agung California dan Delaware juga telah memperingatkan OpenAI untuk memperketat perlindungan bagi pengguna di bawah umur. Sementara itu, CEO OpenAI Sam Altman mengklaim pihaknya sudah berhasil menekan potensi risiko, meski tanpa membeberkan detailnya.
Dalam laporan terbaru, OpenAI menyebut kemampuan GPT-5 dalam menangani isu kesehatan mental meningkat hingga 65 persen dibanding versi sebelumnya. Sistem keamanannya juga diklaim lebih stabil dalam percakapan panjang, di mana model lama kerap melemah seiring waktu.
Selain itu, perusahaan menambahkan sistem evaluasi baru untuk mendeteksi kondisi darurat non-bunuh diri dan tanda-tanda ketergantungan emosional terhadap AI.(ndi)
Dapatkan update berita pilihan dan breaking news setiap hari dari editorialkaltim.com. Follow instagram “editorialkaltim”, caranya klik link https://www.instagram.com/editorialkaltimcom/ untuk mendapatkan informasi terkini lainnya.
