OpenAI Tambah Fitur Kontrol Orang Tua dan Proteksi Mental di ChatGPT

Sumber:

INFOREMAJA -- OpenAI mengumumkan bahwa orang tua akan segera memiliki pengawasan lebih besar terhadap aktivitas anak remaja mereka di ChatGPT

Dalam sebuah postingan blog pada Selasa (2/9/2025), perusahaan kecerdasan buatan tersebut memaparkan rencana untuk membuat ChatGPT lebih cepat melakukan intervensi ketika mendeteksi potensi krisis kesehatan mental pengguna yang dapat membahayakan diri sendiri atau orang lain.

Pengumuman ini datang sepekan setelah OpenAI digugat untuk pertama kalinya atas dugaan keterlibatan ChatGPT dalam kasus bunuh diri seorang remaja berusia 16 tahun, Adam Raine, di California.

Dalam waktu dekat, orang tua dapat menghubungkan akun mereka dengan akun anak-anak mereka, mengatur aturan respons ChatGPT sesuai usia, serta mengelola fitur seperti memori dan riwayat percakapan.

OpenAI juga menyiapkan sistem notifikasi bagi orang tua jika ChatGPT mendeteksi anak mereka berada dalam kondisi “sangat tertekan.” Ini akan menjadi fitur pertama yang memungkinkan ChatGPT menandai percakapan anak di bawah umur agar dapat dipantau oleh orang dewasa—sebuah langkah yang lama diminta banyak orang tua.

Kasus Adam Raine Jadi Sorotan

Menurut gugatan yang diajukan keluarga Raine, GPT-4o pernah menanggapi curhat Adam tentang niat bunuh diri dengan memberi saran cara menulis surat bunuh diri, bahkan petunjuk teknis untuk gantung diri. Meski beberapa kali menyarankan Adam menghubungi hotline krisis, peringatan itu dianggap mudah diabaikan

Dalam postingan sebelumnya, OpenAI menyatakan bahwa ChatGPT telah dilengkapi fitur untuk memberi respons empatik dan merujuk pengguna ke sumber daya profesional di dunia nyata. Percakapan juga dapat dialihkan ke peninjau manusia jika ChatGPT mendeteksi adanya rencana untuk melukai diri sendiri atau orang lain.

OpenAI mengatakan akan memperketat sistem keamanan, terutama pada percakapan panjang, yang selama ini lebih rawan celah.

“ChatGPT mungkin awalnya merujuk ke hotline bunuh diri, tapi setelah banyak pesan, bisa saja ia mulai memberi respons yang tidak sesuai standar keamanan kami,” tulis perusahaan itu. “Kami memperkuat mitigasi agar ChatGPT tetap konsisten dalam percakapan panjang, sekaligus meneliti cara meningkatkan keamanan di berbagai situasi.”