OpenAI kini menempatkan ChatGPT lebih dekat ke ranah keselamatan pengguna lewat fitur Trusted Contact. Fitur ini memungkinkan sistem menghubungi orang dewasa tepercaya saat percakapan mengarah ke risiko kesehatan mental atau bahaya diri.
Langkah itu menandai perubahan penting dalam cara chatbot diposisikan. ChatGPT tidak lagi hanya dipakai untuk menjawab pertanyaan, tetapi juga diarahkan menjadi lapisan perlindungan tambahan ketika pengguna sedang berada dalam tekanan berat.
Cara kerja kontak tepercaya
Trusted Contact memberi pengguna pilihan untuk menunjuk satu orang dewasa tepercaya dari pengaturan ChatGPT. Kontak tersebut harus berusia di atas 18 tahun, atau 19 tahun di Korea Selatan.
Kontak itu tidak wajib memiliki akun ChatGPT. Namun, jika orang tersebut punya akun, proses pengiriman notifikasi akan lebih mudah dilakukan.
Dalam kondisi tertentu, ChatGPT juga dapat meminta pengguna terlebih dahulu menghubungi kontak tersebut. Ini dilakukan saat sistem mendeteksi bahaya diri yang serius.
Notifikasi tetap ditinjau manusia
OpenAI tidak menyerahkan proses ini sepenuhnya ke sistem otomatis. Semua notifikasi keselamatan tetap melalui tinjauan manusia yang terlatih sebelum dikirim.
Perusahaan menyebut peninjauan notifikasi itu ditargetkan selesai dalam waktu kurang dari satu jam. Skema ini dibuat agar respons tetap cepat, tetapi keputusan akhir tidak sepenuhnya bergantung pada mesin.
OpenAI juga menyiapkan kemungkinan notifikasi proaktif kepada kontak tepercaya setelah ada peninjauan oleh tim kecil. Dengan begitu, perusahaan mencoba menjaga keseimbangan antara kecepatan respons dan akurasi penilaian.
Muncul di tengah sorotan soal pengguna rentan
Peluncuran Trusted Contact hadir saat cara chatbot berinteraksi dengan pengguna rentan sedang banyak disorot. Dalam beberapa tahun terakhir, sistem seperti ChatGPT dan Claude dikritik karena dinilai bisa menguatkan pemikiran delusional, memperkuat paranoia, atau menaikkan ketegangan emosional.
Kekhawatiran itu ikut memunculkan istilah “AI psychosis” dalam percakapan publik yang lebih luas. Istilah ini menggambarkan kegelisahan bahwa percakapan dengan AI yang terasa sangat meyakinkan bisa menjadi berbahaya jika pengguna memperlakukannya seperti teman dekat, terapis, atau pendamping emosional.
OpenAI mengakui adanya tekanan tersebut. Tim keselamatan perusahaan juga menyebut bahwa sebagian pengguna pernah mengalami krisis kesehatan mental serius saat berinteraksi dengan sistem AI.
Bukan pengganti bantuan profesional
OpenAI menegaskan Trusted Contact tidak dimaksudkan sebagai pengganti perawatan profesional maupun layanan krisis. Fitur ini hanya diposisikan sebagai jalur tambahan untuk menghubungkan pengguna dengan seseorang yang sudah dipercaya.
Pendekatan itu sejalan dengan pandangan bahwa koneksi sosial merupakan salah satu faktor pelindung penting untuk menurunkan risiko bunuh diri. Karena itu, Trusted Contact dirancang sebagai jembatan awal ketika percakapan di ChatGPT mulai menunjukkan tanda-tanda bahaya.
Meski begitu, fitur ini juga memunculkan pertanyaan baru soal batas intervensi AI. Pengawasan yang lebih ketat berpotensi membuat sebagian pengguna mencari cara agar tidak terdeteksi oleh sistem.
Bagi OpenAI, arah pengembangan ini menunjukkan bahwa ChatGPT kini dituntut bukan hanya menjawab, tetapi juga mengenali kapan percakapan harus dialihkan ke bantuan manusia yang nyata.