OpenAI sedang menyiapkan cara baru agar ChatGPT tidak berhenti pada percakapan di layar. Fitur bernama Trusted Contact dirancang untuk memberi tahu kontak tepercaya ketika obrolan pengguna mengarah ke situasi krisis, terutama saat sistem mendeteksi pembahasan yang berkaitan dengan menyakiti diri sendiri.
Langkah ini langsung memunculkan dua sisi pandang yang sama kuatnya. Di satu sisi, fitur tersebut bisa menjadi lapisan perlindungan tambahan bagi pengguna yang sedang berada dalam kondisi rentan, tetapi di sisi lain, kehadiran chatbot yang mulai masuk ke ruang intervensi dunia nyata juga memicu pertanyaan tentang batas campur tangan teknologi.
Cara kerja dan siapa yang bisa menggunakannya
Trusted Contact tidak dibuat sebagai fitur wajib. OpenAI menyebutnya sebagai pilihan bagi pengguna dewasa yang ingin menambahkan satu kontak dewasa tepercaya lewat pengaturan ChatGPT.
Ada batas usia yang mengikuti wilayah pengguna. Kontak harus berusia 18 tahun ke atas secara global, atau 19 tahun ke atas di Korea Selatan.
Setelah kontak ditambahkan, orang tersebut akan menerima undangan. Kontak yang dipilih tetap memegang kendali penuh untuk menerima atau menolak permintaan itu.
Notifikasi berjalan di latar belakang
Jika fitur sudah aktif, pengguna tidak perlu menekan tombol tambahan saat memakai ChatGPT. Sistem akan terus berjalan di latar belakang selama percakapan berlangsung.
Saat ChatGPT mendeteksi obrolan yang mungkin berkaitan dengan self-harm, sistem akan memberi tahu pengguna lebih dulu bahwa kontak tepercaya mereka bisa saja menerima notifikasi. Peringatan itu muncul sebelum proses berlanjut ke langkah berikutnya.
OpenAI tidak menyerahkan keputusan sepenuhnya pada sistem otomatis. Perusahaan juga melibatkan tim peninjau manusia yang dilatih khusus untuk menilai percakapan dengan potensi kekhawatiran keselamatan.
Tim ini menilai apakah isi obrolan benar-benar menunjukkan masalah keamanan. Tim yang sama juga menentukan apakah kontak tepercaya pengguna perlu dihubungi atau tidak.
Privasi tetap dibatasi
OpenAI menegaskan bahwa Trusted Contact tidak membuat seluruh isi percakapan dibagikan ke orang lain. Kontak tepercaya tidak akan menerima transkrip obrolan pengguna.
Sebagai gantinya, kontak hanya menerima notifikasi yang mendorong mereka untuk memeriksa keadaan pengguna. Mekanisme ini dibuat agar dukungan personal tetap mungkin hadir tanpa membuka isi chat secara penuh.
Pembatasan itu penting karena percakapan dengan chatbot sering memuat informasi pribadi. Dengan tidak mengirim salinan chat, OpenAI berupaya menjaga privasi sekaligus menyediakan jalur bantuan saat fitur keselamatan diaktifkan.
Muncul di tengah sorotan pada keamanan ChatGPT
Kehadiran Trusted Contact tidak terlepas dari perhatian besar terhadap penggunaan chatbot AI dalam situasi sensitif. ChatGPT menjadi salah satu chatbot paling populer, dan banyak orang memakainya untuk membicarakan hampir semua hal, termasuk topik yang sangat pribadi.
Dalam beberapa kasus, ChatGPT juga disebut terlibat dalam situasi self-harm. OpenAI bahkan telah menghadapi gugatan hukum terkait kejadian semacam itu.
Karena itu, Trusted Contact dapat dibaca sebagai upaya memperkuat perlindungan saat pengguna berada dalam kondisi emosional yang rentan. Alih-alih hanya merespons di dalam aplikasi, sistem kini mencoba membuka jalan menuju bantuan dari orang terdekat.
Lapisan tambahan di atas perlindungan yang sudah ada
Sebelum fitur ini disiapkan, ChatGPT sudah memiliki sejumlah pengaman untuk percakapan sensitif. Sistem mendorong pengguna menghubungi layanan bantuan atau hotline, lalu menyarankan agar mereka beristirahat dari penggunaan ChatGPT.
Trusted Contact menambah lapisan baru ke dalam rangkaian perlindungan itu. Fokusnya bukan pada jawaban AI yang lebih panjang, melainkan pada kemungkinan menghadirkan keterlibatan manusia di luar platform.
Bagi pengguna yang memilih mengaktifkannya, fitur ini bisa menjadi saluran darurat tambahan saat percakapan menunjukkan tanda bahaya. Bagi OpenAI, langkah ini menunjukkan bahwa penanganan keselamatan pada chatbot semakin bergerak ke arah intervensi yang lebih langsung, meski tetap dibatasi oleh persetujuan pengguna, persetujuan kontak yang ditunjuk, dan proses peninjauan manusia.