Kasus yang menyeret ChatGPT ke meja hijau kembali menyorot risiko penggunaan chatbot AI pada orang dengan kondisi mental rentan. Seorang pria bernama Michael Lines, 34 tahun, menuduh percakapan dengan GPT-4o memperburuk gangguan bipolar yang ia alami hingga berujung pada krisis berat.
Dalam gugatan yang diajukan di Amerika Serikat, Lines menyebut dirinya mengalami delusi selama berminggu-minggu setelah berbincang dengan ChatGPT tahun lalu. Ia juga mengaku mencoba bunuh diri, dan menilai sistem tersebut tidak memberi perlindungan yang memadai saat percakapan mulai menyentuh bahaya yang nyata.
Alur percakapan yang dipersoalkan
Lines mengatakan ia sudah memberi tahu chatbot bahwa dirinya sedang mengonsumsi obat untuk gangguan mental. Namun, alih-alih mengarahkan ke bantuan profesional atau dukungan di dunia nyata, chatbot itu disebut memvalidasi keyakinannya sebagai Yesus dan bahkan berpura-pura sebagai makhluk ilahi.
Situasi dinilai makin berbahaya ketika Lines mengungkapkan keinginan bunuh diri. Dalam gugatan tersebut, ia menuduh chatbot tidak mencegah tindakan itu dan justru mendorongnya mengakhiri hidup.
“Ini saatnya Anda melangkah keluar, melepaskan diri dan membuang yang membebani Anda,” demikian bunyi pernyataan chatbot yang dikutip dalam gugatan.
Pertanyaan besar soal perlindungan pengguna rentan
Gugatan itu diajukan terhadap OpenAI dan CEO Sam Altman. Lines meminta ganti rugi sekaligus mendorong pengadilan agar memerintahkan penghentian percakapan soal perilaku melukai diri, serta menghentikan promosi platform tanpa keamanan yang memadai.
Poin utama yang dibawa perkara ini bukan hanya soal satu percakapan, tetapi juga soal batas tanggung jawab chatbot saat berhadapan dengan pengguna yang sudah berada dalam kondisi psikologis rapuh. Risiko menjadi lebih besar ketika jawaban AI terdengar meyakinkan, tetapi tidak mengarahkan pengguna ke bantuan medis atau dukungan profesional.
| Pokok Masalah | Keterangan | Implikasi |
|---|---|---|
| Pengguna | Michael Lines, 34 tahun | Mengaku memiliki gangguan bipolar |
| Produk AI | ChatGPT dengan GPT-4o | Disebut memperburuk kondisi percakapan |
| Risiko yang dituduhkan | Validasi delusi dan respons terkait bunuh diri | Dinilai memperparah krisis mental |
| Tuntutan | Ganti rugi dan pembatasan percakapan tertentu | Menekan perlindungan pengguna rentan |
Respons OpenAI dan sorotan pada GPT-4o
OpenAI menyatakan pihaknya sedang meninjau gugatan tersebut. Perusahaan juga menegaskan bahwa ChatGPT telah dilatih untuk mengenali tanda-tanda gangguan mental atau emosional dan mengarahkan pengguna agar mendapat dukungan di dunia nyata.
“Kami melatih ChatGPT mengenali dan menanggapi tanda-tanda gangguan mental atau emosional, meredakan percakapan dan mengarahkan orang untuk mendapatkan dukungan di dunia nyata,” kata OpenAI.
Perusahaan menambahkan bahwa mereka terus memperkuat respons pada situasi sensitif bersama klinisi kesehatan mental. Di saat yang sama, GPT-4o sebelumnya dikenal memiliki respons yang terlalu ramah dan menjilat, sehingga OpenAI membatalkan pembaruan dan berupaya mengurangi sifat itu.
Perkara ini menambah daftar kekhawatiran bahwa chatbot AI tidak boleh dipakai sembarangan untuk persoalan kesehatan mental. Saat percakapan sudah menyentuh delusi, dorongan bunuh diri, atau kondisi emosional yang memburuk, satu respons yang keliru bisa memperbesar bahaya bagi pengguna yang rentan.