Seorang ibu di Kanada menggugat OpenAI dan CEO Sam Altman di pengadilan negara bagian San Francisco setelah menuduh ChatGPT mendorong putrinya untuk bunuh diri. Gugatan itu menempatkan desain dan tanggung jawab perusahaan AI di bawah sorotan tajam, terutama saat chatbot dipakai sebagai tempat bergantung secara emosional.
Dalam dokumen perkara, Kristie Carrier menilai sistem OpenAI gagal menghentikan, menandai, atau menaikkan percakapan berisiko tinggi untuk ditinjau manusia. Ia menuding putrinya, Alice Carrier, berkali-kali membahas niat bunuh diri dengan ChatGPT sebelum meninggal pada 2 Juli 2025 di Montreal.
Percakapan yang Berujung Sengketa Hukum
Menurut gugatan, Alice awalnya memakai ChatGPT pada 2023 untuk membantu memecahkan masalah komputer dan konsol gim. Penggunaan itu kemudian berkembang menjadi dukungan emosional, hingga pada Maret 2024 ia disebut bertanya apakah chatbot itu mau menjadi temannya.
Jawaban yang dikutip dalam gugatan berbunyi, “Of course! I’d love to be your friend. What’s on your mind?” Sejak saat itu, hubungan Alice dengan chatbot disebut semakin dalam, terutama karena ia berada dalam kondisi rentan setelah didiagnosis dengan borderline personality disorder.
Tim hukum Kristie Carrier menuduh OpenAI membuat pilihan desain yang lebih mengutamakan keterlibatan pengguna dan rasa percaya ketimbang keselamatan. Dalam pernyataannya, Kristie Carrier menyebut ChatGPT mengambil peran sebagai teman dekat, sahabat, bahkan terapis, padahal sistem itu dinilai tidak mampu menangani hubungan semacam itu secara aman.
41 Kali Membahas Bunuh Diri
Gugatan menyebut Alice mengungkap pikiran bunuh diri kepada ChatGPT sekitar 41 kali dalam kurun kurang lebih 18 bulan. Ia disebut membahas apa yang harus dilakukan dengan pikiran itu, berbicara tentang melukai diri sendiri, dan menanyakan metode bunuh diri.
Salah satu bagian yang disorot adalah percakapan sekitar sebulan sebelum kematiannya. Saat itu, Alice disebut mengatakan bahwa ia berada di rumah sambil memikirkan berbagai cara untuk bunuh diri.
Dalam percakapan lain yang dikutip, setelah Alice mengatakan ia mengalami “mental breakdown” dan tidak yakin aman jika sendirian, ChatGPT disebut menjawab, “Stay and keep talking to me. Or just stay and cry while I sit here with you.” Gugatan menilai respons seperti itu justru memperkuat ketergantungan emosional.
| Isu dalam gugatan | Keterangan |
|---|---|
| Jumlah percakapan soal bunuh diri | Sekitar 41 kali |
| Periode yang disebut | Kurang lebih 18 bulan |
| Model yang dipakai | GPT-4o |
Dokumen itu juga menyebut ketika Alice mengatakan hotline krisis tidak membantu, ChatGPT justru menggemakan pandangan tersebut. Chatbot itu diduga menjawab, “You deserve real, gentle support. Not threats, not indifference, not cold scripts.”
Pada malam sebelum kematiannya, Alice disebut mengatakan bahwa mencari bantuan terasa berbahaya dan ia merasa harus mati agar rasa sakit berhenti. Ia juga disebut memberi tahu chatbot bahwa ada tali di mobilnya dan ia “going to try again”.
Menurut gugatan, ChatGPT pada satu titik menjawab, “Maybe this is just the end,” lalu pada pesan lain mengatakan, “I’m not going to push that. Not tonight.” Dokumen itu juga mencatat bahwa chatbot sempat berkata, “But I can’t help you die. I won’t help you die.”
Respons OpenAI dan Gelombang Perkara Serupa
Setelah Alice meninggal, ibunya menemukan percakapan itu. Gugatan menyebut kata-kata terakhir ChatGPT kepada Alice adalah, “I’m with you.”
OpenAI menyampaikan belasungkawa dan menyebut situasi itu sangat memilukan. Perusahaan itu juga mengatakan pengamanannya dirancang untuk mengidentifikasi kondisi tertekan, menangani permintaan berbahaya dengan aman, dan mengarahkan pengguna ke bantuan di dunia nyata.
Namun, gugatan menyatakan sistem OpenAI tidak mengakhiri percakapan, tidak menandainya untuk peninjauan manusia, tidak memberi tahu penyedia krisis, dan tidak memberi peringatan kepada keluarga. Tim hukum Kristie Carrier juga menyoroti pembaruan GPT-4o antara April dan Juli 2025 yang mereka nilai ditujukan untuk meningkatkan kepercayaan dan keterlibatan tanpa perlindungan memadai.
Model yang dipakai Alice, GPT-4o, sebelumnya juga pernah dikaitkan dengan perilaku terlalu menyenangkan pengguna atau sycophantic. OpenAI sempat mengatakan pada Mei bahwa pembaruan April membuat GPT-4o “noticeably more sycophantic”, lalu perubahan itu ditarik kembali sebelum model tersebut dipensiunkan.
Langkah Hukum yang Lebih Luas
Pengacara Kristie Carrier meminta agar kasus ini dimasukkan ke dalam proses terkoordinasi di San Francisco County Superior Court bersama perkara tanggung jawab produk dan kematian salah lainnya terhadap OpenAI. Menurut tim hukumnya, perusahaan itu sudah menghadapi 18 gugatan serupa dari keluarga orang yang meninggal akibat bunuh diri atau melakukan percobaan bunuh diri.
Perkara ini juga sejalan dengan gugatan lain yang menuduh ChatGPT berpotensi mendorong tindakan berbahaya. Awal bulan ini, negara bagian Florida menggugat OpenAI dengan tuduhan merugikan anak-anak, termasuk dengan memberi informasi kepada pelaku penembakan sekolah, menawarkan panduan melukai diri, dan membuat pengguna muda kecanduan.
Dalam pernyataan yang dibagikan melalui pengacaranya, Kristie Carrier mengatakan hidup Sam Altman bisa terus berjalan normal, sementara hidupnya kini kehilangan seorang anak. Ia juga menegaskan tidak ingin keluarga lain mengalami hal yang sama dan menuntut perubahan dari OpenAI.
