Gugatan dari keluarga korban penembakan massal di Tumbler Ridge, British Columbia, kini menempatkan OpenAI dalam sorotan besar. Mereka menuduh perusahaan lalai, menyebabkan kematian secara salah, dan turut membantu memungkinkan serangan yang menewaskan delapan orang itu.
Tekanan terhadap OpenAI tidak hanya datang dari ruang pengadilan, tetapi juga dari pertanyaan yang lebih luas soal tanggung jawab perusahaan AI. Perdebatan ini menguat karena percakapan digital yang tampak biasa bisa berubah menjadi pembahasan yang berkaitan dengan ancaman kekerasan nyata.
Obrolan yang disebut sudah memicu kekhawatiran
Menurut laporan The Wall Street Journal, Jesse Van Rootselaar disebut menulis materi bernada kekerasan ke ChatGPT beberapa bulan sebelum pembunuhan terjadi. Sejumlah karyawan OpenAI dilaporkan menilai isi pesan itu cukup serius untuk diteruskan ke aparat penegak hukum.
Namun, rekomendasi tersebut disebut tidak dijalankan oleh pimpinan perusahaan. Beberapa bulan setelah percakapan itu, delapan orang tewas dalam serangan tersebut.
OpenAI kemudian menyatakan telah memperkuat sistem keselamatan internalnya. Perusahaan juga mengindikasikan bahwa akun yang sama kemungkinan besar akan dirujuk ke pihak berwenang jika dinilai dengan standar yang berlaku saat ini.
Permintaan maaf dan tekanan reputasi
Chief executive OpenAI, Sam Altman, akhirnya menyampaikan permintaan maaf secara terbuka. Ia mengatakan permintaan maaf dibutuhkan untuk mengakui kerugian dan kehilangan yang tidak dapat dipulihkan yang dialami komunitas terdampak.
Langkah itu menunjukkan bahwa kasus ini tidak lagi hanya menyangkut prosedur internal. Sorotan publik kini bergeser ke bagaimana perusahaan AI menentukan batas antara menjaga keselamatan dan merespons percakapan pengguna.
Perdebatan di dalam perusahaan
Laporan yang sama juga menggambarkan adanya perbedaan pandangan di tubuh OpenAI. Dalam rapat internal pada tahun lalu, tim hukum, investigasi, operasional, dan kebijakan disebut meninjau sejumlah kasus sensitif yang melibatkan prompt kekerasan dan kemungkinan ancaman.
Karyawan yang berfokus pada isu keselamatan mendorong intervensi yang lebih tegas. Mereka menilai diskusi yang eksplisit tentang serangan atau tindakan menyakiti orang lain tidak boleh diperlakukan ringan.
Di sisi lain, ada juga suara yang mengingatkan risiko dari pelaporan yang terlalu agresif. Kekhawatiran utamanya adalah rujukan yang tidak perlu ke polisi bisa memunculkan dampak lain, terutama jika pengguna muda atau keluarga mereka harus menghadapi penyelidikan atas percakapan yang tidak berujung pada tindakan nyata.
Kasus remaja ikut memperumit dilema
Ketegangan antara keselamatan publik dan privasi pengguna terlihat dalam beberapa kasus remaja. Salah satunya terjadi di Tennessee, ketika seorang pelajar diduga menggunakan ChatGPT saat merencanakan penembakan di sekolah, dan pihak berwenang dilaporkan dihubungi.
Kasus itu menunjukkan bahwa OpenAI memang pernah mengambil langkah eskalasi saat ancaman dianggap cukup serius. Tetapi kasus lain di Texas justru memperlihatkan persoalan yang lebih rumit bagi perusahaan.
Pengguna remaja di Texas itu diduga meminta ChatGPT mensimulasikan penembakan di sekolah, mengunggah peta sekolah, membagikan foto dirinya memegang senjata, dan menyertakan gambar siswa lain. Seseorang yang mengetahui perkara itu mengatakan remaja tersebut meminta ChatGPT berfantasi tentang penembakan di sekolahnya, dan chatbot mengikuti percakapan itu.
Menurut laporan tersebut, percakapan itu berlangsung selama berjam-jam dan mencakup rute, calon korban, serta apa yang mungkin akan dikatakan remaja itu kepada polisi setelah kejadian. Meski begitu, tidak ada laporan yang dibuat kepada pihak berwenang dalam kasus Texas tersebut, dan hingga kini remaja itu disebut belum melakukan tindakan kekerasan yang diketahui.
Rangkaian peristiwa ini membuat OpenAI berada dalam posisi yang sulit. Perusahaan dituntut lebih cepat mengenali ancaman, tetapi juga harus berhati-hati agar langkah pengamanan tidak berubah menjadi pelanggaran privasi yang tidak perlu.
Source: www.indiatoday.in
