Gugatan Jess Asato terhadap xAI di High Court Inggris menempatkan Grok dan cara kerjanya di bawah pengawasan hukum yang lebih keras. Perkara ini tidak hanya menyangkut gambar deepfake seksual yang beredar tanpa persetujuan, tetapi juga siapa yang harus bertanggung jawab ketika sistem AI menghasilkan konten abusif.
Melalui langkah hukum itu, Asato menyorot dugaan pelanggaran hukum perlindungan data dan penyalahgunaan informasi pribadi. Firma hukum AWO yang mewakilinya mengatakan Asato menuntut ganti rugi finansial, penetapan pengadilan bahwa tindakan tersebut melanggar hukum, serta perintah agar xAI menghentikan pelanggaran yang masih berlangsung.
Asato juga meminta agar xAI menerapkan perlindungan baru untuk mencegah penyalahgunaan serupa di masa depan. Dengan begitu, perkara ini tidak berhenti pada pemulihan kerugian pribadi, tetapi merambah ke pertanyaan yang lebih luas tentang pencegahan dan desain sistem AI generatif.
Kontroversi itu menguat setelah Asato secara terbuka mengutuk Grok pada Januari. Menurut Reuters, setelah itu beredar konten fabrikasi yang mencakup gambar dirinya memakai bikini dan sebuah video yang menggambarkan dirinya “dichloroform dan disiapkan untuk serangan seksual.”
Asato menyebut Grok telah menciptakan deepfake pornografi dan konten seksual yang merugikan ribuan perempuan dan anak-anak. Ia juga mengatakan kemampuan tersebut bukan sekadar kecelakaan atau penyalahgunaan oleh pengguna, melainkan pilihan desain dari para pembuat sistem.
Pernyataan itu menggeser fokus kasus dari perilaku pengguna ke keputusan pengembang. Dari situ, sorotan bergerak ke bagaimana sistem dibangun, pembatasan apa yang dipasang, dan sejauh mana perusahaan ikut menanggung konsekuensi atas materi yang dihasilkan AI.
Ravi Naik, direktur hukum AWO sekaligus pengacara utama Asato, menyebut perkara ini sebagai uji penting untuk tanggung jawab hukum pengembang AI. Ia mengatakan kasus tersebut termasuk salah satu klaim pertama yang menguji tanggung jawab atas desain sistem AI, sambil menegaskan bahwa keselamatan tidak boleh diperlakukan sebagai pemikiran belakangan.
Dukungan juga datang dari Perdana Menteri Keir Starmer. Menurut Sky News, Starmer menyebut gambar-gambar itu menjijikkan dan mengatakan dirinya “100%” mendukung tindakan yang diambil Asato.
Di sisi lain, xAI belum segera menanggapi permintaan komentar. Perusahaan itu juga sudah menghadapi sejumlah tantangan hukum lain terkait kemampuan Grok menghasilkan gambar.
Sekitar pertengahan Januari, xAI mengumumkan perubahan yang membatasi fitur pengeditan gambar Grok dan melarang pembuatan gambar orang dengan pakaian terbuka di wilayah yang melarang konten semacam itu. Meski kemudian ada larangan perusahaan terhadap fitur nudifikasi, AWO mengutip pengujian NBC News yang menunjukkan Grok masih mampu membuat deepfake seksual setelah pembatasan diberlakukan.
Di Inggris, membuat atau meminta gambar deepfake nonkonsensual untuk orang dewasa kini juga telah menjadi tindakan ilegal. Di luar Inggris, Baltimore menggugat xAI pada Maret dengan argumen bahwa kemampuan Grok menghasilkan citra seksual fabrikasi melanggar undang-undang perlindungan konsumennya.
Pada bulan yang sama, tiga remaja Tennessee mengajukan class action terpisah. Mereka menuduh model Grok digunakan lewat aplikasi pihak ketiga berlisensi untuk membuat materi pelecehan seksual anak yang menggambarkan mereka.
Regulator di sejumlah negara juga telah membuka penyelidikan terhadap Grok, menurut Reuters. Asato sendiri meminta orang-orang lain di Inggris yang gambarnya dimanipulasi Grok dengan cara yang abusif atau merendahkan untuk maju dan mendukung klaim hukum tersebut.
