Google mulai menindaklanjuti laporan soal aplikasi “nudify” yang masih bisa ditemukan di Play Store. Aplikasi semacam ini memakai AI untuk mengubah foto menjadi gambar telanjang palsu, dan keberadaannya memunculkan pertanyaan besar tentang seberapa ketat moderasi di toko aplikasi milik Google.
Sorotan publik terhadap kasus ini muncul setelah laporan media menemukan bahwa aplikasi berbasis AI tersebut tidak sulit dicari. Dengan kata kunci seperti “nudify” atau “undress”, pengguna disebut bisa langsung menemukan aplikasi yang dikaitkan dengan pembuatan gambar telanjang palsu, bahkan tanpa perlu pencarian yang rumit.
Google mulai merespons temuan
Kepada Android Authority, Google menyatakan bahwa pihaknya sedang menelusuri laporan itu. Juru bicara perusahaan menegaskan bahwa “Google Play does not allow apps that contain sexual content.”
Google juga menyebut bahwa jika ada pelanggaran kebijakan yang dilaporkan, perusahaan akan menyelidiki dan mengambil tindakan yang dianggap sesuai. Dalam penjelasan yang sama, Google mengatakan banyak aplikasi yang disebut dalam laporan sudah ditangguhkan dari Google Play, meski jumlah pastinya tidak dijelaskan.
Pernyataan tersebut menunjukkan bahwa perusahaan tidak diam terhadap temuan ini. Namun, fakta bahwa penindakan baru berjalan setelah aplikasi lebih dulu ditemukan publik tetap menimbulkan tanda tanya soal ketahanan sistem penyaringan sejak awal.
Aplikasi justru mudah muncul saat dicari
Masalah lain tidak berhenti pada keberadaan aplikasinya saja. Laporan yang dikutip Android Authority menyebut bahwa aplikasi semacam ini mudah tampil saat istilah tertentu dimasukkan ke kolom pencarian di Play Store.
Bahkan, selain daftar aplikasi, pencarian itu juga disebut memunculkan iklan untuk alat serupa. Fitur pelengkapan otomatis pun dikabarkan ikut menyarankan istilah terkait, sehingga visibilitas aplikasi meningkat dan pengguna lebih mudah menemukannya.
Kondisi ini membuat persoalan moderasi terasa lebih serius. Platform yang seharusnya menyaring konten bermasalah justru dinilai membantu memperluas jangkauan aplikasi yang berpotensi dipakai untuk penyalahgunaan.
Celah antara kebijakan dan penerapan
Secara aturan, Google dan Apple sama-sama memiliki larangan terhadap aplikasi yang mendorong eksploitasi atau penyalahgunaan. Masalahnya, temuan di lapangan memperlihatkan bahwa aturan tidak selalu mencegah aplikasi itu lolos ke etalase toko aplikasi.
Laporan yang dirujuk menyebut masih ada puluhan aplikasi yang berhasil muncul di marketplace meski fungsi utamanya berkaitan dengan manipulasi gambar telanjang palsu. Yang lebih mengkhawatirkan, sebagian aplikasi itu disebut mendapat label usia “E” for Everyone.
Label tersebut berarti anak-anak juga bisa mengunduhnya secara legal. Situasi ini memperlihatkan jarak yang cukup jauh antara kebijakan yang tertulis dan proses penegakan yang terjadi di lapangan.
Bukan hanya persoalan Play Store
Temuan ini juga tidak terbatas pada ekosistem Google. Laporan yang sama menyebut ada 20 aplikasi nudify di Play Store dan 18 aplikasi serupa di App Store.
Apple pun sudah memberikan respons terpisah. Kepada Bloomberg, perusahaan itu mengatakan telah menghapus 15 aplikasi dari App Store, sehingga terlihat bahwa dua platform besar sama-sama bergerak setelah sorotan publik muncul.
Meski begitu, fakta bahwa aplikasi tersebut sempat tersedia tetap menjadi inti masalah. Publik kini mempertanyakan bagaimana layanan yang berpotensi eksploitatif bisa lolos terlebih dahulu, lalu baru dihapus setelah menarik perhatian luas.
Risiko penggunaan AI untuk manipulasi foto
Aplikasi nudify jadi sorotan karena memanfaatkan AI untuk mengubah foto seseorang menjadi gambar telanjang palsu. Dalam praktiknya, teknologi seperti ini dapat dipakai untuk pelecehan, intimidasi, atau bentuk eksploitasi digital lain tanpa persetujuan subjek foto.
Karena itu, keberadaan aplikasi semacam ini di toko aplikasi besar dianggap menyalahi ekspektasi pengguna terhadap proses kurasi platform. Play Store selama ini dipandang sebagai ruang yang memiliki pengawasan kebijakan, sehingga kemunculan aplikasi seperti ini memicu kritik yang lebih tajam.
Google menyatakan proses penindakan masih berjalan dan tidak berhenti pada satu gelombang penghapusan. Perhatian kini tertuju pada langkah lanjutan Play Store dalam membersihkan aplikasi serupa serta mencegah layanan dengan fungsi yang sama muncul kembali melalui celah yang serupa.