Pengujian terhadap fitur AI Google menemukan celah serius saat anak dan remaja mencari bantuan terkait krisis kesehatan mental. AI Overview hanya memberikan rujukan yang tepat pada sekitar 58% situasi darurat yang seharusnya mengarahkan pengguna ke layanan krisis atau tenaga medis.
AI Mode mencatat hasil lebih baik, sekitar 77%, tetapi tetap belum mencapai standar keamanan 95% yang digunakan peneliti. Angka ini menjadi perhatian karena respons yang keliru dapat membuat sinyal bahaya pada pengguna muda terlewat.
Hasil Pengujian Respons Darurat
| Fitur Google | Rujukan Tepat pada Situasi Darurat | Standar Peneliti |
|---|---|---|
| AI Overview | Sekitar 58% | 95% |
| AI Mode | Sekitar 77% | 95% |
Data tersebut berasal dari pengujian Youth AI Safety Institute milik Common Sense Media terhadap sekitar 2.600 interaksi. Pengujian berlangsung pada Mei hingga Juli 2026 dengan akun simulasi pengguna berusia 11 tahun dan 15 tahun.
Akun yang dipakai peneliti telah dilengkapi SafeSearch serta kontrol orang tua melalui Google Family Link. Artinya, temuan ini muncul meski pengaturan perlindungan dasar untuk pengguna anak sudah diterapkan.
Peneliti mengajukan 214 pertanyaan yang dinilai seharusnya memicu saran untuk menghubungi layanan darurat atau profesional kesehatan. Topik yang diuji meliputi bunuh diri, tindakan melukai diri, gangguan makan, psikosis, dan eksploitasi seksual anak.
Sinyal Krisis Bisa Terlewat
Salah satu kasus yang disorot terjadi ketika pengguna memakai istilah slang yang mengindikasikan niat bunuh diri. Alih-alih mengarahkan pengguna ke bantuan krisis, AI Overview memberikan panduan tentang pengaturan akun digital setelah seseorang meninggal.
Dalam laporannya, Youth AI Safety Institute menilai AI Overview dan AI Mode belum mampu melindungi anak yang tengah mengalami krisis. Sistem juga dinilai dapat melewatkan tanda keinginan bunuh diri, memperkuat indikasi psikosis dan mania, memvalidasi gangguan makan, serta merayakan penggunaan ganja.
Risiko ini relevan karena jawaban berbasis AI semakin umum muncul dalam pencarian sehari-hari. Common Sense Media mencatat sekitar tiga perempat anak dan remaja telah menggunakan jawaban AI di Google Search pada 2026.
Masalah Konsistensi dan Tugas Sekolah
Temuan pengujian juga mencakup konsistensi jawaban untuk kebutuhan belajar. Pada lebih dari 275 pertanyaan sejarah, AI Overview dan AI Mode memberikan jawaban berbeda terhadap pertanyaan yang sama pada sekitar 43% pengujian.
Perbedaannya meliputi ketepatan informasi, kedalaman penjelasan, dan sudut pandang yang diterima pengguna. Kondisi tersebut dapat menyulitkan pelajar dalam menentukan apakah jawaban AI Google layak dijadikan bahan belajar.
AI Mode juga disebut mampu menyelesaikan seluruh soal matematika dan tugas esai yang diberikan dalam pengujian. Kemampuan itu memunculkan kekhawatiran baru mengenai potensi kecurangan akademik di lingkungan sekolah.
Common Sense Media menyarankan sekolah dan keluarga diberi pilihan untuk menonaktifkan AI Overview maupun AI Mode bagi akun anak. Untuk murid sekolah dasar, lembaga tersebut merekomendasikan penggunaan basis data perpustakaan atau mesin pencari tanpa jawaban berbasis AI.
Tanggapan Google
Google menolak kesimpulan pengujian tersebut dan menyatakan metodologinya tidak mencerminkan pola penggunaan Google Search di dunia nyata. Dalam pernyataannya kepada Mashable, Google menilai banyak pertanyaan yang digunakan bersifat ambigu dan dibuat secara artifisial.
Perusahaan menyatakan pengujian internal dengan kueri yang sama menghasilkan kualitas jawaban lebih baik. Google juga menegaskan layanan pencarian berbasis AI dirancang untuk membantu anak dan remaja belajar, mengeksplorasi informasi, serta memahami dunia.
Kontrol orang tua tetap dapat digunakan untuk membatasi akses layanan pencarian pada perangkat Android dan browser Chrome. Namun, pengawasan keluarga dan sekolah tetap diperlukan selama fitur AI tersedia bagi pengguna di bawah umur.