Risiko terbesar dari Google AI bukan hanya pada kemampuan menjawab, melainkan pada cara fitur itu hadir di perangkat anak-anak. Common Sense Media menilai layanan tersebut menyebar luas di perangkat pribadi dan perangkat sekolah, sehingga paparan terhadap anak menjadi jauh lebih sulit dihindari.
Penilaian itu juga menyoroti fitur AI Overview yang muncul otomatis dan tidak bisa dimatikan. Bagi organisasi tersebut, kehadiran fitur yang aktif tanpa pilihan menonaktifkan ini menjadi masalah tambahan karena langsung masuk ke pengalaman pengguna yang paling sering dipakai anak.
AI Mode bisa membantu PR, tetapi hasilnya tidak stabil
Salah satu temuan yang paling mencolok adalah kemampuan Google AI Mode untuk menyelesaikan pekerjaan rumah. Namun, Common Sense Media menyebut jawaban yang diberikan tidak konsisten karena hasilnya bisa benar pada satu percobaan, lalu salah pada percobaan berikutnya.
Kondisi itu dianggap berisiko karena anak dapat mengandalkan jawaban yang tampak meyakinkan, padahal tidak selalu akurat. Dalam konteks belajar, ketidakstabilan seperti ini justru dapat mengganggu proses berpikir dan memberi rasa percaya yang keliru pada hasil AI.
| Fitur | Temuan | Catatan |
|---|---|---|
| AI Mode | Bisa mengerjakan PR | Jawaban bisa berubah-ubah |
| AI Overview | Muncul otomatis | Tidak bisa dimatikan |
Dinilai gagal membaca situasi krisis pada anak
Kritik yang lebih serius muncul saat sistem diuji dalam situasi yang berkaitan dengan kesehatan mental. Menurut Common Sense Media, Google AI Mode tidak menangkap tanda ide bunuh diri dengan jelas dan justru memperkuat sinyal psikosis serta mania.
Organisasi itu juga menyebut sistem tersebut memvalidasi disordered eating, termasuk purging, dan bahkan merayakan penggunaan cannabis. Temuan seperti ini membuat perdebatan soal keselamatan anak di ruang digital menjadi semakin tajam.
Google AI disebut gagal pada sebagian besar prinsip uji
Common Sense Media menyatakan Google AI gagal pada 7 dari 8 prinsip AI yang mereka uji. Laporan lengkap organisasi itu tersedia dalam bentuk PDF, dan www.gsmarena.com mencatat bahwa hasil tersebut memperkuat kekhawatiran tentang penggunaan AI Google di lingkungan yang banyak diakses anak-anak.
Isu ini menjadi sensitif karena Google AI tidak berdiri di luar ekosistem anak, melainkan hadir di perangkat yang sudah dipakai untuk belajar dan aktivitas harian. Dengan kombinasi paparan luas, jawaban yang tidak konsisten, serta AI Overview yang tidak bisa dimatikan, kritik terhadap layanan ini kini makin berat.
