Konten berbasis artificial intelligence atau AI berkualitas rendah kini mendominasi beranda TikTok, dan riset Kapwing menunjukkan porsi terbesarnya justru muncul di ruang yang paling sensitif bagi anak-anak. Dalam temuan itu, 59% video di halaman For You TikTok tergolong konten AI berkualitas rendah, jauh melampaui YouTube yang berada di angka 21%.
Temuan tersebut memperlihatkan bagaimana sistem rekomendasi TikTok dapat mempercepat penyebaran video AI ke hadapan pengguna. Kondisi itu menjadi lebih mengkhawatirkan karena paparan paling tinggi tercatat pada kategori yang banyak diakses anak-anak, termasuk tagar bertema kartun anak.
Kategori anak-anak paling banyak terpapar
Dari 10.742 video yang dianalisis pada sejumlah tag populer di TikTok, kategori anak-anak menjadi yang paling banyak dipenuhi konten AI berkualitas rendah. Proporsinya mencapai 57,4%, angka yang menempatkan kategori ini di posisi paling rentan dibandingkan kelompok lain yang ikut diteliti.
Di bawahnya, kategori sains dan pendidikan mencatat 35%, kesehatan 33,8%, dan sejarah 33,5%. Data itu menunjukkan bahwa konten otomatis tidak hanya menumpuk di ranah hiburan, tetapi juga masuk ke ruang yang kerap dianggap informatif dan edukatif.
| Kategori | Proporsi konten AI berkualitas rendah |
|---|---|
| Anak-anak | 57,4% |
| Sains dan pendidikan | 35% |
| Kesehatan | 33,8% |
| Sejarah | 33,5% |
Tagar tertentu memperlihatkan dominasi yang ekstrem
Sorotan terbesar muncul pada tagar #cartoonkids. Dalam pengamatan itu, hanya tiga dari 100 video yang merupakan hasil produksi manusia, sedangkan 97% sisanya berasal dari konten AI berkualitas rendah.
Komposisi tersebut memperkuat kekhawatiran bahwa ruang yang banyak diakses anak-anak telah dipenuhi materi visual otomatis dalam skala besar. Situasi ini dinilai berisiko karena pengguna muda dapat terus terpapar konten massal yang kualitasnya tidak memadai.
Algoritma TikTok ikut mendorong penyebaran
Kapwing menjelaskan bahwa TikTok menampilkan video berdasarkan minat pengguna, aktivitas menonton, akun yang diikuti, dan interaksi seperti tanda suka. Untuk akun baru, platform juga cenderung menyajikan konten populer yang dianggap relevan bagi audiens luas, termasuk yang dipengaruhi lokasi dan pengaturan bahasa.
Dalam pengujian akun baru, peneliti tetap menemukan banyak video AI berkualitas rendah masuk ke beranda. Konten semacam itu muncul lintas kategori, mulai dari anak-anak, sains dan pendidikan, kesehatan, hingga sejarah.
Risiko terhadap perkembangan anak
Temuan Kapwing ikut memicu perhatian dari kalangan akademisi. Profesor Pediatri Universitas Chicago, Dana Suskind, menyebut fenomena itu berpotensi mengganggu perkembangan anak jika terus dibiarkan.
“Saya sebut ini sebagai disinformasi AI untuk anak dalam skala industri. Ini berisiko untuk perkembangan otak,” ujar Dana Suskind dalam riset perusahaan.
Pernyataan itu menegaskan bahwa persoalan konten AI berkualitas rendah bukan sekadar soal kualitas beranda TikTok. Di tengah algoritma yang terus menonjolkan konten populer, paparan video otomatis pada kategori sensitif seperti anak-anak menjadi isu yang semakin sulit diabaikan.