Meta mulai meluncurkan sistem peringatan bagi orang tua ketika percakapan remaja dengan Meta AI menunjukkan indikasi bunuh diri atau risiko melukai diri. Fitur ini ditujukan untuk keluarga yang telah menggunakan pengaturan pengawasan orang tua di Instagram.
Notifikasi tidak akan dikirim otomatis hanya karena sistem menemukan kata atau percakapan yang dianggap sensitif. Meta menyatakan setiap temuan akan melalui peninjauan manusia sebelum wali menerima peringatan.
Penilaian AI Tidak Menjadi Satu-satunya Penentu
Perusahaan menggunakan model AI khusus untuk mengenali pembicaraan yang berkaitan dengan bunuh diri dan tindakan melukai diri pada akun remaja. Langkah peninjauan manual diterapkan untuk menekan risiko kesalahan deteksi yang dapat membuat keluarga panik.
Meski ada pemeriksaan oleh manusia, Meta memilih pendekatan hati-hati apabila maksud pengguna masih meragukan setelah peninjauan. Dalam kondisi tersebut, perusahaan tetap dapat mengirim pemberitahuan kepada orang tua atau wali.
Wali yang memperoleh notifikasi akan mendapatkan panduan serta materi dari ahli untuk menghadapi situasi tersebut. Materi itu dirancang agar keluarga dapat membuka percakapan dengan remaja secara lebih tepat dan sensitif.
| Fitur | Jangkauan | Status |
|---|---|---|
| Notifikasi risiko percakapan Meta AI | Amerika Serikat, Inggris, Australia, Kanada | Mulai diluncurkan |
| Notifikasi risiko percakapan Meta AI | Pengguna pengawasan orang tua global | Ditargetkan sebelum akhir 2026 |
| Kontak layanan darurat | Remaja dan pengguna dewasa berisiko tinggi | Masih dikembangkan |
Peluncuran Awal di Empat Negara
Sistem peringatan kini mulai tersedia bagi pengguna Instagram dengan pengawasan orang tua di Amerika Serikat, Inggris, Australia, dan Kanada. Meta menargetkan perluasan ke seluruh pengguna fitur tersebut secara global sebelum akhir 2026.
Pembaruan ini memperluas peran Pengawasan Orang Tua Instagram, yang sebelumnya lebih banyak berkaitan dengan aktivitas umum di platform. Kini, pengawasan dapat mencakup sinyal risiko yang muncul saat remaja berinteraksi dengan chatbot perusahaan.
Menurut laporan Medcom yang mengutip Engadget, pembaruan ini hadir ketika respons chatbot AI terhadap pengguna dalam krisis kesehatan mental mendapat perhatian besar. Perlindungan bagi remaja menjadi fokus karena AI sering dipakai untuk membahas persoalan pribadi.
Pembatasan Respons Meta AI Diperluas
Meta juga memperluas penerapan Limited Content ke percakapan remaja dengan Meta AI. Jika pengaturan itu diaktifkan wali, chatbot akan memberikan respons yang lebih terbatas dan disesuaikan dengan usia pengguna.
Sebelumnya, Limited Content dipakai untuk menyaring materi sensitif di Instagram, termasuk visual dewasa dan konten terkait tindakan melukai diri. Perluasan tersebut membawa batasan serupa ke dalam penggunaan chatbot AI oleh remaja.
Pada April 2026, Meta memberi orang tua akses untuk melihat kategori topik yang dibahas remaja dengan Meta AI selama tujuh hari terakhir. Pengaturan itu tidak membuka isi percakapan secara rinci, tetapi disertai panduan yang disusun bersama ahli.
Meta sebelumnya juga merancang chatbotnya untuk mengarahkan remaja yang menyampaikan pikiran bunuh diri atau Risiko Melukai Diri ke layanan bantuan krisis. Sistem itu turut mendorong pengguna agar berbicara kepada orang tua atau orang dewasa tepercaya.
Opsi Darurat Masih Dikembangkan
Perusahaan sedang menyiapkan kemampuan untuk menghubungi layanan darurat bila percakapan menunjukkan seseorang berisiko tinggi melakukan bunuh diri dalam waktu dekat. Rencana itu mencakup remaja maupun pengguna dewasa yang menghadapi ancaman serius terhadap keselamatan mereka.
Meta menyebut pengembangan sistem dilakukan bersama orang tua, lebih dari 75 tenaga kesehatan mental, serta kelompok penasihat keselamatan remaja. Kelompok tersebut membantu menentukan jenis percakapan yang cukup serius untuk memicu peringatan kepada wali.
Pada Februari 2026, Meta juga mengumumkan rencana notifikasi bagi remaja yang berulang kali mencari istilah terkait bunuh diri atau tindakan melukai diri melalui Instagram Search. Sistem peringatan percakapan AI yang saat itu direncanakan kini mulai diwujudkan melalui pembaruan terbaru.