Kerugian akibat penipuan digital tahun ini diperkirakan mencapai Rp9 triliun, dan banyak kasus disebut memanfaatkan deepfake. Wakil Menteri Komunikasi dan Digital Nezar Patria menilai ancaman itu tidak bisa lagi dipandang sebelah mata karena teknologi manipulasi suara, gambar, dan video semakin mudah terlihat meyakinkan.
Dalam Indonesia Ethical AI Summit, Rabu (17/6/2026), Nezar menegaskan bahwa penyalahgunaan kecerdasan buatan kini sudah masuk ke ranah yang membahayakan ruang digital. Ia menyebut suara seseorang bisa ditiru, sementara wajah dalam gambar juga dapat dihidupkan menjadi video yang tampak natural.
Deepfake dan realitas sintetis
Nezar menyebut fenomena ini sebagai synthetic reality atau realitas sintetis. Kondisi tersebut membuat batas antara konten asli dan buatan AI semakin tipis di mata masyarakat.
Ia menilai situasi itu berbahaya karena pelaku kejahatan siber dapat menyusun penipuan yang jauh lebih meyakinkan dibandingkan modus lama. Korban bisa diarahkan percaya pada konten yang tampak otentik, mulai dari suara, wajah, hingga video orang yang mereka kenal.
Kelompok yang paling rentan
Menurut Nezar, masyarakat yang belum memahami perkembangan AI menjadi sasaran paling empuk. Celah pengetahuan itu dimanfaatkan untuk memperdaya korban dengan konten palsu yang sulit dibedakan dari yang asli.
Karena itu, literasi digital dinilai tetap menjadi lapisan perlindungan penting di tengah laju teknologi yang semakin canggih. Tanpa pemahaman dasar, masyarakat akan lebih mudah terjebak pada penipuan yang dibangun dari manipulasi AI.
AI berkembang cepat, risiko ikut naik
Nezar juga mengingatkan bahwa perkembangan AI bergerak sangat cepat dari generative AI menuju agentic AI. Dalam beberapa tahun ke depan, teknologi itu diperkirakan berlanjut ke physical AI hingga quantum AI.
Kemajuan tersebut memang membuka peluang besar bagi banyak sektor. Namun, menurut Nezar, laju yang sama juga membawa tantangan baru di sisi keamanan dan etika yang tidak bisa diabaikan.
Etika harus melekat sejak awal
Untuk menahan risiko itu, Nezar menekankan pentingnya pendekatan ethics by design dalam pengembangan AI. Ia menilai keamanan tidak boleh diperlakukan sebagai tambahan belakangan setelah produk selesai dibuat.
Ia menegaskan tiga unsur yang harus hadir dalam implementasi teknologi, yakni transparansi, akuntabilitas, dan keamanan. “Jadi apa yang kita sebut sebagai transparency, accountability, safety, itu harus ada di dalam implementasi, di dalam pengembangan suatu produk AI,” ujarnya.
Pembahasan etika AI, kata Nezar, tidak boleh berhenti pada tataran konsep. Pengembang, regulator, dan pengguna perlu memastikan prinsip itu benar-benar dijalankan agar risiko penipuan digital, termasuk yang memakai deepfake, bisa ditekan sejak dini.
