Wajah dan suara kini bukan lagi sekadar identitas manusia di dunia nyata, tetapi juga menjadi target peniruan yang makin mudah dilakukan oleh AI. Situasi ini membuat ancaman terhadap kreator, selebritas, dan masyarakat umum semakin nyata, karena konten palsu dapat dipakai untuk iklan, manipulasi opini, hingga penyebaran informasi yang menyesatkan.
Teknologi AI virtual memang menawarkan efisiensi tinggi bagi pemilik merek. Kendali atas pesan kampanye jadi lebih rapi, namun di saat yang sama ruang untuk eksploitasi identitas manusia ikut terbuka lebar.
Dari kampanye merek ke ancaman identitas
AI influencer kini banyak dipakai untuk memasarkan produk dan membangun citra merek. Lebih jauh lagi, sosok virtual itu juga dapat memengaruhi opini publik dan membentuk perilaku konsumen.
Masalah muncul ketika identitas kreatif manusia ikut ditiru tanpa izin. Dalam praktiknya, sistem AI generatif diketahui dilatih menggunakan jutaan data dari internet, sementara sebagian karya yang dipakai untuk melatih model tersebut diambil sepihak tanpa persetujuan penciptanya.
Rianda Dirkareshza dari UPN Veteran Jakarta menegaskan bahwa Undang-Undang Nomor 28 Tahun 2014 tentang Hak Cipta memberi pencipta hak eksklusif untuk menggandakan, mengadaptasi, mendistribusikan, dan mengumumkan ciptaannya. Karena itu, penggunaan karya orisinal tanpa izin membuat perdebatan soal pelanggaran hak cipta semakin kuat.
Tiruan gaya, wajah, dan suara makin sulit dibedakan
Kekhawatiran tidak berhenti pada karya visual. Model generatif juga mampu meniru gaya khas kreator, termasuk menghasilkan gambar yang menyerupai gaya Vincent van Gogh atau karya studio animasi Studio Ghibli.
Ancaman serupa terlihat pada suara. Pada 2023, sebuah lagu gubahan AI sempat menarik perhatian karena mampu meniru karakteristik vokal Drake tanpa keterlibatan sang musisi.
Dari situ, persoalan berkembang ke deepfake yang lebih sensitif. Teknologi ini dapat mengkloning wajah dan suara seseorang, lalu dipakai untuk membuat video palsu pejabat maupun iklan komersial tanpa izin.
Dirkareshza menyebut teknologi serupa juga pernah digunakan untuk video palsu pejabat publik, konten pornografi sintetis, hingga iklan yang memakai wajah seseorang tanpa persetujuan. Karena itu, wajah dan rekam suara kini dipandang sebagai data biometrik yang perlu perlindungan khusus.
Risiko merambah ruang publik dan demokrasi
Dampak penyalahgunaan konten tiruan tidak lagi terbatas pada selebritas atau kreator. Jika batas legal tidak ditegakkan dengan jelas, masyarakat luas juga bisa menjadi korban eksploitasi identitas digital.
Video palsu yang tampak otentik dapat digunakan sebagai alat propaganda politik dan penyebaran disinformasi. Dalam ruang publik, bentuk manipulasi seperti ini menjadi berbahaya karena sulit diverifikasi dan cepat menyebar.
Persoalan tersebut juga bersinggungan dengan aturan pidana di Indonesia. Dirkareshza mengaitkannya dengan Undang-Undang Nomor 1 Tahun 2024 tentang Perubahan Kedua atas Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik, khususnya soal manipulasi informasi elektronik, penyebaran berita bohong, dan pencemaran nama baik.
Siapa yang menanggung tanggung jawab
Kecepatan perkembangan AI dinilai bergerak lebih cepat daripada kapasitas regulasi saat ini. Kondisi itu membuat pertanyaan soal tanggung jawab hukum semakin mendesak saat pelanggaran digital terjadi.
AI tidak memiliki kesadaran dan tidak bisa dimintai pertanggungjawaban yuridis. Karena itu, perdebatan global mulai mengarah pada konsep tanggung jawab bersama antara perusahaan pengembang AI, platform digital, dan pengguna akhir.
Perusahaan pengembang dapat terkena implikasi hukum bila terbukti melatih sistem dengan data ilegal. Sementara itu, pengguna akhir tetap menjadi pihak paling bertanggung jawab jika sengaja melakukan fitnah atau menyebarkan konten palsu.
Dalam forum diskusi World Intellectual Property Organization, dampak AI juga menjadi perhatian utama. Lembaga itu menekankan pentingnya menjaga keseimbangan antara inovasi teknologi dan perlindungan hak dasar para pencipta.
Pakar hukum digital menilai prinsip dasarnya harus tegas: AI perlu tetap menjadi alat yang melayani manusia, bukan menggantikannya apalagi mengeksploitasinya. Tanpa batas regulasi yang jelas, ancaman terhadap martabat manusia di era digital akan terus membesar.
Source: www.cnbcindonesia.com
