Pemerintah menilai penyalahgunaan kecerdasan buatan bisa makin sering terjadi jika etika tidak ditempatkan sejak awal dalam desain teknologi. Wakil Menteri Komunikasi dan Digital Nezar Patria menegaskan bahwa perkembangan AI yang sangat cepat harus diimbangi tanggung jawab agar manfaatnya tidak berubah menjadi ancaman bagi pengguna lain.
Peringatan itu muncul di tengah sorotan atas kasus edit foto mahasiswi ITB yang memicu perbincangan luas soal batas penggunaan AI. Kasus tersebut memperlihatkan bahwa teknologi yang mampu mengubah gambar, suara, dan teks secara meyakinkan kini semakin mudah dimanfaatkan, termasuk untuk tujuan yang merugikan orang lain.
Kasus ITB jadi contoh risiko nyata
Perkara yang melibatkan mahasiswa ITB mencuat setelah beredar dugaan adanya edit foto mahasiswi lain dengan bantuan AI. Konten itu disebut digunakan untuk tujuan yang tidak pantas dan langsung memunculkan diskusi tentang privasi, etika, dan tanggung jawab dalam penggunaan teknologi generatif di lingkungan kampus.
Nezar menilai persoalan seperti ini tidak bisa dilihat hanya sebagai masalah teknis. Di balik kemudahan membuat konten visual dengan AI, ada risiko penyebaran materi yang melanggar privasi atau merugikan pihak lain dalam waktu singkat.
Ia juga menyoroti bahwa korban dari manipulasi semacam itu dapat menanggung dampak psikologis dan sosial. Selain itu, hasil edit yang terlihat realistis membuat penyalahgunaan semakin sulit dikenali oleh publik.
Etika harus masuk sejak tahap desain
Dalam menanggapi perkembangan AI, Nezar mendorong penerapan prinsip ethics by design. Prinsip ini menekankan bahwa etika tidak boleh ditempelkan belakangan, melainkan dipikirkan sejak tahap awal pengembangan produk.
Menurut Nezar, pengembang perlu menyiapkan pembatasan atau pengaman pada konten yang berpotensi menimbulkan masalah. Ia menyebut contoh konten yang mengandung sentimen agama dan unsur pornografi karena keduanya berpotensi memicu penyalahgunaan yang merugikan orang lain.
“Ketika didesain, unsur-unsur etika itu sudah dipertimbangkan,” kata Nezar. Ia menegaskan bahwa inovasi tetap harus berjalan, tetapi harus disertai solusi yang mampu menekan risiko saat teknologi digunakan secara luas.
Peta jalan dan dokumen etika AI disiapkan
Selain mengingatkan pengembang, pemerintah juga disebut sudah menyiapkan dokumen etika AI untuk melengkapi peta jalan AI nasional. Dokumen ini diharapkan menjadi dasar yang lebih tegas dalam mengatur pemanfaatan kecerdasan buatan di Indonesia.
Nezar menyampaikan bahwa dokumen tersebut diharapkan segera ditetapkan menjadi peraturan. Kehadiran acuan ini dinilai penting agar penggunaan AI di berbagai sektor memiliki batas yang lebih jelas, termasuk di pendidikan, media sosial, dan layanan publik.
Langkah tersebut juga dianggap relevan karena teknologi generatif kini semakin mudah diakses. Dengan instruksi singkat, pengguna dapat menghasilkan gambar yang terlihat realistis, sehingga risiko manipulasi visual dan penyebaran konten palsu ikut meningkat.
Literasi digital ikut menjadi sorotan
Kasus edit foto mahasiswi ITB ikut menunjukkan bahwa literasi digital belum sepenuhnya seimbang dengan laju adopsi AI di ruang publik. Kondisi ini membuat masyarakat perlu lebih waspada saat berhadapan dengan konten yang tampak asli tetapi bisa saja hasil manipulasi.
Di sisi lain, persoalan ini tidak hanya bergantung pada pengguna. Tanggung jawab platform dan para pengembang teknologi juga ikut diuji ketika produk AI dilepas ke masyarakat luas.
Nezar menegaskan pemerintah tidak ingin menghambat inovasi. Namun, setiap produk AI yang digunakan publik perlu memperhatikan akuntabilitas agar manfaat teknologi tidak berubah menjadi ancaman bagi orang lain.
Sorotan terhadap etika, perlindungan privasi, dan pencegahan penyalahgunaan pun semakin kuat seiring meluasnya penggunaan AI. Kasus yang menyeret mahasiswi ITB menjadi pengingat bahwa kecanggihan teknologi tetap membutuhkan batas moral dan pengamanan yang jelas.
Source: www.beritasatu.com