AI Otonom

Regulator global kini menaruh perhatian lebih besar pada AI otonom yang mulai masuk ke operasional keuangan. Badan Stabilitas Keuangan atau FSB memperingatkan bahwa sistem seperti ini dapat memunculkan kebocoran data, tindakan ilegal, dan gangguan pada sistem yang saling terhubung.Peringatan itu muncul saat adopsi teknologi tersebut bergerak cepat di industri keuangan. Dalam laporan terbarunya, FSB meminta sistem keuangan menyiapkan pengamanan baru agar penggunaan AI tidak melampaui kemampuan pengawasan manusia.AI yang makin dalam masuk ke bankAgentic AI adalah sistem yang dapat merencanakan, bernalar, dan menjalankan tugas dengan pengawasan manusia yang terbatas. Teknologi ini sudah dipakai perusahaan keuangan untuk mendeteksi penipuan, melayani konsumen, dan menangani fungsi back-office.Kemampuan itu dianggap memberi efisiensi, tetapi juga membuka celah baru. FSB menilai agen AI bisa bergerak menyimpang dari niat perusahaan tanpa disadari karyawan, atau tanpa sempat dihentikan tepat waktu.Adopsi melonjak, pengawasan tertinggalSurvei Cambridge Centre for Alternative Finance menunjukkan penggunaan Agentic AI di sektor keuangan sudah meluas. Sebanyak 52% responden melaporkan pemakaian aktif, 23% sedang memperluas penerapan, dan 29% baru akan memulai.Data itu memperkuat alasan mengapa regulator mendesak pengawasan yang lebih ketat. Di saat perusahaan berlomba memanfaatkan AI untuk efisiensi, standar keamanan dan kontrol internal dinilai belum selalu bergerak secepat teknologi yang diterapkan.Perhatian terhadap risikonya juga menguat sejak Anthropic merilis Mythos. Sejumlah ahli menilai model AI canggih itu membawa tantangan keamanan siber yang signifikan bagi industri perbankan.Aturan yang mulai disiapkan regulatorUntuk menekan risiko, lembaga penetapan standar global mengusulkan sejumlah praktik yang dianggap baik. Perusahaan keuangan diminta menetapkan batasan jelas atas penggunaan AI dan membangun pengamanan yang kuat.Pedoman itu juga mendorong pembatasan atas tindakan yang boleh dilakukan agen AI. Untuk langkah berisiko tinggi, seperti transaksi keuangan di atas ambang batas tertentu, persetujuan manusia tetap diperlukan.FSB membuka pedoman yang tidak mengikat itu untuk masukan hingga 22 Juli 2026. Artinya, industri masih memiliki ruang untuk memberi tanggapan sebelum arahan final dipakai lebih luas.Kontrol internal bank ikut disorotFSB juga menyebut perusahaan keuangan, termasuk perbankan, perlu menyesuaikan kontrol dan proses sumber daya manusia terhadap agen AI. Salah satu pendekatan yang diusulkan adalah memperlakukan mereka sebagai “karyawan sintetis”.Pendekatan tersebut menunjukkan bahwa regulator mulai memandang AI bukan sekadar alat bantu, melainkan bagian dari struktur kerja yang harus diawasi seperti entitas operasional lain. Dengan cara itu, batas tugas, tanggung jawab, dan kontrol bisa dibuat lebih tegas sejak awal.Bagi bank-bank di seluruh dunia, pesan utamanya jelas: adopsi AI tidak boleh bergerak lebih cepat daripada sistem pengamanannya. Tanpa pengawasan yang memadai, otomatisasi justru bisa membuka pintu bagi risiko baru yang sulit dipulihkan jika sudah terlanjur terjadi. Source: www.cnbcindonesia.com

Bank Dunia Diminta Siaga Penuh, AI Otonom Dipandang Bisa Memicu Risiko Baru