Keamanan AI

Anthropic terpaksa menghentikan akses ke Fable 5 dan Mythos 5 setelah pemerintah Amerika Serikat memerintahkan perusahaan itu menangguhkan akses bagi semua warga negara asing, baik yang berada di dalam maupun di luar AS. Keputusan itu membuat dua model AI terbaru tersebut langsung ditutup untuk seluruh pelanggan. Langkah tersebut datang hanya beberapa hari setelah peluncuran keduanya, sehingga dampaknya terasa cepat di pasar. Bagi Anthropic, pembatasan ini tidak menyasar kelompok pengguna tertentu saja, melainkan memaksa penghentian akses total agar perusahaan tetap patuh pada instruksi pemerintah. Perintah yang memicu penghentian mendadak Reuters melaporkan bahwa staf teknis senior Anthropic bertemu dengan pejabat Departemen Perdagangan di Washington pada Senin. Sebelum pertemuan itu, staf teknis perusahaan juga telah berkomunikasi dengan pejabat pemerintahan Trump selama akhir pekan. The Wall Street Journal menyebut Menteri Perdagangan Howard Lutnick sebagai pihak yang mengirim surat berisi instruksi untuk menghentikan Fable 5. Hingga Senin, Departemen Perdagangan belum segera menanggapi permintaan komentar mengenai pembicaraan yang masih berlangsung. Anthropic mengatakan pemerintah mengaku menemukan “potential narrow, non-universal jailbreak” pada Fable 5. Mekanisme yang dimaksud disebut melibatkan permintaan agar model membaca basis kode tertentu lalu memperbaiki kelemahan perangkat lunak. Perusahaan menegaskan bahwa bukti yang sejauh ini diberikan masih bersifat lisan. Anthropic juga menyatakan telah berupaya agar setiap jailbreak tetap sempit atau sangat mahal untuk dibuat, serta meyakini pengawasan yang ketat akan cepat mendeteksi dan menghentikan serangan yang berhasil. Dua model baru langsung terdampak Menurut Anthropic, perintah pemerintah mewajibkan penghentian akses Fable 5 dan Mythos 5 secara mendadak. Namun, model Anthropic lainnya tidak terdampak oleh pembatasan tersebut. Bagi pelanggan, keputusan ini berarti akses ke dua model paling baru harus dihentikan sambil menunggu kejelasan soal kepatuhan dan keamanan. Situasi ini juga menjadi pukulan penting karena keduanya baru saja masuk ke pasar. Riwayat kekhawatiran keamanan yang berulang Kekhawatiran soal keamanan pada model Anthropic bukan persoalan baru. Pada April, perusahaan mengatakan menahan sebagian model Mythos dari rilis publik karena AI tersebut mampu menemukan dan mengeksploitasi celah keamanan perangkat lunak, sehingga dinilai sebagai risiko siber. The Information melaporkan bahwa CEO Amazon Andy Jassy dan pihak lain telah menyampaikan kekhawatiran soal perangkat lunak itu. Sementara itu, The Wall Street Journal melaporkan bahwa peneliti Amazon menguji Fable 5 dan berhasil mendorongnya memberikan informasi yang dapat membantu serangan siber. Rangkaian temuan tersebut membuat isu keamanan menjadi sorotan utama di sekitar peluncuran model-model baru Anthropic. Di sisi lain, perusahaan tampak berupaya menunjukkan bahwa mereka telah menyiapkan pengawasan yang ketat terhadap potensi penyalahgunaan. Tekanan kebijakan AI di Washington Langkah pemerintah AS terhadap Anthropic juga muncul tak lama setelah Presiden Trump menandatangani perintah eksekutif baru pada Selasa lalu yang mengatur penggunaan AI. Aturan itu mendorong pengawasan lebih awal atas model AI baru sebelum dirilis ke publik. Dalam kebijakan tersebut, perusahaan teknologi diminta menyerahkan model AI terbaru mereka untuk tinjauan sukarela dalam jendela 30 hari. Departemen Keuangan juga akan membentuk “cybersecurity clearinghouse” untuk meninjau kerentanan keamanan. Di tengah tekanan itu, Anthropic juga sedang bergerak ke tahap bisnis yang lebih besar. Pada 1 Juni, perusahaan mengajukan dokumen untuk menjadi perusahaan publik dalam penawaran umum perdana yang diperkirakan akan sangat besar.

Perintah AS Paksa Anthropic Tutup Akses Fable 5 dan Mythos 5, Isu Keamanan Makin Tajam