Pengawasan AI

Pemerintah Amerika Serikat memerintahkan penghentian akses model AI terbaru milik Anthropic, Fable 5 dan Mythos 5, hanya beberapa pekan setelah keduanya diluncurkan. Keputusan ini langsung menimbulkan pertanyaan besar tentang sejauh mana negara dapat ikut campur dalam distribusi model AI tingkat lanjut. Langkah tersebut disebut diambil melalui pengendalian ekspor dengan alasan keamanan nasional. Akibatnya, Anthropic menonaktifkan akses kedua model itu untuk seluruh pelanggan di dunia, sementara model AI Anthropic lainnya tetap bisa digunakan. Blokir berlaku luas, termasuk untuk warga asing Menurut Anthropic, arahan pemerintah AS mewajibkan perusahaan menghentikan akses Fable 5 dan Mythos 5 bagi warga negara asing, baik yang berada di dalam maupun di luar Amerika Serikat. Aturan itu juga disebut berlaku bagi pegawai Anthropic yang berkewarganegaraan asing. Dengan kebijakan ini, dampaknya tidak berhenti di pasar domestik. Satu keputusan regulasi dari AS kini memengaruhi akses global terhadap model yang sudah dipasarkan secara komersial. Apa yang menjadi perhatian pemerintah Anthropic menduga keputusan itu berkaitan dengan kekhawatiran pemerintah atas potensi metode jailbreak untuk menembus sistem pengamanan Fable 5. Perusahaan, bagaimanapun, membantah bahwa temuan itu menunjukkan risiko serius. Dalam penjelasannya, Anthropic menyebut teknik yang dipermasalahkan hanya menemukan sejumlah kecil kerentanan yang sebelumnya sudah diketahui dan tergolong minor. Perusahaan juga menilai kemampuan semacam itu tidak eksklusif, karena model AI lain yang sudah beredar publik memiliki kemampuan serupa. Hasil pengujian keamanan Anthropic Anthropic mengatakan Fable 5 telah menjalani ribuan jam pengujian keamanan atau red teaming sebelum diluncurkan. Pengujian itu melibatkan pemerintah AS, lembaga keamanan AI Inggris, organisasi independen, dan tim internal perusahaan. Hasil pengujian tersebut disebut menunjukkan sistem pengamanan Fable lebih kuat dibandingkan model-model sebelumnya. Hingga kini, Anthropic juga menegaskan belum ditemukan universal jailbreak, yakni metode yang bisa membobol perlindungan model secara luas dan membuka berbagai kemampuan siber berbahaya. Meski begitu, perusahaan mengakui tidak ada model AI yang sepenuhnya kebal dari upaya jailbreak. Karena itu, Anthropic menerapkan strategi perlindungan berlapis untuk menekan risiko penyalahgunaan. Preseden yang bisa mengubah arah industri Kasus ini dinilai menjadi preseden penting bagi industri AI global karena untuk pertama kalinya pemerintah AS memakai kewenangan pengendalian ekspor untuk menghentikan akses model AI komersial yang baru diluncurkan. Langkah itu menandai bahwa isu keamanan nasional kini bisa langsung memengaruhi distribusi teknologi AI frontier. Bagi pengembang lain, keputusan tersebut berpotensi menambah ketidakpastian regulasi saat mereka berlomba menghadirkan model yang makin canggih. Di saat yang sama, kebijakan ini menegaskan bahwa keselamatan AI kini dipandang sama pentingnya dengan inovasi teknologi. Anthropic menyatakan sedang berupaya memulihkan akses Fable 5 dan Mythos 5 sesegera mungkin. Perusahaan menilai keputusan pemerintah itu merupakan kesalahpahaman, tetapi kasus ini sudah memberi sinyal kuat bahwa pengawasan terhadap model AI tingkat lanjut akan semakin ketat ke depan. Source: teknologi.bisnis.com

AS Blokir Model AI Terbaru Anthropic, Sinyal Baru Pengawasan Ketat di Industri