George Hotz menilai adopsi massal AI coding agent justru dapat merusak kualitas perangkat lunak dalam skala besar. Peretas yang dulu membobol iPhone saat masih remaja itu menyebut kondisi tersebut berpotensi menjadi salah satu kesalahan paling mahal dalam sejarah software.
Hotz bukan sekadar mengomentari tren dari luar. Ia mengaku sudah memakai agent selama sekitar enam bulan untuk pekerjaan nyata, termasuk di bagian Tinygrad dan saat melakukan reverse-engineering penuh firmware chip USB-PCIe.
Kecepatan awal yang terlihat meyakinkan
Menurut Hotz, daya tarik utama AI coding agent ada pada percepatan kerja di tahap awal. Namun, ia menilai keuntungan itu sering hanya tampak di permukaan karena pekerjaan penting pada akhirnya tetap kembali ke manusia untuk membereskan hasilnya.
Ia melihat output dari agent kerap sudah terlihat rusak sejak awal, tetapi kerusakannya menjadi semakin sulit dikenali. Pola itu, bagi Hotz, sejalan dengan model statistik yang makin akurat dalam meniru pola, tetapi tetap tidak benar-benar memahami program.
Hotz juga menolak anggapan bahwa kritiknya lahir dari rasa takut tergeser oleh alat baru. Baginya, persoalan utamanya ada pada kualitas kerja yang perlahan terkikis secara sistematis.
Risiko membesar saat dipakai ramai-ramai
Kekhawatiran Hotz paling besar muncul ketika agent dipakai secara luas dalam organisasi. Ia menilai dorongan dari perusahaan teknologi besar dan Wall Street untuk mengadopsi alat ini secara massal justru bisa menurunkan rata-rata mutu kode dengan lebih cepat.
Dalam pandangannya, kondisi itu menciptakan banyak output, tetapi bukan lebih banyak kualitas. Ia bahkan menggambarkannya sebagai masa yang subur untuk tumpukan kode seadanya, sekaligus masa suram bagi karya yang benar-benar berkualitas.
Contoh yang ia sorot adalah laporan bahwa Apple mendorong alat coding AI ke seluruh organisasi rekayasanya. Dari situ, Hotz mempertanyakan seperti apa arah kualitas macOS dalam dua tahun ke depan.
Masalah ada pada pola kerja tim
Hotz juga melihat persoalan ini dari sisi struktur kerja. Ia menilai pekerja berprestasi tinggi memiliki umpan balik yang cukup rapat untuk menangkap kesalahan agent sebelum kode dikirim.
Sebaliknya, pekerja dengan performa lebih rendah tidak punya mekanisme pemeriksaan diri yang sekuat itu. Jika kelompok ini memakai agent untuk menghasilkan output jauh lebih banyak, hasil akhirnya justru bisa berupa penurunan kualitas yang lebih cepat dan lebih tersembunyi.
Ia bahkan membandingkan situasi tersebut dengan alat lain yang juga bisa menemukan bug, tetapi tidak memunculkan kekhawatiran serupa. Hotz menyebut Google’s AFL mampu menemukan lebih banyak bug daripada LLM, namun tidak memicu perdebatan yang sama soal harga diri.
Perdebatan yang belum reda
Posisi Hotz kini berada di kubu skeptis yang juga diisi Yann LeCun dari Meta dan Gary Marcus. Pandangan ini menilai language model memang mampu meniru distribusi kode yang sudah ada, tetapi belum bisa menalar masalah baru dari prinsip pertama.
Di sisi lain, industri justru bergerak cepat ke arah kerja yang makin agentik. Vibe coding, yaitu memberi instruksi dalam bahasa sehari-hari lalu membiarkan AI membangun implementasinya, berkembang pesat selama setahun terakhir.
Microsoft juga mengubah GitHub Copilot menjadi sistem agentik penuh pada 2025. Satya Nadella menyebut langkah itu sebagai pergeseran tingkat platform yang sebanding dengan perpindahan ke cloud.
Sikap pro-agent mulai menguat
Di tengah keraguan Hotz, sejumlah tokoh besar justru bergerak ke arah yang lebih optimistis. Andrej Karpathy sempat skeptis terhadap agent lebih awal pada 2025, tetapi berubah sikap setelah rilis model baru.
Karpathy kemudian bergabung ke tim pre-training Anthropic pada 19 Mei dan menyebut beberapa tahun ke depan di garis depan AI sebagai periode yang “especially formative.” Pergeseran sikap itu ikut mempertebal perdebatan yang belum menemukan titik temu.
Anthropic sendiri melihat perubahan perilaku di internalnya. CEO Dario Amodei mengatakan di Davos bahwa sebagian engineer Anthropic sudah berhenti menulis kode sendiri dan membiarkan model mengerjakannya, lalu meninjau hasilnya.
Hotz mengaku pernah mencoba pola kerja serupa, tetapi tetap kembali ke perbaikan manual. Bagi dia, itu menjadi tanda paling jelas bahwa AI coding agent belum siap menjadi tulang punggung pengembangan perangkat lunak skala besar.
