Dorongan Amazon untuk mempercepat penggunaan AI justru berbalik menjadi sumber masalah operasional. Salah satu dampak paling mencolok adalah penundaan 6,3 juta pesanan dalam satu hari, yang membuat kebijakan itu terlihat jauh dari sekadar upaya efisiensi internal.
Di dalam perusahaan, tekanan penggunaan alat AI internal Kira disebut sangat kuat. Amazon mewajibkan sekitar 80% proses pengembangan internal memakai sistem AI coding tersebut, bahkan ketika alat itu tidak selalu menjadi pilihan paling efektif untuk tugas tertentu.
Akibatnya, fokus kerja ikut bergeser. Tim pengembang terdorong untuk memenuhi target kepatuhan penggunaan alat, bukan semata memilih cara kerja yang paling tepat untuk menghasilkan hasil terbaik.
Situasi seperti ini menunjukkan bahwa persoalannya tidak hanya terletak pada teknologi yang belum matang. Cara perusahaan menetapkan ukuran keberhasilan ikut membentuk perilaku organisasi, dan ketika angka penggunaan lebih diutamakan, hasil bisnis yang seharusnya menjadi tujuan utama bisa terdorong ke belakang.
Dampak dari pendekatan itu tidak berhenti di level pengembangan. Kesalahan yang berkaitan dengan penggunaan AI ikut memicu gangguan operasional, sampai pada insiden yang menunda jutaan pesanan dalam satu hari.
Kondisi tersebut membuat Amazon kembali memperkuat pengawasan manusia di sejumlah area yang sebelumnya dikelola AI. Langkah ini menjadi pembalikan arah yang menonjol, terlebih setelah perusahaan sebelumnya melakukan PHK yang dikaitkan dengan otomatisasi berbasis AI.
Kasus ini juga sering dipandang sebagai contoh nyata dari Goodhart’s Law. Prinsip itu menyatakan bahwa ketika sebuah ukuran dijadikan target, ukuran tersebut berhenti menjadi indikator yang baik.
Dalam konteks Amazon, tingkat penggunaan AI semula tampak seperti metrik yang mudah dipantau. Namun saat angka adopsi dijadikan sasaran utama, perilaku organisasi ikut berubah dan tidak selalu selaras dengan tujuan bisnis yang lebih besar.
Karyawan akhirnya bisa lebih fokus pada kewajiban memakai Kira daripada menyelesaikan masalah secara efektif. Dari situ muncul inefisiensi, kebutuhan verifikasi yang meningkat, serta menurunnya kepercayaan terhadap alat AI itu sendiri.
Pola serupa ternyata tidak hanya menjadi persoalan di Amazon. Di berbagai industri, banyak organisasi menilai keberhasilan AI dari seberapa sering alat itu dipakai, bukan dari apakah alat tersebut benar-benar mempercepat kerja atau meningkatkan hasil.
Di sejumlah firma hukum, misalnya, otomatisasi justru menambah beban. Pegawai harus meluangkan lebih banyak waktu untuk memeriksa ulang keluaran AI, sehingga manfaat yang diharapkan dari penggunaan teknologi itu menjadi berkurang.
Karena itu, masalah yang muncul bukan berarti AI tidak punya nilai bagi perusahaan besar. Yang menjadi sorotan adalah cara penerapannya yang terlalu kaku dan lebih menekankan kepatuhan dibanding kecocokan penggunaan.
AI pada dasarnya adalah alat untuk membantu mencapai sasaran bisnis, bukan sasaran itu sendiri. Jika alat dipaksakan ke semua proses tanpa mempertimbangkan apakah cocok untuk tugasnya, perusahaan berisiko menambah lapisan kerja baru alih-alih memangkasnya.
Dari kasus Amazon, pelajarannya cukup jelas: penerapan AI membutuhkan strategi yang lebih dulu menetapkan hasil bisnis yang ingin dicapai. Setelah itu, barulah perusahaan memilih alat yang paling sesuai dan memahami keterbatasannya secara realistis.
Pengawasan manusia tetap penting pada tahap-tahap kritis, terutama ketika AI dipakai dalam proses yang berdampak besar pada pelanggan atau rantai operasi. Akuntabilitas tidak bisa diserahkan sepenuhnya kepada sistem otomatis saat konsekuensinya langsung terasa pada layanan dan kinerja perusahaan.
Perubahan budaya perusahaan juga ikut disebut memengaruhi tantangan ini. Amazon yang dulu dikenal lewat filosofi jangka panjang dan fokus kuat pada pelanggan, kini dinilai lebih menekankan metrik jangka pendek dan birokrasi internal.
Pergeseran itu disebut ikut melemahkan kemampuan Amazon menerapkan AI secara efektif dan tetap selaras dengan tujuan strategis yang lebih luas. Jika keberhasilan terus diukur dari angka kepatuhan internal, inovasi berisiko berubah menjadi formalitas yang tampak rapi di atas kertas, tetapi minim dampak nyata.
Source: www.geeky-gadgets.com