AI Google

Pengunduran diri Ren Mayrhofer dari Google memunculkan kritik keras terhadap arah perusahaan dalam pengembangan kecerdasan buatan. Direktur senior yang menjabat sebagai Director of Android Platform Security itu menyebut keputusannya menjadi “tak terhindarkan” setelah Google meneken kesepakatan yang membuka pemakaian model AI perusahaan oleh Departemen Pertahanan AS untuk pekerjaan rahasia. Dalam surat perpisahannya, Mayrhofer menilai Google telah kehilangan kompas moral. Ia juga menganggap keputusan besar di perusahaan itu kini makin sering diambil tanpa perdebatan internal yang luas, terutama ketika menyangkut penggunaan AI untuk kepentingan pertahanan. Keberatan pada kesepakatan dengan Pentagon Pokok penolakannya tertuju pada kesepakatan yang diumumkan pada April. Perjanjian itu memungkinkan Pentagon memakai teknologi AI Google untuk pekerjaan terklasifikasi, termasuk perencanaan militer dan tugas yang berkaitan dengan intelijen. Mayrhofer mengatakan ia tidak bisa mendukung arah tersebut. Ia menyebut dirinya seorang pasifis dan menegaskan bahwa sejak lama ia memilih tidak berkontribusi secara pribadi pada operasi militer ofensif. Ia juga menulis bahwa tindakan melukai orang secara proaktif bukan sesuatu yang dapat ia dukung. Karena itu, ia akan segera menjauh dari pekerjaan yang terkait dengan sistem AI yang mungkin masuk dalam cakupan perjanjian pertahanan itu. Kritiknya turut menyoroti frasa “any lawful purpose” dalam kesepakatan tersebut. Menurutnya, ketentuan itu menyimpan risiko besar dalam situasi politik saat ini dan pada akhirnya bisa membuka jalan bagi pengawasan massal. Mayrhofer bahkan menulis bahwa, sebagai akademisi Eropa, ia melihat kemungkinan produk AI Google kelak dipakai secara langsung terhadap warga Uni Eropa, termasuk dirinya sendiri. Perubahan budaya kerja di Google Mayrhofer bergabung dengan Google pada 2017, dan ia menggambarkan perusahaan yang ditemuinya saat itu sangat berbeda dari kondisi sekarang. Menurutnya, Google dulu lebih terbuka terhadap diskusi, transparan, dan memberi ruang bagi karyawan membawa nilai pribadi ke dalam pekerjaan. Ia menyebut semangat “Don’t Be Evil” kala itu bukan sekadar slogan, melainkan acuan nyata saat tim harus mengambil keputusan sulit. Ia juga mengingat bahwa kontrak dengan Pentagon pernah dibatalkan setelah karyawan menyuarakan penolakan. Dalam suratnya, Mayrhofer mengatakan dirinya ikut menandatangani surat terbuka pada 2018 yang menolak keterlibatan semacam itu. Ia menilai suasana internal saat ini telah berubah jauh dari masa ketika perdebatan semacam itu masih berlangsung terbuka. Yang paling mengkhawatirkan baginya bukan hanya isi keputusan, tetapi cara keputusan itu diambil. Ia menulis bahwa isu-isu besar kini tidak lagi dibahas atau dikomunikasikan secara luas di internal perusahaan, melainkan diputuskan oleh manajemen puncak. Mayrhofer bahkan menyatakan beberapa perubahan penting tidak ia ketahui lewat saluran internal resmi, meski dirinya berada dalam rantai manajemen. Baginya, pola itu menunjukkan makin sempitnya ruang diskusi di perusahaan besar tersebut. Komitmen etika dan lingkungan ikut disorot Surat pengunduran diri itu juga menyentuh prinsip AI yang pernah dipublikasikan Sundar Pichai pada 2018. Di dalamnya, Google berkomitmen untuk tidak mengejar aplikasi senjata, teknologi pengawasan yang melanggar norma internasional, serta teknologi yang bertentangan dengan hukum internasional dan hak asasi manusia. Mayrhofer menilai arah perusahaan sekarang menjauh dari prinsip-prinsip tersebut. Ia bahkan menuduh manajemen Google diam-diam meninggalkan target menjadi carbon-neutral karena kebutuhan energi model AI. Dengan demikian, kritiknya tidak berhenti pada aspek militer. Ia memperluas sorotan ke soal dampak etika penggunaan AI dan biaya ekologis dari ekspansi infrastruktur kecerdasan buatan. Gelombang penolakan dari internal perusahaan Reaksi atas kerja sama Google dengan Pentagon sebelumnya juga sudah muncul dari dalam perusahaan. Saat laporan soal kemitraan itu beredar lebih awal tahun ini, ratusan karyawan disebut menandatangani surat yang menolak pekerjaan AI militer terklasifikasi. Peneliti Google DeepMind, Andreas Kirsch, juga menyampaikan kritik terbuka. Ia mengatakan merasa “malu” atas langkah tersebut. Situasi itu membuat pengunduran diri Mayrhofer tampak sebagai bagian dari ketegangan yang lebih luas di perusahaan AI besar. Perdebatan utamanya berkisar pada batas pemakaian teknologi canggih untuk kebutuhan pertahanan negara. Meski sudah mengajukan pengunduran diri, Mayrhofer tidak langsung meninggalkan Google. Ia mengatakan akan tetap berada di perusahaan sampai masa pemberitahuan berakhir pada 31 Agustus 2026, dengan keterlibatan waktu yang terbatas untuk menyelesaikan atau menyerahkan proyek yang masih berjalan. Setelah keluar, ia berencana tetap menekuni bidang komunikasi terenkripsi end-to-end, protokol penyimpanan yang tangguh, identitas digital yang menjaga privasi, keamanan sistem tertanam, sistem operasi, dan keamanan rantai pasok. Di akhir suratnya, ia menulis bahwa ia sedih keputusan itu harus diambil, tetapi berharap manajemen Google suatu hari dapat menemukan kembali kompas moralnya. Source: www.indiatoday.in

Bos Android Mundur, Google Dituding Kehilangan Kompas Moral karena AI Pentagon