OpenAI kini menyiapkan langkah yang jarang dibicarakan secara terbuka: merekrut manusia untuk mengawasi AI yang kelak diharapkan bisa ikut melakukan riset AI secara mandiri. Di saat yang sama, perusahaan itu juga mulai menata cara menghadapi risiko ketika sistem AI makin dekat dengan pekerjaan teknis yang selama ini dikerjakan peneliti dan insinyur.
Posisi baru itu dibuka di tim keselamatan Preparedness. Business Insider melaporkan, peran ini ditujukan untuk meneliti apa yang terjadi saat sistem AI mampu melatih dan meningkatkan versi AI berikutnya, dengan paket gaji antara $295,000 hingga $445,000.
Dalam deskripsi pekerjaannya, OpenAI menyebut fokusnya adalah menyiapkan diri untuk “recursive self-improvement” pada sistem AI. Istilah itu merujuk pada skenario ketika AI dapat membangun versi yang lebih pintar dari dirinya sendiri tanpa terlalu bergantung pada campur tangan manusia.
Perusahaan juga menjelaskan bahwa tanggung jawab peran tersebut akan menyentuh persoalan yang mungkin belum muncul sekarang, tetapi bisa relevan di masa depan. Dengan kata lain, OpenAI sedang mencari orang yang dipandang mampu membaca risiko jangka panjang sebelum sistem AI berkembang terlalu jauh.
Mengawasi otomatisasi yang sedang dikejar
Arah ini sejalan dengan ambisi yang sebelumnya disampaikan CEO OpenAI, Sam Altman. Pada Oktober 2025, Altman mengatakan OpenAI ingin menciptakan “automated AI research intern” yang berjalan di atas ratusan ribu chip pada September tahun ini.
Altman juga memetakan target yang lebih jauh, yakni menghadirkan “true automated AI researcher” pada Maret 2028. Ia mengakui perusahaan bisa saja gagal total, tetapi menilai keterbukaan soal ambisi tersebut penting bagi kepentingan publik.
Dorongan ke arah itu ikut diperkuat oleh kemajuan model AI di bidang pemrograman. Dalam beberapa bulan terakhir, alat AI untuk coding dari OpenAI dan Anthropic berkembang cepat, sehingga gagasan bahwa AI dapat mengambil alih lebih banyak pekerjaan teknis terasa semakin dekat.
Demis Hassabis bahkan mengatakan manusia kini mungkin sudah berada di “foothills of the singularity.” Ungkapan itu menggambarkan fase ketika AI mulai meningkatkan dirinya sendiri lebih cepat daripada kemampuan manusia untuk mengikutinya.
Risiko yang ikut dihitung sejak awal
Lowongan OpenAI itu tidak hanya menyorot ambisi, tetapi juga ancaman yang bisa muncul bersamaan. Salah satu fokus utamanya adalah pertahanan terhadap “data poisoning”, yaitu serangan yang sengaja merusak data pelatihan untuk memanipulasi perilaku AI.
Peran tersebut juga dapat mencakup pembangunan alat untuk membantu menafsirkan cara AI bernalar di dalam sistemnya. Selain itu, peneliti yang direkrut akan melakukan eksperimen pada model untuk memahami potensi bahaya sebelum risiko itu berubah menjadi ancaman nyata.
OpenAI juga secara eksplisit menyebut pelacakan “automation of technical staff”. Pengukuran ini mencakup sejauh mana alat coding AI menggantikan atau membantu insinyur manusia.
Di titik ini, ironi terlihat jelas. OpenAI merekrut manusia dengan bayaran tinggi untuk meneliti masa depan AI, sambil menyiapkan metrik untuk menilai kapan AI mulai mengambil alih pekerjaan teknis yang selama ini ditangani manusia.
Persaingan industri yang ikut memanas
Tim Preparedness memang dibentuk untuk mencegah bahaya besar yang berkaitan dengan AI. Cakupannya meliputi ancaman siber, risiko biologis, penyalahgunaan kimia, dan bahaya dari agen AI yang sangat otonom.
Deskripsi lowongan itu juga menyebut pekerjaan tersebut bersifat mendesak dan bisa berdampak luas. Dampaknya dinilai bukan hanya untuk OpenAI, tetapi juga untuk masyarakat secara keseluruhan.
Arah otomatisasi riset AI juga tercermin dari temuan organisasi riset kemampuan AI, METR. Dalam laporan Maret, para penelitinya mengatakan jumlah pekerjaan yang bisa ditangani sistem AI canggih tampak berlipat ganda kira-kira setiap tujuh bulan.
Menurut METR, tren itu pada akhirnya dapat membuat agen AI mengambil alih tugas perangkat lunak yang saat ini masih membutuhkan programmer manusia selama berhari-hari atau bahkan berminggu-minggu. Temuan ini ikut menjelaskan mengapa perusahaan AI kini tidak hanya berlomba membuat model lebih kuat, tetapi juga menyiapkan pengawasan dan mitigasi yang lebih serius.
OpenAI sendiri sedang agresif mendorong alat coding Codex ke pasar perusahaan. Langkah itu menunjukkan bahwa pengembangan perangkat lunak berbasis AI dipandang sebagai salah satu sumber pendapatan besar.
Anthropic juga bergerak di jalur yang mirip. Perusahaan itu meneliti bagaimana sistem AI dapat mengawasi sistem AI lain yang lebih kuat, dan baru-baru ini menerbitkan riset yang menunjukkan keberhasilan awal, meski hasilnya masih terbatas.
Salah satu pendiri Anthropic, Jack Clark, bahkan memperkirakan ada peluang sekitar 60 persen bahwa riset dan pengembangan AI bisa berlangsung tanpa keterlibatan langsung manusia pada akhir 2028. Jika perkiraan itu mendekati kenyataan, perekrutan OpenAI saat ini menunjukkan bahwa industri AI mulai menganggap otomatisasi riset sebagai skenario yang harus disiapkan sejak sekarang.
