Leike menekankan bahwa lebih banyak sumber daya harus difokuskan pada persiapan untuk generasi model AI berikutnya, mencakup aspek keamanan, pemantauan, dan keselamatan.
OpenAI baru-baru ini membubarkan tim Superalignment mereka yang bertugas mengembangkan metode pengendalian sistem AI superintelligent. Keputusan ini diambil setelah beberapa anggota tim, termasuk pemimpin utamanya, Jan Leike, mengundurkan diri akibat ketidaksepakatan dengan manajemen terkait prioritas perusahaan. Berikut penjelasannya, seperti dikutip dari TechCrunch (21/5):
1. Ketidaksepakatan tentang prioritas perusahaan
Jan Leike, mantan peneliti DeepMind yang berperan penting dalam pengembangan ChatGPT dan GPT-4, mengundurkan diri dari OpenAI. Dalam serangkaian unggahan di media sosial X, Leike menyatakan bahwa ia telah lama tidak sejalan dengan pimpinan OpenAI mengenai prioritas utama perusahaan.
Leike menekankan bahwa lebih banyak sumber daya harus difokuskan pada persiapan untuk generasi model AI berikutnya, mencakup aspek keamanan, pemantauan, kesiapan, keselamatan, ketahanan terhadap serangan, alignment, kerahasiaan, dampak sosial, dan topik terkait lainnya. Ketidaksepakatan ini akhirnya mencapai titik puncak, memicu pengunduran dirinya.
2. Pembatasan sumber daya unZuk tim Superalignment
Tim Superalignment dibentuk pada Juli tahun lalu dengan tujuan menyelesaikan tantangan teknis dalam mengendalikan AI superintelligent dalam empat tahun. Dipimpin oleh Leike dan salah satu pendiri OpenAI, Ilya Sutskever, tim ini awalnya dijanjikan 20% dari sumber daya komputasi perusahaan.
Namun, sumber internal tim tersebut mengungkapkan bahwa permintaan mereka untuk menggunakan sebagian kecil dari sumber daya tersebut seringkali ditolak, menghambat kemajuan pekerjaan mereka. OpenAI belum memberikan tanggapan resmi terkait alokasi sumber daya yang dijanjikan ini, tetapi beberapa anggota tim menyatakan bahwa prioritas perusahaan lebih condong pada peluncuran produk daripada aspek keselamatan dan keamanan AI.
3. Pengunduran diri Ilya Sutskever
Ilya Sutskever, salah satu pendiri OpenAI dan pemimpin penting dalam tim Superalignment, juga mengundurkan diri pekan ini. Sutskever memainkan peran kunci dalam tim, tidak hanya berkontribusi dalam penelitian tetapi juga menjadi penghubung antara tim dengan divisi lain di dalam OpenAI. Dia menekankan pentingnya pekerjaan tim kepada para pengambil keputusan utama di perusahaan. Pengunduran diri Sutskever menambah kekhawatiran bahwa pengembangan AI di OpenAI mungkin tidak lagi fokus pada keamanan dan keselamatan seperti sebelumnya.
4. Integrasi tugas tim Superalignment ke divisi lain
Setelah pengunduran diri Leike, CEO OpenAI Sam Altman mengakui masih banyak pekerjaan yang harus dilakukan dan menyatakan komitmennya untuk memperbaiki keadaan. Greg Brockman, co-founder OpenAI, dalam pernyataannya menekankan perlunya umpan balik yang ketat, pengujian yang mendalam, serta pertimbangan yang hati-hati pada setiap langkah pengembangan AI.
Namun, keputusan untuk membubarkan tim Superalignment dan mengintegrasikan tugasnya ke dalam berbagai divisi lain di perusahaan telah menimbulkan kekhawatiran. John Schulman, salah satu pendiri OpenAI lainnya, telah ditunjuk untuk memimpin pekerjaan yang sebelumnya dilakukan oleh tim Superalignment. Namun, tanpa adanya tim yang berdedikasi, banyak pihak khawatir bahwa fokus pada keamanan dan keselamatan AI akan terpecah, mengurangi efektivitas pengawasan dan kontrol terhadap pengembangan AI superintelligent.
Keputusan ini diambil di tengah persaingan ketat di industri AI, di mana keselamatan dan keamanan teknologi menjadi sorotan utama. Pengembangan AI yang tidak terkontrol dapat membawa resiko besar bagi masyarakat, dan keputusan OpenAI ini akan diawasi dengan cermat oleh banyak pihak.
