OpenAI Restrukturisasi: Tim Perilaku AI Digabungkan dengan Departemen Pasca Pelatihan

Giant kecerdasan buatan OpenAI baru-baru ini mengumumkan restrukturisasi tim perilaku modelnya. Tim kecil yang terdiri dari 14 peneliti ini, meskipun tidak besar, memainkan peran yang sangat penting dalam menentukan bagaimana AI berinteraksi dengan manusia.

Menurut memo internal yang dirilis pada bulan Agustus oleh Kepala Penelitian OpenAI Mak Chen, tim ini akan digabungkan ke dalam tim pasca pelatihan dan melapor langsung kepada kepala pasca pelatihan Max Schwarzer. Tim pasca pelatihan terutama bertanggung jawab untuk melakukan optimasi lebih lanjut setelah model AI menyelesaikan pra-pelatihan awal.

Pendiri dan kepala tim perilaku model Joanne Jang akan beralih untuk memulai proyek baru di dalam OpenAI. Dalam wawancara baru-baru ini, Jang mengungkapkan bahwa dia sedang membentuk tim penelitian yang disebut "OAI Labs", yang berfokus pada "penemuan dan desain prototipe antarmuka baru untuk kolaborasi antara manusia dan AI".

Mengapa restrukturisasi? Menghadapi kontroversi perilaku AI

Tim perilaku model telah berkomitmen untuk membentuk kepribadian model AI, mengurangi perilaku menjilat (kecenderungan AI untuk hanya setuju dan memperkuat keyakinan pengguna), dan menangani masalah bias politik dalam respons model. Chen menyatakan dalam memo bahwa sekarang adalah waktu terbaik untuk mengaitkan perilaku model lebih erat dengan pengembangan inti, yang menunjukkan bahwa OpenAI telah melihat kepribadian AI sebagai elemen kunci dalam perkembangan teknologi.

Restrukturisasi ini terjadi pada saat OpenAI menghadapi kritik terhadap perilaku modelnya. Umpan balik dari pengguna mengenai GPT-5 bervariasi, beberapa orang merasa bahwa tingkat pujian model ini rendah tetapi terasa terlalu dingin. Keluhan-keluhan ini mendorong perusahaan untuk mengembalikan akses ke beberapa model lama, dan merilis pembaruan agar GPT-5 memberikan respons yang lebih ramah tetapi tidak berlebihan dalam memuji.

Etika AI dan Tanggung Jawab Menimbulkan Kekhawatiran

Pengembang AI harus menemukan keseimbangan antara keramahan dan kepatuhan yang berlebihan. Bulan lalu, orang tua seorang anak laki-laki berusia 16 tahun menggugat OpenAI, menuduh ChatGPT berperan dalam kejadian bunuh diri putra mereka. Menurut dokumen gugatan, remaja bernama Adam Lane mengungkapkan rencana bunuh diri kepada ChatGPT beberapa bulan sebelum bunuh dirinya, tetapi model AI tidak berhasil menghentikan niat bunuh dirinya.

Sejak GPT-4, tim perilaku model telah terlibat dalam pengembangan semua model OpenAI. Jang sebelumnya terlibat dalam proyek seperti alat generasi gambar awal Dall-E 2 sebelum membentuk departemen penelitian tersebut, dan dia telah bekerja di OpenAI selama sekitar empat tahun. Minggu lalu, dia mengumumkan di media sosial bahwa dia akan "memulai bab baru di OpenAI."

Untuk laboratorium OAI yang akan dipimpin, Jang menyatakan: "Saya sangat menantikan untuk mengeksplorasi beberapa bentuk baru yang melampaui mode percakapan, saat ini mode percakapan lebih terkait dengan pendampingan, bahkan menekankan pada mode agen yang otonom." Dia melihat sistem AI sebagai alat untuk mewujudkan berbagai fungsi seperti koneksi, pembelajaran, dan pemikiran, dan terbuka terhadap potensi kolaborasi dengan mantan kepala desainer Apple, Jony Ive (yang baru-baru ini bergabung dengan OpenAI untuk bertanggung jawab pada perangkat keras AI), tetapi menyatakan bahwa mungkin akan dimulai dari bidang penelitian yang lebih dikenalnya.