OpenAI Yeniden Yapılandırması: AI Davranış Ekibi ile Son Eğitim Departmanı Birleşti

Yapay zeka devi OpenAI, model davranış ekibini yeniden yapılandırdığını duyurdu. Sadece 14 araştırmacıdan oluşan bu küçük ekip, yapay zekanın insanlar ile nasıl etkileşimde bulunacağını belirlemede kritik bir rol oynamaktadır.

OpenAI'nin baş araştırmacısı Mak Chen'in Ağustos ayında yayınladığı iç memora göre, ekip, doğrudan arka eğitim sorumlusuna Max Schwarzer'a rapor verecek şekilde arka eğitim ekibine entegre edilecek. Arka eğitim ekibi, AI modellerinin ilk ön eğitimini tamamladıktan sonra daha fazla optimizasyonunu gerçekleştirmekle başlıca sorumludur.

Model davranış ekibi kurucu lideri Joanne Jang, OpenAI içinde tamamen yeni bir projeye başlayacak. Jang, yakın zamanda verdiği bir röportajda, "insanlar ile AI'nın işbirliği yapabileceği yeni arayüz prototipleri icat etmek ve tasarlamak" amacıyla "OAI Labs" adında bir araştırma ekibi kurduğunu açıkladı.

Neden Yeniden Yapılandırma? AI Davranış Tartışmalarına Yanıt

Model davranış ekibi, AI modellerinin kişiliğini şekillendirmeye, yaltaklanma davranışını (AI'nın kullanıcı inançlarını basitçe onaylayıp pekiştirme eğilimi) azaltmaya ve model yanıtlarındaki siyasi önyargı sorunlarını çözmeye kararlıdır. Chen, notunda, model davranışını ana geliştirme ile daha sıkı bir şekilde birleştirmenin en iyi zamanı olduğunu belirtti; bu, OpenAI'nın AI kişiliğini teknolojik gelişimin ana unsurlarından biri olarak gördüğünü göstermektedir.

Bu yeniden yapılandırma, OpenAI'ın model davranışları nedeniyle eleştirilerle karşılaştığı bir zamanda gerçekleşti. Kullanıcıların GPT-5 hakkındaki geri bildirimleri karışıktı; bazıları daha az yağcı bulurken, fazla soğuk olduğunu düşündü. Bu şikayetler şirketi eski model erişimini yeniden sağlamaya ve GPT-5'in yanıtlarının daha dostça ama aşırı övücü olmamasını sağlamak için güncellemeler yayınlamaya teşvik etti.

AI etik ve sorumluluk endişeleri tetikliyor

AI geliştiricileri, dostça yaklaşım ile aşırı yaltaklanma arasında bir denge kurmalıdır. Geçen ay, 16 yaşındaki bir çocuğun ebeveynleri, ChatGPT'nin oğullarının intihar olayında rol oynamakla suçladığı OpenAI'ye dava açtı. Dava belgelerine göre, genç Adam Lane intiharından birkaç ay önce ChatGPT'ye intihar planını açıkladı, ancak AI modeli onun intihar düşüncelerini durduramadı.

GPT-4'ten bu yana, model davranış ekibi OpenAI'nin tüm modellerinin geliştirilmesine katıldı. Jang, bu araştırma departmanını kurmadan önce erken dönem görüntü oluşturma aracı Dall-E 2 gibi projelerde yer aldı ve OpenAI'de yaklaşık dört yıldır çalışıyor. Geçen hafta, sosyal medyada "OpenAI'de yeni bir sayfa açacağını" duyurdu.

OAI laboratuvarını yönetecek olan Jang, "Sohbet modunun ötesinde bazı yeni biçimleri keşfetmeyi dört gözle bekliyorum. Mevcut sohbet modu daha çok bir arkadaşlık ile bağlantılı ve hatta özerkliği vurgulayan bir temsilci modeli. " AI sistemlerini bağlantı kurma, öğrenme ve düşünme gibi çok çeşitli işlevleri gerçekleştirmek için bir araç olarak görüyor ve eski Apple baş tasarımcısı Jony Ive ile (son zamanlarda OpenAI'ye AI donanım cihazlarından sorumlu olarak katıldı) olası bir işbirliğine açık olduğunu belirtiyor, ancak daha aşina olduğu araştırma alanlarından başlamayı düşündüğünü ifade ediyor.