Geçen yılın temmuz ayında OpenAI yeni bir araştırma ekibi kurulduğunu duyurdu süper zekanın ortaya çıkışına hazırlık olacak yapay zeka yaratıcılarını alt etme ve alt etme yeteneğine sahiptir. OpenAI'nin baş bilim insanı ve şirketin kurucu ortaklarından biri olan Ilya Sutskever, bu yeni ekibin yardımcı lideri olarak seçildi. OpenAI, ekibin bilgi işlem gücünün yüzde 20'sini alacağını söyledi.
Şirket artık OpenAI'nin “süper hizalama ekibinin” artık olmadığını doğruladı. Bu, olaya dahil olan birkaç araştırmacının ayrılmasının ardından geldi. Salı günkü haberler Sutskever'in şirketten ayrıldığı ve istifa takımın diğer yardımcılarından. Grubun çalışmaları OpenAI'nin diğer araştırma çalışmalarına dahil edilecek.
Sutskever'in ayrılışı manşetlere çıktı çünkü CEO Sam Altman'ın 2015'te OpenAI'yi başlatmasına ve ChatGPT'ye yol açan araştırmanın yönünü belirlemesine yardım etmesine rağmen, aynı zamanda onu geliştiren dört yönetim kurulu üyesinden biriydi. Kasım ayında Altman'ı kovdu. OpenAI personelinin kitlesel isyanı ve bir anlaşmaya aracılık edilmesinin ardından beş kaotik gün sonra Altman, CEO olarak yeniden görevlendirildi. Sutskever ve diğer iki şirket yöneticisi yönetim kurulundan ayrıldı.
Sutskever'in ayrılışının Salı günü duyurulmasından saatler sonra, süper hizalama ekibinin diğer yardımcı lideri ve eski DeepMind araştırmacısı Jan Leike, X'te yayınlandı istifa ettiğini söyledi.
Ne Sutskever ne de Leike yorum taleplerine yanıt vermedi ve OpenAI'den neden ayrıldıkları konusunda kamuya açık bir yorumda bulunmadılar. Sutskever, OpenAI'nin mevcut yolu için destek teklif etti X'teki bir gönderide. “Şirketin izlediği yol mucizevi olmaktan başka bir şey değildi ve OpenAI'nin mevcut liderliği altında hem güvenli hem de faydalı AGI inşa edeceğinden eminim” diye yazdı.
OpenAI'nin süper hizalama ekibinin dağılması, geçen Kasım ayında yaşanan yönetişim krizinin ardından şirket içinde yaşanan sarsılmaya ilişkin son kanıtlara katkıda bulunuyor. Ekipteki iki araştırmacı Leopold Aschenbrenner ve Pavel Izmailov, işten şirket sırlarını sızdırdığı için Bilgi geçen ay bildirildi. Ekibin bir diğer üyesi William Saunders ise Şubat ayında OpenAI'den ayrıldı. bir internet forumu gönderisi onun adına.
Yapay zeka politikası ve yönetimi üzerinde çalışan iki OpenAI araştırmacısının da yakın zamanda şirketten ayrılmış olduğu görülüyor. LinkedIn'e göre Cullen O'Keefe, politika sınırlarında araştırma liderliği görevinden Nisan ayında ayrıldı. Daha yetenekli yapay zeka modellerinin tehlikeleri üzerine birçok makalenin ortak yazarı olan OpenAI araştırmacısı Daniel Kokotajlo, bir rapora göre “OpenAI'yi, YGZ zamanında sorumlu bir şekilde davranacağına olan güvenini kaybetmesi nedeniyle bıraktı”. bir internet forumunda yayınlamak onun adına. Görünüşe göre ayrılan araştırmacıların hiçbiri yorum taleplerine yanıt vermedi.
OpenAI, Sutskever'in veya süper hizalama ekibinin diğer üyelerinin ayrılışı veya uzun vadeli AI riskleri konusundaki çalışmalarının geleceği hakkında yorum yapmayı reddetti. Daha güçlü modellerle ilişkili risklere ilişkin araştırmalar artık eğitimden sonra yapay zeka modellerinde ince ayar yapmaktan sorumlu ekibin eşbaşkanlığını yapan John Schulman tarafından yürütülecek.
Kaynak bağlantısı