Pazartesi günü OpenAI duyuruldu Heyecan verici yeni ürün haberleri: ChatGPT artık insan gibi konuşabiliyor.
Robotik olmayan, etkileyici bir şekilde kulağa hoş gelen, neşeli, biraz sevimli kadınsı bir sesi var ve 2013 Spike Jonze filmini izlediyseniz biraz tanıdık gelebilir. “O,” tweet attı OpenAI CEO'su Sam Altman, bir adamın bir adama aşık olduğu filme gönderme yapıyor yapay zeka asistanı Scarlett Johansson seslendiriyor.
Ancak ChatGPT 4o'nun ürün sürümü, OpenAI'den gelen çok daha büyük haberlerin gölgesinde kaldı: şirketin kurucu ortağı ve baş bilim insanı, aynı zamanda süper hizalama ekibine de liderlik eden Ilya Sutskever'in ve yardımcı ekip liderinin istifası. Jan Leike (kimi taktık) Geçen yılın Future Perfect 50 listesi).
İstifalar pek sürpriz olmadı. Sutskever dahil olmuştu CEO hızla koltuğuna dönmeden önce, geçen yıl Altman'ın geçici olarak kovulmasına yol açan yönetim kurulu odasındaki isyanda. Sutskever yaptıklarından açıkça pişman oldu ve Altman'ın geri dönüşünü destekledi. beri şirkette yokOpenAI'nin politika, uyum ve güvenlik ekiplerinin diğer üyeleri gibi ayrıldılar.
Ancak spekülasyonları asıl harekete geçiren şey eski çalışanların radyo sessizliğiydi. Sutskever gönderildi Oldukça tipik bir istifa mesajı: “OpenAI'nin hem güvenli hem de faydalı bir YGZ oluşturacağından eminim… Bundan sonra olacaklar için heyecanlıyım.”
Leike… yapmadı. Onun istifa mesajı basitçe: “İstifa ettim.” Birkaç gün süren hararetli spekülasyonlardan sonra, bu konuda genişletildi Cuma sabahı OpenAI'nin bir standarttan uzaklaşmasından endişe duyduğunu açıkladı. güvenlik odaklı kültür.
Hemen sorular ortaya çıktı: Zorla mı ihraç edildiler? Bu, Altman'ın geçen sonbahardaki kısa süreli kovulmasının gecikmiş bir sonucu mu? Gizli ve tehlikeli yeni bir OpenAI projesini protesto etmek için mi istifa ediyorlar? Spekülasyon boşluğu doldurdu çünkü bir zamanlar OpenAI'de çalışmış olan hiç kimse konuşmuyordu.
Bunun çok açık bir nedeni olduğu ortaya çıktı. Eski OpenAI çalışanlarının tabi olduğu ifşa etmeme ve aşağılamama hükümlerini içeren son derece kısıtlayıcı işten çıkarma sözleşmesinin olduğunu gördüm. Hayatlarının geri kalanı boyunca eski işverenlerini eleştirmeleri yasaklanıyor. Gizlilik sözleşmesinin var olduğunu kabul etmek bile onun ihlalidir.
Ayrılan bir çalışan belgeyi imzalamayı reddederse veya bunu ihlal ederse, şirkette geçirdiği süre boyunca kazandığı ve muhtemelen milyonlarca dolar değerindeki kazanılmış sermayenin tamamını kaybedebilir. Eski bir çalışan olan Daniel Kokotajlo, OpenAI'yi “AGI zamanında sorumlu davranacağına olan güvenini kaybettiği için” bıraktığını açıkladı. kamuya açık olarak onaylandı Belgeyi imzalamadan istifa etmek için büyük olasılıkla büyük miktarda paraya dönüşecek parayı teslim etmek zorunda kaldığını söyledi.
Oldukça rekabetçi olan Silikon Vadisi'nde gizlilik anlaşmaları olağandışı olmasa da, bir çalışanın halihazırda kazanılmış özsermayesini azaltma veya ihlal etme riskiyle karşı karşıya bırakmak olağandışı bir durum. OpenAI gibi yeni kurulan şirketlerdeki çalışanlar için eşitlik, kazandıkları maaşın gölgesinde kalabilecek hayati bir tazminat biçimidir. Potansiyel olarak hayat değiştirebilecek paranın eski çalışanları sessiz tutmanın çok etkili bir yolu olduğu tehdidinde bulunmak. (OpenAI, yorum talebine yanıt vermedi.)
Tüm bunlar başlangıçta kendisini şöyle tanıtan bir şirket için son derece ironiktir: AçıkYapay zeka, misyon beyanlarında olduğu gibi şeffaf ve hesap verebilir bir şekilde güçlü sistemler oluşturmaya kendini adamıştır.
OpenAI uzun zaman önce terk edilmiş modellerini açık kaynak olarak kullanma fikri, anmak güvenlik endişeleri. Ancak şimdi güvenlik ekibinin en kıdemli ve saygın üyelerini işten çıkardı, bu da OpenAI'nin bu kadar kapalı olmasının nedeninin gerçekten güvenlik olup olmadığı konusunda bazı şüphelere yol açmalı.
Teknoloji şirketi tüm teknoloji şirketlerini sonlandıracak
OpenAI uzun zamandır teknoloji ve politika çevrelerinde alışılmadık bir konum işgal ediyor. DALL-E'den ChatGPT'ye kadar yayınları genellikle çok havalı, ancak kendi başlarına şirketin sıklıkla tartışıldığı neredeyse dini coşkuyu pek çekemezler.
OpenAI'yi diğerlerinden ayıran şey, misyonunun hırsı: “Yapay genel zekanın (genellikle insanlardan daha akıllı olan yapay zeka sistemlerinin) tüm insanlığa fayda sağlamasını sağlamak.” Çalışanlarının çoğu bu amacın ulaşılabilir olduğuna inanıyor; belki bir on yıl daha (hatta daha az) sonra – ve birkaç trilyon dolar — şirket, çoğu insan emeğini geçersiz kılan yapay zeka sistemleri geliştirmeyi başaracak.
Bu, şirketin kendisinin de uzun zamandır söylediği gibi, heyecan verici olduğu kadar riskli de.
Leike ve Sutskever'in OpenAI ekibi için bir işe alım sayfası “Süper zeka, insanlığın şimdiye kadar icat ettiği en etkili teknoloji olacak ve dünyanın en önemli sorunlarının çoğunu çözmemize yardımcı olabilir” eyaletler. “Fakat süper zekanın muazzam gücü aynı zamanda çok tehlikeli de olabilir ve insanlığın güçsüzleşmesine, hatta yok olmasına yol açabilir. Süper zeka şu anda çok uzak görünse de bu on yılda ulaşabileceğine inanıyoruz.”
Doğal olarak, eğer yapay süper zeka yaşamlarımızda mümkünse (ve uzmanlar da bölünmüş), insanlık için çok büyük etkileri olacaktır. OpenAI tarihsel olarak kendisini şu şekilde konumlandırmıştır: Sorumlu bir aktör salt ticari teşviklerin ötesine geçerek YGZ'yi herkesin yararına sunmaya çalışıyoruz. Ve bunu gerektirse bile bunu yapmaya hazır olduklarını söylediler. gelişimin yavaşlamasıkâr fırsatlarını kaçırmak veya dış denetime izin vermek.
OpenAI kurucu ortağı Greg Brockman, “YGZ'nin yalnızca Silikon Vadisi'ne özgü bir şey olması gerektiğini düşünmüyoruz” dedi. 2019'da bana söylemişti, ChatGPT öncesi çok daha sakin günlerde. “Dünyayı değiştiren teknolojiden bahsediyoruz. Peki orada doğru temsili ve yönetimi nasıl elde edersiniz? Bu aslında bizim için gerçekten önemli bir odak noktası ve gerçekten geniş katılım istediğimiz bir konu.”
OpenAI'nin benzersiz kurumsal yapısının (nihai olarak kâr amacı gütmeyen bir kuruluş tarafından kontrol edilen, kâr amacı güden bir şirket) hesap verebilirliği artırması gerekiyordu. “Burada hiç kimseye güvenilmemeli. Süper oy kullanan hisselerim yok. Onları istemiyorum,” diye güvence verdi Altman, Bloomberg'den Emily Chang'a 2023'te. “Yönetim kurulu beni kovabilir. Bunun önemli olduğunu düşünüyorum.” (Yönetim kurulu olarak öğrendim geçen kasım ayında bu abilir Altman'ı kovdu ama hamlenin kalıcı olmasını sağlayamadı. Altman, kovulmasının ardından anlaşma yaptı şirketi etkin bir şekilde Microsoftsonuçta yönetim kurulunun çoğunun istifa etmesiyle yeniden görevlendirilmeden önce.)
Ancak OpenAI'nin misyonuna olan bağlılığını gösteren Sutskever ve Leike gibi insanların, güvenliğe bağlılık konusunda uzun bir geçmişi olan ve OpenAI'den gerektiğinde rotayı değiştirmesini isteme konusunda samimi bir istekliliğe sahip teknoloji uzmanlarının öne çıkan rollerinden daha güçlü bir işaret yoktu. 2019'daki röportajımda Brockman'a “Sizler 'Genel bir yapay zeka inşa edeceğiz' diyorsunuz” dediğimde Sutskever sözünü kesti. “Bu yönde yapılabilecek her şeyi yapacağız. aynı zamanda bunu güvenli bir şekilde yaptığımızdan da emin oluyoruz” dedi bana.
Onların ayrılışı, OpenAI'nin yapay genel zeka oluşturma misyonunda bir değişikliğin habercisi değil. kalıntılar amaç. Ancak bu neredeyse kesinlikle OpenAI'nin güvenlik çalışmalarına olan ilgisinde bir değişikliğin habercisi; şirket, süper hizalama ekibine kimin liderlik edeceğini açıklamadı.
Ve OpenAI'nin dış gözetim ve şeffaflığa olan ilgisinin bu kadar derin olamayacağını açıkça ortaya koyuyor. Yaptığınız işte dış gözetim ve dünyanın geri kalanının rol oynaması için fırsatlar istiyorsanız, eski çalışanların son derece kısıtlayıcı Gizlilik Sözleşmeleri imzalamasını sağlamak tam olarak buna uygun değildir.
Kapalı kapılar ardındaki dünyayı değiştirmek
Bu çelişki, yapay zekanın gerçekten iyi gitmesini ve insanlığa fayda sağlamasını derinden önemseyen bizler için OpenAI'yi son derece sinir bozucu hale getiren şeyin merkezinde yer alıyor. OpenAI, konuşkan bir kişisel asistan yapan orta ölçekli bir teknoloji şirketi mi, yoksa bir AI tanrısı yaratmak için trilyon dolarlık bir çaba mı?
Şirketin yöneticileri dünyayı dönüştürmek istediklerini, bunu yaparken hesap verebilir olmak istediklerini ve bunun adil ve akıllıca nasıl yapılacağına dair dünyanın katkısını memnuniyetle karşıladıklarını söylüyor.
Ancak gerçek para söz konusu olduğunda ve şaşırtıcı meblağlar Yapay zekaya hükmetme yarışında gerçek paranın söz konusu olduğu ortaya çıkıyor – muhtemelen dünyanın her şeyi ele geçirmesini asla amaçlamadıkları ortaya çıkıyor O çok girdi. Süreçleri, OpenAI'de neler olup bittiğini en iyi bilen eski çalışanların, dünyanın geri kalanına neler olup bittiğini anlatamamasını sağlar.
Web sitesi olabilir yüksek fikirli idealler, ancak fesih anlaşmaları inatçı hukukçularla dolu. Eski çalışanlarının “istifa ettim” demekle sınırlı olduğu bir şirket üzerinde hesap vermek zordur.
ChatGPT'nin yeni sevimli sesi büyüleyici olabilir ama pek de aşık olduğumu hissetmiyorum.
Bu hikayenin bir versiyonu ilk olarak Gelecek Mükemmel bülten. Buradan kaydolun!
Kaynak bağlantısı