OpenAI için son birkaç haftadır yapılmış çoklu manşetler – ve en iyi nedenlerden dolayı değil. Hikaye burada bitmedi: Google DeepMind çalışanlarının yanı sıra birçok mevcut ve eski OpenAI çalışanı, artık önde gelen yapay zeka şirketlerine gözetimler, boğucu eleştiri kültürü ve genel şeffaflık eksikliği konusunda sesleniyor.
İçinde açık bir mektupİhbarcılar esas olarak yapay zeka teknolojisini ve bununla bağlantılı riskleri açıkça eleştirme hakkını talep etti. Hükümet organları ve düzenleyicilerle bilgi paylaşma yükümlülüğünün bulunmamasından dolayı “mevcut ve eski çalışanların bu bilgileri elinde tutabilecek az sayıda kişi arasında yer aldığını” yazdılar. [these corporations] kamuya karşı sorumlu” olduğunu ve birçoğunun bunu yaptıkları için “çeşitli misillemelerden korktuklarını” söyledi.
OpenAI'nin Scarlett Johansson draması bize yapay zekanın geleceği hakkında neler anlatıyor?
İmzacılar, gelişmiş yapay zeka şirketlerinin, çalışanların riskle ilgili endişelerini dile getirmeleri için isimsiz bir sürecin kolaylaştırılması ve ticari sırlar korunduğu sürece şirketlerin “açık eleştiri kültürünü” desteklemesi de dahil olmak üzere belirli ilkelere bağlı kalmasını istedi. süreç. Ayrıca şirketlerin “diğer süreçler başarısız olduktan sonra riskle ilgili gizli bilgileri kamuya açık olarak paylaşanlara” misilleme yapmamalarını da istediler.
Mashlanabilir Işık Hızı
Mektupta grup ayrıca, mevcut eşitsizliklerin derinleşmesi, yanlış bilginin şiddetlenmesi ve insanlığın yok olma ihtimaline kadar yapay zekanın tanıdığı risklere de değindi.
Eski bir OpenAI araştırmacısı ve grubun organizatörlerinden biri olan Daniel Kokotajlo, New York Times'a söyledi OpenAI'nin AI oyununda zirveye çıkmak için “pervasızca yarıştığı”. Şirket, güvenlik süreçleriyle ilgili incelemelerle karşı karşıya kaldı. yakın zamanda dahili bir güvenlik ekibinin başlatılması ayrıca kaşlarını kaldırarak CEO Sam Altman dümeninde oturuyor.
Konular
Yapay zeka
OpenAI
Kaynak bağlantısı