Geçen haftaki şok edici OpenAI’nin ardından güç mücadelesiyayılan karmaşaya bir tür sonsöz görevi gören son bir açıklama vardı: rapor Reuters’ten, başlangıçta şaşırtıcı olduğu iddia edilen bir atılımı ortaya çıkaran bir açıklama. Bu atılımın “Q-Star” veya “Q*” adı verilen az bilinen bir program aracılığıyla gerçekleştiği iddia ediliyor.
Rapora göre, etkili yapay zeka şirketindeki iç çatışmayı başlatmış olabilecek şeylerden biri de Q ile ilgili bu “keşif”ti. Altman’ın görevden alınmasından önce, birkaç OpenAI çalışanının şirketin yönetim kuruluna “insanlığı tehdit edebileceğini söyledikleri güçlü bir yapay zeka keşfi” hakkında yazdığı iddia ediliyor. Reuters, anonim kaynaklardan alıntı yaparak, bu mektubun “Yönetim kurulunun Altman’ın kovulmasına yol açan daha uzun şikayetler listesindeki faktörlerden biri” olduğunu iddia etti.
Açıkçası hikaye kulağa oldukça çılgınca geliyordu. Bu tuhaf yeni program neydi ve sözde neden OpenAI’deki tüm kaosa neden oldu? Reuters, Q* programının bir yapay zeka aracısının “ilkokul düzeyinde matematik” yapmasına izin verdiğini iddia etti; kaynaklar, bu şaşırtıcı teknolojik atılımın, eğer doğruysa, yapay genel zeka veya AGI oluşturmada daha büyük başarılara yol açabileceğini söyledi. Bir diğer rapor The Information’dan gelen bir haber, Reuters makalesinde dile getirilen birçok noktayı büyük ölçüde yineledi.
Yine de, bu sözde Q programını çevreleyen ayrıntılar şirket tarafından paylaşılmadı; geriye yalnızca anonim kaynaklı raporlar ve programın gerçek doğasının ne olabileceğine dair çevrimiçi yaygın spekülasyonlar kaldı.
Bazıları programın (isminden dolayı) bir tür makine öğrenimi olan Q-öğrenme ile bir ilgisi olabileceğini öne sürdü. Peki, evet, Q-öğrenme nedir ve OpenAI’nin gizli programına nasıl uygulanabilir?
Genel olarak bir yapay zeka programına bir şey yapmayı öğretmenin birkaç farklı yolu vardır. Bunlardan biri olarak bilinir “gözetimli öğrenme”ve AI ajanlarına büyük dilimler halinde besleme yaparak çalışıyor “etiketli” veriler, daha sonra programı kendi başına bir işlevi gerçekleştirecek şekilde eğitmek için kullanılır (tipik olarak bu işlev daha fazla veri sınıflandırmasıdır). Genel olarak OpenAI’nin içerik üreten botu ChatGPT gibi programlar oluşturuldu denetimli öğrenmenin bir türünü kullanarak.
Bu arada denetimsiz öğrenme, sınıflandırılacak kalıpları bulma çabasıyla AI algoritmalarının büyük etiketsiz veri dilimlerini taramasına izin verilen bir makine öğrenimi biçimidir. Bu tür bir yapay zeka, bir tür yapay zeka oluşturmak gibi bir dizi farklı amaç için kullanılabilir. öneri sistemleri Netflix ve Spotify gibi şirketlerin geçmiş tüketici tercihlerine göre kullanıcılara yeni içerik önermek için kullandıkları.
Son olarak, bir yapay zeka programını belirli bir ortamda bir hedefe ulaşmaya teşvik eden bir makine öğrenimi kategorisi olan güçlendirilmiş öğrenme veya RL vardır. Q-öğrenme, güçlendirilmiş öğrenmenin bir alt kategorisidir. RL’de araştırmacılar AI ajanlarına, eğitmeye çalıştıkları bir köpek gibi davranıyorlar. Programlar, belirli sonuçları etkilemek için belirli eylemlerde bulunursa “ödüllendirilir” ve başkalarını gerçekleştirirse cezalandırılır. Bu şekilde program, belirli bir durumda en iyi duruma getirilmiş sonucu elde etmek için etkili bir şekilde “eğitilir”. Q-öğrenmede, aracının takip etmeye programlandığı hedefe ulaşmanın en iyi yolunu bulmak için deneme yanılma yoluyla çalıştığı anlaşılıyor.
Tüm bunların OpenAI’nin sözde “matematik” atılımıyla ne ilgisi var? Basit matematik işlemlerini yapmayı başaran (iddiaya göre) programın bu yeteneğe Q ile ilgili bir RL aracılığıyla ulaşmış olabileceği düşünülebilir. Bütün bunlar, pek çok uzmanın yapay zeka programlarının henüz matematik problemlerini gerçekten çözüp çözemeyeceği konusunda biraz şüpheci olduğunu söyledi. Diğerleri ise bir yapay zekanın bu tür hedeflere ulaşabildiğini düşünüyor gibi görünüyor. mutlaka daha geniş YGZ atılımları anlamına gelmez. MIT Teknoloji incelemesi, konuşan kişiler:
Kısacası: Q hakkında gerçekten pek bir şey bilmiyoruz, ancak uzmanlara inanılacak olursa, etrafındaki abartılı reklam sadece bu kadar abartı olabilir.
OpenAI’ye geri dönmüş olmasına rağmen, geçen hafta Sam Altman’a ne olduğunu hala bilmiyor olmamız dikkate değer. İçinde görüşme Çarşamba günü The Verge ile yaptığı röportajda Altman, geçen hafta şirketindeki dramatik güç mücadelesini neyin hızlandırdığına dair neredeyse hiçbir şey söylemedi. Haber kanalının muhabirinin sürekli teşviklerine rağmen Altman bir nevi ellerini kaldırdı ve yakın gelecekte bu konu hakkında konuşmayacağını söyledi. “İnsanların neden şu anda bir cevap istediğini tamamen anlıyorum. Ama aynı zamanda bunu beklemenin de tamamen mantıksız olduğunu düşünüyorum” dedi. Bunun yerine The Verge’in OpenAI yöneticisinden alabildiği en fazla şey, şirketin olup bitenlerle ilgili “bağımsız bir inceleme” yürütmenin tam ortasında olduğuydu; kendisi, kendisinin “müdahale etmek” istemediği bir süreç olduğunu söyledi. ile. Bizim geçen haftanın saçmalık gösterisinin kendi yayını bunu, kurulun etiği ile Altman’ın ticari OpenAI’nin otomatik teknolojisine yönelik inatçı çabası arasındaki çatışmayı içeren bir anlatıya göre yorumladı. Ancak bu anlatı tam da budur: bir anlatı. Sam’in görevden alınmasına neyin yol açtığına dair spesifik ayrıntıları bilmiyoruz, ancak bunu kesinlikle isteriz.