Google’ın en önemli icatlarından birinin – şirketin başına bela olacak bir icat – başlangıçta öğle yemeğinde tasarlanmış olması uygun görünüyor.
2017’de Alphabet’s Mountain View, California’daki genel merkezdeki araştırmacılar, öğle yemeğinde bilgisayarların nasıl daha verimli metin üretmesini sağlayacakları hakkında konuşuyorlardı. Sonraki beş ay boyunca deneyler yaptılar ve keşfettiklerinin büyüklüğünün farkına varmadan bulgularını “Tek İhtiyacınız Olan Dikkat” adlı bir araştırma makalesine yazdılar. Sonuç, AI’da ileriye doğru bir sıçrama oldu.
Makalenin sekiz yazarı, makinelerin insan benzeri metinler, resimler, DNA dizileri ve diğer birçok türde veriyi her zamankinden daha verimli bir şekilde üretmesini mümkün kılan bir sistem olan Transformer’ı yaratmıştı. Makalelerine sonunda diğer araştırmacılar tarafından 80.000’den fazla kez atıfta bulunulacak ve tasarladıkları AI mimarisi, OpenAI’nin ChatGPT (“T”, Transformer anlamına gelir), Midjourney gibi görüntü oluşturma araçları ve daha fazlasının temelini oluşturacaktır.
Google’ın bu keşfi dünyayla paylaşmasında olağandışı bir şey yoktu. Teknoloji şirketleri genellikle geri bildirim almak, yetenekleri çekmek ve bir destekçi topluluğu oluşturmak için açık kaynaklı yeni teknikler kullanır. Ancak Google’ın kendisi yeni teknolojiyi hemen kullanmadı. Şirket, en son araştırmasını kullanılabilir hizmetlere dönüştürmekle daha geniş bir şekilde uğraşırken, sistem yıllarca görece hazırda bekletme modunda kaldı. Bu arada OpenAI, Google’ın kendi icadından yararlanarak arama devi için son yılların en ciddi tehdidini başlattı. Google’ın geliştirdiği tüm yetenek ve yeniliklere rağmen, onun büyük keşfinden yararlananlar rakip firmalar oldu.
2017 tarihli makalenin ortak yazarı olan araştırmacılar da Google’da uzun vadeli bir gelecek görmediler. Aslında, hepsi o zamandan beri şirketten ayrıldı. Kurumsal yazılım yapan Cohere ve şirkette bir yapay zeka efsanesi olarak görülen gruptaki en uzun süre hizmet veren Google çalışanı Noam Shazeer tarafından kurulan Character.ai gibi girişimleri başlatmaya devam ettiler. Araştırma şirketi Pitchbook ve fiyat izleme sitesi CoinMarketCap’in bir değerlendirme çetelesine göre, işletmelerinin toplam değeri şu anda yaklaşık 4,1 milyar dolar (kabaca 33.640 Rs. 33.640 crore). Onlar Silikon Vadisi’ndeki AI telif haklarıdır.
Google’da kalan sekiz yazardan sonuncusu olan Llion Jones, bu hafta kendi şirketini kurmak için ayrıldığını doğruladı. Geçen yıl birlikte yarattığı kartopu teknolojisini izlemenin gerçeküstü olduğunu söyledi. “Kendimi daha yeni mi… ünlü hissettim?” Jones diyor. “Kimse yüzümü veya adımı bilmiyor, ancak ‘ChatGPT’de ‘T’yi oluşturan ekipteydim’ açıklaması beş saniye sürüyor.”
Jones’un Google dışındaki eylemler sayesinde ünlü olması garip görünüyor. Şirket nerede hata yaptı?
Bariz bir konu ölçektir. Bloomberg Opinion için bu yılın başlarında Big Tech firmalarındaki AI çalışanlarını belirlemek için LinkedIn profillerini tarayan bir AI firması olan Glass.ai’nin bir tahminine göre, Google’ın yaklaşık 140.000 kişilik bir işgücünden AI üzerinde çalışan 7.133 kişilik bir ordusu var. Bunu, çok daha küçük bir iş gücüyle (2023’te yaklaşık 375 personelden yaklaşık 150 yapay zeka araştırmacısı) bir yapay zeka silahlanma yarışını ateşleyen OpenAI ile karşılaştırın.
Birkaç eski bilim adamı ve mühendisin bana söylediğine göre, Google’ın devasa boyutu, Transformer yaratılırken bilim adamlarının ve mühendislerin fikirleri imzalamak için birden çok yönetim katmanından geçmesi gerektiği anlamına geliyordu. Şirketin ana AI bölümlerinden biri olan Google Brain’deki araştırmacılar da net bir stratejik yönden yoksundu ve bu da pek çok kişiyi kariyer gelişimi ve araştırma makalelerindeki görünürlükleri konusunda takıntılı hale getirdi.
Fikirleri yeni ürünlere dönüştürme çıtası da son derece yüksekti. “Google, [an idea is] milyar dolarlık bir iş,” diyor Google kantininde araştırmacı arkadaşları Ashish Vaswani ve Jakob Uszkoreit ile ilk kez oturduğunda 25 yaşında olan Illia Polosukhin. Ancak milyar dolarlık bir iş kurmak, Google’ın her zaman hoş görmediği bir şey olan sürekli yineleme ve çok sayıda çıkmaz gerektirir.
Google, yorum isteklerine yanıt vermedi.
Şirket bir bakıma kendi başarısının kurbanı oldu. Geoffrey Hinton gibi yapay zeka bilim adamlarını saflarında barındırmıştı ve 2017’de zaten metni işlemek için en son yapay zeka tekniklerini kullanıyordu. Pek çok araştırmacının zihniyeti, “Bozulmadıysa, düzeltmeyin” şeklindeydi.
Ancak burada Transformer yazarlarının bir avantajı vardı: Polosukhin, Google’dan ayrılmaya hazırlanıyordu ve risk almaya çoğu kişiden daha istekliydi (o zamandan beri bir blockchain şirketi kurdu). Makalelerinin baş yazarı olacak olan Vaswani, büyük bir projeye atılmak için can atıyordu (o ve Niki Parmar kurumsal yazılım firması Essential.ai’yi kurmak için yola çıktılar). Ve Uszkoreit genellikle AI araştırmasında statükoya meydan okumayı severdi – onun görüşü, eğer bozulmadıysa, onu kırmaktı (o zamandan beri Inception Nucleics adlı bir biyoteknoloji şirketinin kurucu ortağıdır).
2016 yılında Uszkoreit, bir bilgisayarın bir veri kümesindeki en önemli bilgileri ayırt ettiği yapay zekadaki “dikkat” kavramını keşfetmişti. Bir yıl sonra öğle yemeğinde üçlü, kelimeleri daha verimli bir şekilde çevirmek için bu fikri kullanmayı tartıştı. O zamanlar Google Çeviri, özellikle Latince olmayan dillerde kullanışsızdı. Polosukhin, “Çince’den Rusça’ya korkunçtu” diye hatırlıyor.
Sorun, tekrarlayan sinir ağlarının kelimeleri bir sırayla işlemesiydi. Bu yavaştı ve aynı anda birçok görevi işleyebilen çiplerden tam olarak yararlanamadı. Evdeki bilgisayarınızdaki CPU’nun muhtemelen talimatları işleyen ve yürüten dört “çekirdeği” vardır, ancak yapay zeka sistemlerini işlemek için sunucularda kullanılanların binlerce çekirdeği vardır. Bu, bir AI modelinin bir cümledeki birçok kelimeyi aynı anda ve aynı anda “okuyabileceği” anlamına gelir. Hiç kimse bundan tam olarak yararlanmamıştı.
Uszkoreit, Google ofisinde beyaz tahtalara yeni mimarinin diyagramlarını karalayarak dolaşıyordu ve çoğu zaman şüpheyle karşılandı. Jones, ekibinin o sırada kullanılmakta olan ve “kulağa çılgınca gelen” yinelenen sinir ağlarının “tekrarlayan” kısmını kaldırmak istediğini söylüyor. Ancak Parmar, Aidan Gomez ve Lukasz Kaiser gibi birkaç araştırmacı daha gruba katıldıkça ilerlemeler görmeye başladılar.
İşte bir örnek. “Hayvan çok yorgun olduğu için karşıdan karşıya geçmedi” cümlesinde “o” kelimesi hayvanı ifade etmektedir. Ancak bir yapay zeka sistemi, cümle “çünkü çok geniş” olarak değiştirilirse zorlanır, çünkü “o” daha belirsiz olacaktır. Ancak şimdi sistem yapmadı. Jones, bunun işe yaradığını izlediğini hatırlıyor. “’Bu özel’ diye düşündüm” diyor.
İyi derecede Almanca bilen Uszkoreit, yeni tekniğin İngilizceyi Almancaya Google Çeviri’nin şimdiye kadar olduğundan çok daha doğru bir şekilde çevirebildiğini de fark etti.
Ancak Google’ın bu tekniği ücretsiz çeviri aracına veya dil modeli BERT’e uygulaması uzun zaman aldı ve şirket bu tekniği hiçbir zaman herkesin test edebileceği bir sohbet botunda kullanmadı. Yani, 2022’nin sonlarında ChatGTP’nin piyasaya sürülmesi, Google’ı Mart 2023’te Bard adlı bir rakibi hızla piyasaya sürmeye zorlayana kadar.
Yıllar boyunca yazarlar, OpenAI’nin ilk ChatGPT yinelemelerinden DALL-E’ye ve Midjourney’nin görüntü aracından DeepMind’in protein katlama sistemi AlphaFold’a kadar, fikirlerinin başkaları tarafından bir dizi göreve uygulanmasını izlediler. En heyecan verici yeniliklerin Mountain View dışında gerçekleştiğini fark etmemek zordu.
Google’ın AI hizmetlerini dağıtma konusunda dikkatli olduğunu iddia edebilirsiniz. Ancak yavaş olmak her zaman dikkatli olmak anlamına gelmez. Aynı zamanda sadece atalet ve şişkinlik olabilir. Bugün en ilginç AI gelişmelerinden bazıları küçük, çevik girişimlerden geliyor. Birçoğunun, arayı kapatırken bile yapay zeka yarışında en büyük finansal faydaları elde etmeye hazır olan büyük teknoloji oyuncuları tarafından yutulacak olması çok yazık.
Sonunda son gülen Google olabilir, ancak birçok yönden etkileyici olmayan bir yolculuk olacak.
© 2023 Bloomberg LP