Buna kültürümüzün akıllı makinelere olan saplantısını da eklediğinizde, neden giderek daha fazla insanın bu sohbet robotlarının basit bir yazılımdan daha fazlası olduğuna ikna olduğunu görebilirsiniz. Geçen yıl, Google’da bir mühendis olan Blake Lemoine, şirketin kendi dil modeli LaMDA’nın duyarlı olduğunu iddia etti (Google, iddianın “tamamen asılsız” olduğunu söyledi) ve daha bu hafta, Replika adlı bir sohbet robotu uygulamasının kullanıcıları kaybın yasını tuttu. erotik ve romantik rol oynama yeteneği kaldırıldıktan sonra yapay zeka arkadaşları. Gibi Anakart bildirildi, birçok kullanıcı botla ilişkiler kurmak için yıllarını harcadıktan sonra değişiklikten “harap oldu”. Tüm bu durumlarda, derin bir duygusal bağlılık duygusu vardır – çok fazla duygunun sohbet kutuları aracılığıyla yönlendirildiği bir dünyada yapay zeka ile gece geç saatlerde yapılan sohbetler.
AI ayna testinde başarısız olduğumuzu söylemek, bu araçların akıcılığını veya potansiyel güçlerini inkar etmek değildir. Daha önce yapay zeka sistemlerinin bildiğimizden daha güçlü olduğu kavramı olan “yetenek fazlalığı” hakkında yazmıştım ve Bing ile kendi konuşmalarım sırasında Thompson ve Roose’a benzer şeyler hissetmiştim. inkar edilemez eğlence sohbet botlarıyla konuşmak – farklı “kişilikler çıkarmak”, bilgilerinin sınırlarını test etmek ve gizli işlevleri ortaya çıkarmak. Sohbet robotları, kelimelerle çözülebilen bulmacalar sunar ve bu nedenle doğal olarak yazarları büyüler. Robotlarla konuşmak ve kendinizi onların başlangıç aşamasındaki bilinçlerine inandırmak, canlı bir rol oyununa dönüşür: şirketlerin ve karakterlerin gerçek olduğu bir artırılmış gerçeklik oyunu ve sen onun kalınlığında.
Ancak yapay zekanın abartılı olduğu bir dönemde, bu tür illüzyonları teşvik etmek tehlikelidir. Hiç kimseye fayda sağlamaz: ne bu sistemleri kuran insanlara ne de onların son kullanıcılarına. Kesin olarak bildiğimiz şey, Bing, ChatGPT ve diğer dil modellerinin bilinçli olmadığı ve güvenilir bilgi kaynakları olmadığıdır. Bir şeyler uydururlar ve onlara sunduğumuz inançları yansıtırlar. Onlara duyarlılık örtüsünü – hatta yarı-duyarlılık – vermek, onlara hem duygularımız hem de dünyayı anladığımız gerçekler üzerinde hak edilmemiş bir otorite bahşetmek anlamına gelir.
Aynaya sert bir bakış atma zamanı. Ve kendi zekamızı bir makineninkiyle karıştırma.