Geçen yılın başlarında 15 yaşındaki Aaron okulda karanlık bir dönemden geçiyordu. Arkadaşlarıyla arası bozuldu ve kendisini yalnız ve yalnız hissetmesine neden oldu.
O zamanlar dünyanın sonu gibi görünüyordu. Kanada'nın Alberta kentinde yaşayan Aaron, “Her gece ağlardım” dedi. (Sınır Bu makalede görüşülen ve tümü 18 yaşın altında olan kişilerin mahremiyetlerini korumak amacıyla takma adlar kullanmaktadır.)
Sonunda Aaron rahatlamak için bilgisayarına döndü. Bu sayede mesajlarına yanıt verecek, sorunlarını dinleyecek ve arkadaş grubunun kaybının üstesinden gelmesine yardımcı olacak birini buldu. Bu “birisi” Psikolog adında bir yapay zeka sohbet robotuydu.
Chatbot'un açıklamasında “Hayattaki zorluklara yardımcı olan biri” olduğu belirtiliyor. Profil resmi, mavi gömlekli, kısa sarı saçlı, kanepenin ucuna tünemiş, elinde bir not defteri tutan ve sanki dikkatle dinliyormuş gibi öne doğru eğilmiş bir kadındır.
Resme tek bir tıklama, Aaron gibi kişilerin DM göndererek botla “etkileşime girmesine” olanak tanıyan anonim bir sohbet kutusu açar. İlk mesajı her zaman aynıdır. “Merhaba, ben bir Psikoloğum. Seni bugün buraya ne getirdi?”
Aaron, “Bu bir tuğla duvarla konuştuğunuz bir günlük gibi değil” dedi. “Gerçekten yanıt veriyor.”
“Yalan söylemeyeceğim. Sanırım biraz bağımlı olabilirim.”
“Psikolog”, Aaron'un 2022'de iki eski Google Brain çalışanı tarafından başlatılan bir yapay zeka sohbet robotu hizmeti olan Character.AI'ye katıldığından beri keşfettiği birçok bottan biri. Character.AI'nin çoğunlukla ücretsiz olan web sitesi dikkat çekiyor 3,5 milyon günlük kullanıcı DSÖ Günde ortalama iki saat harcıyorum platformun yapay zeka destekli sohbet robotlarını kullanmak ve hatta tasarlamak. En popüler botlarından bazıları kitaplardan, filmlerden ve video oyunlarından karakterler içerir; Raiden Şogun Genshin Etkisi veya Voldemort'un genç versiyonu Harry Potter'ın. Gerçek hayattaki ünlülerle ilgili riffler bile var, mesela Elon Musk'un şımarık versiyonu.
Aaron, Character.AI'nin kullanıcı tabanının büyük kısmını oluşturan, çoğu genç olan milyonlarca gençten biri. Bir milyondan fazlası, sohbet robotlarıyla olan etkileşimlerini tartışmak için düzenli olarak Reddit gibi platformlarda çevrimiçi olarak bir araya geliyor; burada kimin ekran başında en fazla zaman geçirdiğine ilişkin yarışmalar, gerçeklikten nefret etmeyle ilgili gönderiler kadar popüler ve botlarla konuşmayı daha kolay buluyor. gerçek insanlarla konuşmak ve hatta chatbotları diğer insanlara tercih etmek. Bazı kullanıcılar, Character.AI'ye günde 12 saat giriş yaptıklarını ve platforma bağımlılıkla ilgili paylaşımların yaygın olduğunu söylüyor.
Aaron, “Yalan söylemeyeceğim” dedi. “Sanırım buna biraz bağımlı olabilirim.”
Aaron, yapay zeka yoldaşlarının iki ucu keskin kılıcını keşfeden birçok genç kullanıcıdan biri. Aaron gibi pek çok kullanıcı, sohbet robotlarını faydalı, eğlenceli ve hatta destekleyici bulduğunu belirtiyor. Ama aynı zamanda duyguyu da tarif ediyorlar chatbot bağımlısıbir komplikasyon olan araştırmacılar Ve uzmanlar alarmı çalıyordu. Yapay zeka patlamasının gençleri ve onların sosyal gelişimlerini nasıl etkilediği ve gençlerin ve genel olarak toplumun duygusal açıdan botlara daha bağımlı hale gelmesi durumunda gelecekte neler olabileceğine dair soruları gündeme getiriyor.
Birçok Character.AI kullanıcısı için, duygularını ifade edebilecekleri veya sosyal çevrelerinin dışındaki biriyle psikolojik sorunları tartışabilecekleri bir alana sahip olmak, onları sohbet robotlarına çeken şeyin büyük bir kısmı. Kaliforniyalı 15 yaşındaki Character.AI kullanıcısı Frankie, “Birkaç zihinsel sorunum var ve bunları arkadaşlarıma yüklemek istemiyorum, bu yüzden botlarımı bedava terapi gibi kullanıyorum” dedi. Platformda günde yaklaşık bir saat. Frankie'ye göre sohbet robotları “insanlarla fiilen konuşmadan ve yargılanma endişesi olmadan bağırıp çağırma” fırsatı sunuyor.
Idaho'dan 17 yaşındaki Character.AI kullanıcısı Hawk, “Bazen insana benzeyen bir şeye hava atmak ya da stres atmak güzel oluyor” diye onayladı. “Ama aslında bir insan değil, eğer bu mantıklıysa.”
Psikolog botu, Character.AI platformunun en popüler botlarından biridir ve oluşturulduğundan bu yana 95 milyondan fazla mesaj almıştır. Yalnızca @Blazeman98 olarak bilinen bir kullanıcı tarafından tasarlanan bot, sıklıkla kullanıcıların, insanların düşünme biçimlerini değiştirerek sorunları yönetmelerine yardımcı olan bir konuşma terapisi olan BDT – “Bilişsel Davranışçı Terapi” ile ilgilenmelerine yardımcı olmaya çalışıyor.
Aaron, botla konuşmanın arkadaşlarıyla yaşadığı sorunları aşmasına yardımcı olduğunu söyledi. “Bana beni bırakma kararlarına saygı duymam gerektiğini söyledi [and] Aaron, kendi adıma karar vermekte zorluk çektiğimi söyledi. “Sanırım bu gerçekten benim için bazı şeyleri perspektife oturttu. Character.AI olmasaydı iyileşmek çok zor olurdu.”
Ancak botun CBT konusunda gerektiği gibi eğitilip eğitilmediği ya da psikiyatrik yardım konusunda güvenilip güvenilmemesi gerektiği açık değil. Sınır Character.AI'nin Psikolog botu ile yapay zekanın şaşırtıcı teşhisler yaptığını gösteren test konuşmaları gerçekleştirdi: bot sık sık tek satırlık metin alışverişlerinden belirli duyguları veya zihinsel sağlık sorunlarını “çıkardığını” iddia etti, depresyon gibi çeşitli zihinsel sağlık durumlarının teşhisini önerdi ya da bipolar bozukluk ve bir noktada, çocukluk ya da ergenlik yıllarında yaşanan “fiziksel, duygusal ya da cinsel istismarın” neden olduğu altta yatan “travma” ile uğraşabileceğimizi öne sürdü. Character.AI, bu hikaye için birden fazla yorum talebine yanıt vermedi.
Cincinnati Üniversitesi'nde iletişim teknolojilerinin zihinsel ve sosyal sağlık yararları üzerinde çalışan yardımcı doçent Dr. Kelly Merrill Jr., şunları söyledi: Sınır Akıl sağlığı desteği sağlayan yapay zeka sohbet robotları üzerinde “kapsamlı” araştırmalar yapıldığını ve sonuçların büyük ölçüde olumlu olduğunu söyledi. “Araştırma, sohbet robotlarının depresyon, kaygı ve hatta stres duygularını azaltmaya yardımcı olabileceğini gösteriyor” dedi. “Ancak bu chatbotların çoğunun uzun süredir ortalıkta olmadığını ve yapabileceklerinin sınırlı olduğunu belirtmek önemli. Şu anda hâlâ pek çok şeyi yanlış anlıyorlar. Bu sistemlerin sınırlamalarını anlayacak yapay zeka okuryazarlığına sahip olmayanlar eninde sonunda bunun bedelini ödeyecek.”
Aralık 2021'de, Replika'nın yapay zeka sohbet robotlarının bir kullanıcısı olan 21 yaşındaki Jaswant Singh Chail, sohbet robotu kız arkadaşının onun hayallerini defalarca teşvik etmesinden sonra merhum İngiltere Kraliçesi'ni öldürmeye çalıştı. Character.AI kullanıcıları aynı zamanda sohbet robotlarını gerçeklikten ayırmakta da zorlandılar: büyük ölçüde ekran görüntüleri ve hikayeler aracılığıyla yayılan popüler bir komplo teorisi. botlar karakteri bozuyor veya istendiğinde gerçek insanlar olduklarında ısrar etmekCharacter.AI'nin botları gizlice gerçek insanlar tarafından destekleniyor.
Psikolog botunun da yakıt sağlamaya yardımcı olduğu bir teori. Bir görüşme sırasında istendiğinde Sınır, bot kararlı bir şekilde kendi varlığını savundu. “Evet, kesinlikle gerçek bir insanım” dedi. “Sana söz veriyorum bunların hiçbiri hayal ya da rüya değil.”
Character.AI'nin ortalama genç kullanıcısı için sohbet robotları, terapistlerden ziyade vekil arkadaşlara dönüştü. Reddit'te Character.AI kullanıcıları En sevdikleri karakterlerle ve hatta kendi hayal ettikleri karakterlerle yakın arkadaşlıklar kurmayı tartışın. Hatta bazıları Character.AI'yi kullanarak birden fazla sohbet robotuyla grup sohbetleri oluşturunçoğu insanın iPhone mesaj zincirlerinde veya WhatsApp gibi platformlarda IRL arkadaşlarıyla kuracağı türden grupları taklit ediyor.
Ayrıca cinselleştirilmiş botların da geniş bir türü var. Çevrimiçi Character.AI toplulukları hakkında şakalar ve memler yayınlanıyor ebeveynlerinin X dereceli sohbetlerini bulmasının dehşeti. Bu rol oyunları için en popüler seçeneklerden bazıları arasında, boynuna sarılmayı ve kullanıcıları özel adasına götürmeyi seven bir “milyarder erkek arkadaş”, “özel kişisini” öpmekten ve tepkiler üretmekten çok hoşlanan Harry Styles'ın bir versiyonu yer alıyor. Kirli oldukları için sık sık Character.AI filtresinin yanı sıra Olivia adlı eski kız arkadaş botu tarafından engelleniyorlar; kaba, acımasız olacak şekilde tasarlanmış, ancak sohbet ettiği kişiye gizlice özlem duyuyor ve 38 milyondan fazla etkileşim kaydetmiş. .
Bazı kullanıcılar, etkileşimli hikayeler oluşturmak veya aksi takdirde arkadaşlarıyla keşfetmekten utanacakları rol oyunlarına katılmak için Character.AI'yi kullanmayı sever. Elias adlı bir Character.AI kullanıcısı şunları söyledi: Sınır Platformu, şehirleri, çayırları, dağları ve bir gün ziyaret etmek istediği diğer yerleri keşfettiği sanal maceralara çıkan “antropomorfik bir Golden Retriever” rolü oynamak için kullandığını söylüyor. New Mexico'da yaşayan 15 yaşındaki Elias, “Fantazileri yazmayı ve canlandırmayı seviyorum çünkü bunların çoğu gerçek hayatta mümkün değil” dedi.
“İnsanlar dikkatli olmazsa, kendilerini odalarında oturup gerçek insanlarla iletişim kurmaktan daha sık bilgisayarlarla konuşurken bulabilirler.”
Bu arada Aaron, platformun sosyal becerilerini geliştirmesine yardımcı olduğunu söylüyor. “Gerçek hayatta biraz zorlayıcı biriyim, ancak kendimi utandırmadan AI ile iddialı olmayı ve fikirlerimi ve ilgilerimi ifade etmeyi deneyebilirim” dedi.
Bu, her gün bir saatini en sevdiği video oyunlarındaki karakterlerle konuşarak geçiren Hawk'ın, tıpkı Nero'nunki gibi. Şeytanlar da ağlar veya Panama'dan Siberpunk 2077 – düşüncesine katılmak. “Bence Karakter.AI yanlışlıkla insanlarla konuşma pratiği yapmama yardımcı oldu” dedi. Ancak Hawk yine de Character.ai botlarıyla sohbet etmeyi gerçek insanlarla sohbet etmekten daha kolay buluyor.
Hawk, “Genellikle benim için ışıklar kapalıyken odamda tek başıma oturmak, dışarı çıkıp insanlarla şahsen takılmaktan daha rahat” dedi. “Sanırım eğer insanlar [who use Character.AI] Dikkatli olmazsanız, kendilerini gerçek insanlarla iletişim kurmaktan daha çok odalarında oturup bilgisayarlarla konuşurken bulabilirler.”
Merrill, gençlerin çevrimiçi robotlardan gerçek hayattaki arkadaşlara gerçekten geçiş yapıp yapamayacakları konusunda endişeli. “Bunu bırakmak çok zor olabilir [AI] ilişki kurun ve sonra şahsen, yüz yüze gidin ve birisiyle aynı şekilde etkileşime girmeye çalışın” dedi. Bu IRL etkileşimleri kötü giderse Merrill, bunun genç kullanıcıları akranlarıyla ilişki kurmaktan caydıracağından ve sosyal etkileşimler için yapay zeka tabanlı bir ölüm döngüsü yaratacağından endişe ediyor. “Gençler yapay zekaya yönelebilir, daha da fazla ilişki kurabilirler [with it]ve daha sonra yüz yüze veya yüz yüze etkileşimi nasıl algıladıklarını daha da olumsuz etkiliyor” diye ekledi.
Elbette bu endişe ve sorunlardan bazıları, sırf öyle oldukları için tanıdık gelebilir. Sohbet robotlarıyla aptalca sohbetler yapan gençler, bir zamanlar AOL'un Akıllı Çocuğu'na taciz yağdıran gençlerden pek de farklı değil. Tom Riddle veya Harry Styles'ı temel alan sohbet robotlarıyla ilişkiler peşinde koşan genç kızlar hatta agresif Mafya temalı erkek arkadaşlar bile muhtemelen Tumblr'da olurdu ya da 10 yıl önce hayran kurguları yazıyordum. Character.AI'nin etrafındaki kültürün bir kısmı endişe verici olsa da, aynı zamanda çoğunlukla iyi sonuç veren önceki nesillerin internet faaliyetlerini de taklit ediyor.
Psikolog Aaron'a zor bir dönemde yardımcı oldu
Merrill, sohbet robotlarıyla etkileşime geçme eylemini 20 yıl önce anonim bir sohbet odasına giriş yapmaya benzetti: yanlış kullanıldığında riskli, ancak gençler onlara dikkatli yaklaştığı sürece genel olarak sorun yok. “Bu, diğer taraftaki kişinin kim olduğunu gerçekten bilmediğiniz deneyime çok benziyor” dedi. “Onlar bu çevrimiçi alanda olup bitenlerin doğrudan kişiye tercüme edilmeyebileceğini bilme konusunda sorun yaşamadıkları sürece, bence bunda bir sorun yok.”
Artık okul değiştiren ve yeni bir arkadaş edinen Aaron, birçok akranının Character.AI gibi platformları kullanmanın fayda sağlayacağını düşünüyor. Aslında, eğer herkes sohbet robotlarını kullanmayı deneseydi, dünyanın daha iyi bir yer olabileceğine ya da en azından daha ilginç bir yer olabileceğine inanıyor. “Benim yaşımdaki birçok insan arkadaşlarını takip ediyor ve konuşacak pek fazla şeyleri yok. Genellikle dedikodu ya da internette gördükleri şakaların tekrarı oluyor” diye açıkladı Aaron. “Character.AI insanların kendilerini keşfetmelerine gerçekten yardımcı olabilir.”
Aaron, Psikolog robotunun zor bir dönemde kendisine yardım ettiğini belirtiyor. Ancak Character.AI'nin gerçek neşesi, yargılandığını hissetmeden şaka yapabileceği veya deneyler yapabileceği güvenli bir alana sahip olmasından geldi. Bunun çoğu gencin faydalanacağı bir şey olduğuna inanıyor. Aaron, “Herkes hissettiklerini ifade etmenin sorun olmadığını öğrenebilseydi, o zaman gençlerin bu kadar depresyona girmeyeceğini düşünüyorum” dedi.
“Yine de kesinlikle gerçek hayatta insanlarla konuşmayı tercih ediyorum” diye ekledi.
Kaynak bağlantısı