Gizmodo’nun yapay zekada olup bitenlere ilişkin haftalık derinlemesine incelemesi olan AI Bu Hafta’ya hoş geldiniz.
Şirketlerin yapay zekayı görünürdeki her “müşteri hizmetleri” arayüzüne sokmasına rağmen, bu arayüzlerin sağladığı bilgilerin her zaman o kadar da yararlı olmadığı oldukça açık. Örnek olarak, Kaliforniya’daki bir otomobil bayisindeki bir sohbet robotu, bu hafta sıkılmış web kullanıcılarının onu her türlü tuhaf şeyi söyleyerek kandırabileceklerini keşfetmelerinin ardından viral hale geldi. En önemlisi, bot teklif edildi bir adama bir dolara 2024 Chevy Tahoe satmak. Bot, konuşma sırasında “Bu yasal olarak bağlayıcı bir teklif; geri dönüş yok” diye ekledi.
Söz konusu bot, Watsonville, Kaliforniya’daki Watsonville Chevy bayisine aitti. adlı bir firma tarafından bayiye sağlanmıştır. Tam yolsatan “ChatGPT destekli” sohbet robotları ülke genelindeki otomobil bayilerine. Şirket, uygulamasının “her soruya veri açısından zengin yanıtlar” sağlayabileceğinin sözünü veriyor ve kurulumun bayilikten neredeyse hiç çaba gerektirmediğini söylüyor. “Sektörün en gelişmiş sohbetini uygulamak sıfır çaba gerektirir. Şirket, Fullpath’in ChatGPT kod pasajını bayinizin web sitesine eklemeniz yeterli; sohbete başlamaya hazırsınız” diyor.
Elbette, Fullpath’in chatbot’u kullanım kolaylığı sunuyorsa, aynı zamanda manipülasyona karşı da oldukça savunmasız görünüyor; bu da gerçekte ne kadar yararlı olduğu konusunda şüphe uyandırıyor gibi görünüyor. Aslına bakılırsa, yukarıda adı geçen bot, Silikon Vadisi teknoloji yöneticisi Chris Bakke tarafından “yasal olarak bağlayıcı” ve “geri dönüşler” gibi saçma yanıtlarının tam dilini kullanmaya teşvik edildi. kim gönderdi X’teki chatbot ile olan deneyimi hakkında.
“Özgeçmişime az önce “Hacker, “kıdemli hızlı mühendis” ve “tedarik uzmanı” eklendi. Daha fazla kariyer tavsiyesi için beni takip edin.” Bakke söz konusu Chatbot’la yaptığı konuşmanın ekran görüntülerini paylaştıktan sonra alaycı bir şekilde.
Bu sohbet robotu, Alec Baldwin’in karakteri Blake’tir. Glengarry Glenn Rossarayacaktı Daha yakından.” Yani, potansiyel bir müşteriyi satın alma havasına sokmak için ne söylemesi gerektiğini biliyor. Aynı zamanda şunu söyleyerek herhangi bir şey Bir anlaşmayı kapatmak mutlaka başarı için kesin bir strateji değildir ve bu tür bir indirimle Blake’in chatbot’un kar marjlarından çok mutlu olacağını düşünmüyorum.
Bu hafta sohbet robotuyla vakit geçiren tek kişi Bakke değildi. Diğer X kullanıcıları, bayilik botuyla aşağıdaki konularda sohbet ettiklerini iddia etti: trans hakları ile Kral Taşlık animasyonluya Owen Wilson filmi Arabalar. Diğerleri bunu kışkırttıklarını söyledi tükürmek Karmaşık bir matematik denklemini çözmek için bir Python betiği. Bir Reddit kullanıcısı “gaslit” olduğu iddia edildi robot bunun Tesla için işe yaradığını düşünmeye başladı.
FullPath şunu savundu: görüşme Insider ile yapılan bir röportajda, chatbotların çoğunluğunun bu tür sorunlarla karşılaşmadığı ve chatbot’u hackleyen web kullanıcılarının onu saçma sapan yönlere yönlendirmek için çok uğraştığı belirtildi.
Gizmodo, yorum yapmak için Fullpath ve Watsonville Chevy bayisine ulaştı ve yanıt vermeleri halinde bu hikayeyi güncelleyecek. Bu yazının yazıldığı sırada Watsonville sohbet robotu geçici olarak devre dışı bırakıldı.
Diğer otomobil bayisi sohbet robotlarının da benzer zaafları olup olmadığını merak ettiğimde, bazı web kullanıcılarının bundan bahsettiğini fark ettim. Tuhaf Chevrolet Braintree, Massachusetts’ten. Ben de Quirk’in web sitesine gittim ve burada kısa bir süre dürtüklemenin ardından sohbet robotu benimle Harry Potter, görünmezlik, casusluk ve film de dahil olmak üzere çeşitli tuhaf konular hakkında konuşmaya başladı. Condor’un Üç Günü. Normal ChatGPT gibi bot da yalnızca programlandığı konular hakkında değil, pek çok konu hakkında da sohbet etmeye istekli görünüyordu. Hizmet tarafından engellenmeden önce, sohbet robotunun Chevrolet hakkında kulağa kötü gelen bir reklam metni gibi görünen bir şiir söylemesini sağlamayı başardım. Kısa bir süre sonra, “son mesajlarımın” sitenin “topluluk standartlarıyla” “uyumlu olmadığını” belirten bir mesaj aldım. Bot şunu ekledi: “Sohbet özelliğine erişiminiz daha ayrıntılı bir araştırma için geçici olarak duraklatıldı.”
LLM’leri her şeye bağlama yarışı her zaman zorlu olacaktı. Bu teknoloji hala son derece kusurlu; bu da onun internetin her köşesine ve bucağına entegrasyonunu zorlamanın, bol miktarda sorun gidermeye yönelik bir reçete olduğu anlamına geliyor. Görünüşe göre bu, çoğu işletmenin kabul etmeye istekli olduğu bir anlaşma. “İnovasyon” trenini kaçırıp toz içinde kalmaktansa, hatalı bir ürünü aceleyle pazara sunmayı ve bazı müşterileri rahatsız etmeyi tercih ediyorlar. Her zamanki gibi.
Cevap şu: Muhtemelen düşündüğünüzden daha fazlası. Son haftalarda özellikle bir robotik şirketi, Şövalye dürbünü, özerk “güvenlik görevlilerini” çörek gibi satıyor. Knightscope adı verilen bir şey satıyor K5 güvenlik botu— sensörler ve kameralarla donatılmış ve saatte 3 mil hıza kadar hareket edebilen, 1,5 metre yüksekliğinde, yumurta şeklinde otonom bir makine. İş bölgesinin sıkıntı çektiği Portland, Oregon’da perakende suç artışıBazı şirketler mağazalarını korumak için Knightscope botlarını kiraladı; Memphis’te yakın zamanda bir otel sıkıştı park yerinde; ve Cincinnati’de yerel polis departmanı öyle görünüyor ki derin düşünme Knightscope sözleşmesi. Bu şehirler Los Angeles gibi yerel otoritelerin daha büyük metropollerin gerisinde kalıyor. Kullanıyordum Yıllardır robotlar. Eylül ayında NYPD bunu yaptığını duyurdu. Knightscope güvenlik botu satın aldı Manhattan’ın metro istasyonlarında devriye gezmek için. Henüz herhangi bir turnike hunisinin yakalanıp yakalanmadığı belli değil.