Yapay zeka odaklı müşteri hizmetlerinin güvenilirliğini sorgulayan dönüm noktası niteliğinde bir vakada, Hava Kanada Havayolunun chatbot'u tarafından vefatla ilgili seyahat politikası konusunda yanıltılan yolcu Jake Moffatt'a tazminat ödemesi emredildi.
Olay, Moffatt'ın Air Canada'nın web sitesinden büyükannesinin 2022'deki ölümünden sonra havayolunun ölüm oranları hakkında rehberlik istemesiyle ortaya çıktı. Chatbot, Moffatt'a biletin düzenlenmesinden sonraki 90 gün içinde yanlış bilgi vererek para iadesi için başvurabileceğini söyledi. Moffatt'a hemen bir uçuş rezervasyonu yapma ve 90 gün içinde para iadesi yapma girişiminde bulunma hakkı verildi; bu gerçekte mevcut olmayan bir seçenekti.
Moffatt'ın durumu düzeltme çabalarına rağmen Air Canada, yapay zeka “deneyinin” bir ürünü olan chatbot'un, havayolunun sorumlu tutulamayacağı ayrı bir tüzel kişilik olduğunu iddia ederek geri adım atmadı.
Bu tuhaf savunma, davaya başkanlık eden mahkeme üyesi Christopher Rivers'ı şaşırttı; zira Air Canada, web sitesinin bir bölümünün neden diğerinden daha güvenilir sayılması gerektiğini gerekçelendiremedi.
Rivers, Moffatt lehine karar verdi ve “Air Canada'nın chatbot'unun doğruluğunu sağlamak için makul özeni göstermediğini” vurguladı. Rivers, “Moffatt'ın Air Canada web sitesinin bir bölümünün doğru, diğer bölümünün doğru olmadığını bilmesi için hiçbir neden olmadığını” ekledi.
Kısmi geri ödemeyi ve toplam 812,02 Kanada doları tutarında ek tazminatı içeren karar, ilk kez Kanadalı bir şirketin chatbot'u tarafından sağlanan yanlış bilgi sorumluluğundan kaçmaya çalışması açısından emsal teşkil ediyor.
Gözetim ile ilgili sorular
Bu vaka, müşteri hizmetleri için yapay zeka teknolojisini entegre eden şirketlere ışık tutuyor. Yapay zeka alanındaki son gelişmeler, şirketlerin yapay zekayı ürünlerine dahil etme çabasına yol açarken, birçok firma da yapay zekayı dahil etmeyi tercih ediyor GPT destekli sohbet robotları Web sitelerinde bunların uygulanabilirliği ve riskleri hakkında sorular devam ediyor.
Air Canada'nın sohbet robotu, Baş Bilgi Sorumlusu Mel Crocker tarafından, başlangıçta uçuş gecikmeleri veya iptalleri gibi öngörülemeyen kesintiler sırasında Air Canada'nın çağrı merkezi üzerindeki yükü hafifletmek ve nihai hedefi “insan dokunuşu gerektirmeyen hizmetleri otomatikleştirmek” olan bir deney olarak başlatıldı. ”
Ile konuşmak Vancouver GüneşiBilgi ve yapay zeka hukuku alanında uzman avukat Ira Parghi, davanın şirketlere yapay zekaya güvenirken dikkatli olmaları gerektiğini hatırlatması gerektiğini vurguladı. Parghi, “Eğer alan çok çetrefilli ya da karmaşıksa ya da yeterince kurallara dayalı değilse ya da bireysel takdire çok fazla bağlıysa o zaman belki de botların uzak durması gerekebilir” diye ekledi.
Uzmanlar, sohbet robotunun kullanıcıları yanıtlarındaki olası yanlışlıklar konusunda uyarması durumunda Air Canada'nın sorumluluktan kurtulabileceğini öne sürüyor. Bu ihmal, Rivers'ın Air Canada'nın sohbet robotunun doğruluğunu sağlama konusunda makul özeni göstermediği sonucuna varmasına yol açtı ve bu da Moffatt için sinir bozucu bir müşteri deneyimine yol açtı.
Şu an itibariyle Air Canada'nın sohbet robotu devre dışı görünüyor ve bu da havayolunun müşteri hizmetleri stratejisindeki rolünün yeniden değerlendirilebileceğini gösteriyor. Bu hamlenin tartışmaya geçici bir yanıt mı yoksa yapay zeka entegrasyonunun daha önemli bir yeniden değerlendirilmesi mi olduğu belirsizliğini koruyor.
Risk ve ödül
Moffatt'ın Air Canada'ya karşı açtığı dava, müşteri etkileşimleri için yapay zeka destekli araçlara güvenen şirketlerin hesap verebilirliği hakkında daha geniş soruları gündeme getiriyor. İşletmelerin operasyonları kolaylaştırmak ve maliyetleri azaltmak için otomasyona giderek daha fazla yönelmesiyle birlikte, işletmelerde sıkı denetim ve şeffaflık ihtiyacı ortaya çıktı. Yapay zeka uygulamaları en önemli hale gelir.
Eski sohbet robotları, daraltılmış kapsamları ve kurallara dayalı anlayışları nedeniyle pek işe yaramazken, modern yapay zeka destekli muadilleri hiç de dar kapsamlı değildir. Bu botların şirketlerin abonelik ücreti ödemesi sayesinde kilitli özelliklere premium erişim sağladığını anlayan kullanıcılar, sosyal medyada haylazlıklarını sergiledi. Geçen yıl bir Belçikalı adam Yapay zekalı bir sohbet robotunun kendisini bunu yapmaya teşvik etmesi üzerine, gezegeni kurtarmak için bir fedakarlık olarak canına kıydı.
Mahkemenin kararı, şirketlerin yapay zeka araçlarıyla yayılan bilgiler konusunda taşıdığı sorumluluğun altını çiziyor. Teknoloji ilerledikçe yenilik ve sorumluluk arasında bir denge kurmak çok önemli olacaktır. Bu vaka, gelecekte benzer aksiliklerin önlenmesi için şirketlerin yapay zeka odaklı müşteri hizmetlerine yönelik uygulamaları ve koruma önlemlerini yeniden değerlendirmesine yol açacak bir emsal oluşturuyor.
Kaynak bağlantısı