yapay zeka Etik uzmanları, yeni ortaya çıkan “dijital ölümden sonraki yaşam” endüstrisine karşı acil önlem alınması çağrısında bulundu.
Endişeler, ölü insanların görünüşünü, konuşmasını ve kişiliklerini taklit eden sohbet robotları üzerinde yoğunlaşıyor.
“Ölü robotlar” veya “keder robotları” olarak bilinen bu yapay zeka klonları, veri merhum hakkında. Daha sonra, ayrılan kişinin sanal yeniden canlandırmaları ile simüle edilmiş etkileşimler sağlarlar.
Cambridge Üniversitesi'nden araştırmacılara göre bu “ölüm sonrası varlık” sosyal ve psikolojik zarara neden olabilir.
Yeni çalışmaları çeşitli riskleri vurguluyor. Bunlardan biri reklam için deadbotların kullanımını içeriyor. Kayıp sevileni taklit ederek olanlarDeadbot'lar zayıf noktalarını manipüle edebilir hayatta kalanlar ürünleri satın alma konusunda.
Başka bir endişe terapötik uygulamalara yöneliktir. Araştırmacılar bunların bir “ezici bir duygusal ağırlık.” Bu, yas sürecini sonsuz sanal etkileşimlere yoğunlaştırabilir.
Deadbotlar hayata dönüyor
Çalışma aynı zamanda deadbot'ların kullanıcılara istenmeyen bildirimler göndererek spam göndermesini de öngörüyor. Araştırmacılar bunu “ölülerin dijital olarak takip edilmesine” benzetiyorlar.
Bu hızla gerçeğe dönüşen bir olasılık. “gibi hizmetlerProject Aralık” ve “HereAfter” şimdiden müşterilere şu fırsatı sunuyor: ölüleri dijital olarak diriltiyor.
Riskleri azaltmak için araştırmacılar, deadbot tasarımcılarına ölmeden önce “veri bağışçılarından” izin almaları çağrısında bulundu. Ayrıca ürünlerin kullanıcıları riskler konusunda düzenli olarak uyarmasını, kolay devre dışı bırakma protokolleri sunmasını ve deadbot'ların saygısız kullanımını engellemesini istiyorlar.
Önerilen diğer bir güvenlik önlemi de kullanıcı dostu sonlandırma yöntemleridir. Bunlar, ölü robot için bir “dijital cenaze törenini” bile içerebilir.
Tüm bu tedbirlerin hem ölenleri hem de geride bırakanları dikkate alması gerekiyor.
Çalışmanın ortak yazarlarından biri olan Dr. Tomasz Hollanek, “Dijital ölümden sonraki yaşam hizmetlerinin yalnızca yeniden yarattıklarının değil, simülasyonlarla etkileşime girmek zorunda kalacak olanların da haklarını ve rızasını dikkate alması hayati önem taşıyor” dedi.
“Bu hizmetler, kaybettikleri kişilerin endişe verici derecede doğru AI yeniden yaratımları nedeniyle istenmeyen dijital tacizlere maruz kalmaları durumunda, insanlara büyük sıkıntı yaratma riskini taşıyor. Potansiyel psikolojik etki, özellikle de zaten zor olan bir zamanda, yıkıcı olabilir.”
Kaynak bağlantısı