Tony Eastin boş zamanlarında borsayla uğraşmayı seviyor. Geçen yıl bir gün, gelecek vaat eden bir yatırım gibi görünen bir ilaç şirketini Google'da arattı. Google'ın haberler sekmesinde sunduğu ilk arama sonuçlarından birinin şu kaynaktan geldiği listelendi: Clayton İlçe Kaydı, kuzeydoğu Iowa'da bir gazete. Tıkladı ve okudu. Hikaye çarpıtılmıştı ve yararlı bilgilerden yoksundu; siteyi dolduran, kuzeydoğu Iowa ile kesinlikle hiçbir ilgisi olmayan diğer finans temalı gönderiler de öyle. “Bir şeylerin ters gittiğini hemen anladım” diyor. İnternette bir sürü ıvır zıvır var ama bu Eastin'e çok tuhaf geldi: Neden küçük bir ortabatı gazetesi perakende yatırımlarıyla ilgili berbat blog yazıları yayınlasın ki?
Eastin, çevrimiçi gizemleri karşı konulamaz bulmaya hazırdı. Yıllarca ABD Hava Kuvvetleri'nde psikolojik savaş kampanyaları üzerinde çalıştıktan sonra Meta'ya katıldı ve burada çocuk istismarından siyasi nüfuz operasyonlarına kadar birçok kötülüğü araştırdı. Artık işlerin arasındaydı ve yeni bir görevi memnuniyetle karşıladı. Bunun üzerine Eastin, daha önce Ordu istihbaratında ve NSA'da çalışmış olan arkadaşı ve eski Meta meslektaşı Sandeep Abraham'a ulaştı ve kazmaya başlamalarını önerdi.
İkilinin ortaya çıkardığı şey, üretken yapay zekanın aldatıcı yeni çevrimiçi iş modellerini nasıl mümkün kıldığına dair bir anlık görüntü sağlıyor. Yapay zeka tarafından oluşturulan tıklama tuzaklarıyla dolu web sitesi ağları, Yerleşik medya kuruluşlarının ve markaların itibarını yağmalamak. Bu satış noktaları, bir zamanlar daha saygın kuruluşlara ait olan URL'leri “alan işgal ederek” hedef kitleleri ve reklamverenleri şaşırtıp yanıltarak başarılı oluyor. Eastin'in anıldığı kirli site artık adını hâlâ ticaretini yaptığı gazeteye ait değildi.
Her ne kadar Eastin ve Abraham ağın Kayıt olmak'nin eski sitesi artık basit para kazanma hedefleri ile oluşturulmuş olduğundan, daha fazla kötü niyetli aktörün yanlış bilgi ve propagandayı arama sonuçlarına itmek için aynı tür taktikleri kullanabileceğinden korkuyorlar. Abraham, “Bu çok büyük bir tehdit oluşturuyor” diyor. “Birkaç alarm zili çalmak istiyoruz” Bu amaçla ikili bir rapor yayınladı Bulgularını değerlendiriyorlar ve yapay zeka tıklama tuzağı dünyasının derinliklerine indikçe daha fazlasını yayınlamayı planlıyorlar; boş zamanlarındaki çabalarının halkın veya yasa koyucuların konuyla ilgili farkındalığını artırmaya yardımcı olabileceğini umuyorlar.
Sahte Haberler
Clayton İlçe Kaydı 1926'da kuruldu ve Iowa'nın küçük Ekader kasabasını ve eyaletin kuzeydoğu köşesinde Mississippi Nehri kıyısında yer alan daha geniş Clayton County'yi kapsıyordu. Şu anda eski web adresi olan claytoncountyregister.com'da yayınlanan makaleden kendisini “tiksinmiş” olarak tanımlayan eski ortak editör Bryce Durbin, “Popüler bir gazeteydi” diyor. (Gerçek Clayton İlçe Kaydı 2020 yılında birleşti Kuzey Iowa Times olmak Times-Kayıt şu adreste yayınlıyor: farklı web sitesi. Gazetenin web alanının kontrolünü nasıl kaybettiği belli değil; the Times-Kayıt Yorum isteklerine geri dönüş yapılmadı.)
Eastin'in ilaç stokunu araştırmaya çalışırken keşfettiği gibi, site kendisini hâlâ Clayton County Register olarak tanıtıyor ancak artık yerel haberler sunmuyor ve bunun yerine bir finansal haber içeriği değirmeni haline geliyor. Kamu hizmeti şirketlerinin ve Web3 startuplarının hisse senedi fiyatları hakkında yapay zeka tarafından oluşturulmuş gibi görünen makaleler yayınlıyor ve bu makaleler yine yapay zeka tarafından oluşturulmuş gibi görünüyor.
WIRED'in isteği üzerine çeşitli makaleler üzerinde analiz yapan deepfake tespit girişimi Reality Defender'ın CEO'su Ben Colman, “Sadece baktığımız makaleler yapay zeka tarafından oluşturulmuyor, aynı zamanda her makalede yer alan görsellerin tümü yayılma modelleri kullanılarak oluşturuldu” diyor . Bu doğrulamaya ek olarak Abraham ve Eastin, bazı makalelerin yapay kökenlerini kabul eden metinler içerdiğini fark ettiler. Bazı makalelerde “Bu bilgilerin Automated Insights tarafından otomatik olarak oluşturulduğunu belirtmek önemlidir” ifadesi yer alıyor ve dil oluşturma teknolojisi sunan bir şirketin adı anılıyor.
Kaynak bağlantısı