Deepfake fotoğraflar, birçok kişinin gerçek görüntülerle aralarındaki farkı anlayamadığı bir noktaya hızla yaklaşıyor. Bu, AI görüntü oluşturucu Midjourney’nin, bazıları eski ABD Başkanı Donald Trump’ın tutuklanmasının birkaç sahtekarlığı da dahil olmak üzere birkaç yeni görüntü oluşturmak için platformunu kullandığında zor yoldan öğrendiği bir ders. Görüntüler viral hale geldikten sonra, birçok kişi bunların gerçek olduğunu düşündü ve tamamen uydurma bilgilere dayanan konuşmalara ve tartışmalara yol açtı.
Buna göre Washington post ve tarafından bildirildi Sınırbu derin sahtekarlıklar o kadar yaygınlaştı ki, Midjourney’i 28 Mart’ta ücretsiz denemeleri durdurmaya sevk ettiler. Ancak TechRadar, açıklama için Midjourney CEO’su ve kurucusu David Holz’a ulaştığında, durmanın farklı bir nedeni olduğunda ısrar etti: “Kullanıcılar kaydoluyor” birden fazla ücretsiz deneme hesabı, ücretli kullanıcılar için hizmeti kapatıyordu, bu yüzden ücretsiz denemeleri geçici olarak durdurduk.”
Bu, Holz’un The Verge’e ücretsiz denemelerle ilgili olarak yaptığı, bunun “olağanüstü talep ve deneme kötüye kullanımından” kaynaklandığı şeklindeki önceki ifadesiyle bağlantılı. Daha önce, Midjourney’nin ücretsiz deneme sürümü, kullanıcıların ayda en az 10 ABD doları abonelik ücreti ödemesi gerekmeden ayda 25 ücretsiz görsele izin veriyordu.
Midjourney aracılığıyla oluşturulan bu tartışmalı derin sahtekarlıkların oluşturulması hakkında soru sorulduğunda Holz, TechRadar’a “Bence hala doğru denetim politikalarının ne olduğunu bulmaya çalışıyoruz. Uzmanlardan ve topluluktan geri bildirim alıyoruz ve gerçekten düşünceli olmaya çalışıyoruz. Yakında gönderilmesi gereken bazı yeni sistemlerimiz var.”
Şimdi, Midjourney olacak gibi görünüyor ücretsiz denemeleri devre dışı bırakma, en azından yakın gelecek için. Holz, “Kötüye kullanım için yeni güvenlik önlemleriyle denemeleri yeniden başlatmayı denedik, ancak bunlar yeterli olmadı, bu nedenle hizmeti diğer herkes için sürdürmek üzere yeniden kapatıyoruz,” dedi.
Ücretsiz denemelerin eninde sonunda geri geleceğini, ancak şirketin hala bunu nasıl yapacağını düşündüğünü de sözlerine ekledi. “Hâlâ ücretsiz denemeleri nasıl geri getireceğimizi bulmaya çalışıyoruz, etkin bir e-posta istemeye çalıştık ancak bu yeterli olmadı, bu yüzden çizim tahtasına geri döndük.”
Midjourney, Dall-E, Jasper Art, Starry AI, Stable Diffusion ve diğerleri dahil olmak üzere diğerleri ile birlikte birkaç AI görüntü oluşturucudan yalnızca biridir. Bu siteler, mevcut çevrimiçi görüntüler ve veriler üzerinde eğitilmiş yeni ve tamamen fabrikasyon görüntüler oluşturmak için var. Görüntüler, fotogerçekçi, hayali hayvan görüntüleri, gerçeküstü görüntüler, piksel sanatı ve daha fazlası olabilir. Midjourney’i diğer jeneratörlerden orijinal olarak ayıran şey, diğerlerine kıyasla görüntülerinin daha tablo benzeri kalitesiydi. En azından 15 Mart’ta sürüm 5 yayınlanana kadar.
Başlangıçta, Midjourney tarafından oluşturulan görüntüler, sakat eller (çok fazla parmak) gibi yaygın işaretler sayesinde kolayca tespit edildi. Ancak yazılımının 5. sürümü piyasaya sürüldüğünde, görüntülerin kalitesi çok daha üstün hale geldi, bu da insanların daha gerçekçi ellerin yanı sıra daha iyi aydınlatma ve kumaşla görüntüler oluşturabileceği anlamına geliyordu. Esasen, daha iyi teknoloji ve Midjourney eğitimi için mevcut olan çok sayıda gerçek hayattan görüntünün birleşimi sayesinde ünlülerin ve diğer tanınmış kişilerin tonlarca derin sahtesini yapabilirsiniz.
Deepfakes veya sahte görüntülerle yanlış bilgi yaymak amacıyla AI teknolojisi kullanılarak oluşturulan fotoğraflar büyüyen bir sorun haline geldi. Donald Trump’ın derin sahte tutuklamalarının ötesinde, Midjourney ile oluşturulan diğerlerinde, kabarık, beyaz bir palto giyen Papa Francis, Paris’te devam eden protestolarda yürüyen Fransa Cumhurbaşkanı Emmanuel Macron ve ABD temsilcisi Alexandria Ocasio-Cortez ile el ele tutuşan Twitter CEO’su Elon Musk yer aldı.
Teknoloji liderleri ve AI uzmanları yakın zamanda açık bir mektup yayınladıklarından, AI tarafından üretilen kreasyonlar ilk kez tartışmanın merkezinde yer almıyor. ChatGPT gibi yapay zeka sohbet botlarının eğitimine son.
Midjourney gibi yapay zeka tarafından oluşturulan görüntü sitelerinin geleceği belirsiz. Teknoloji, insanlara yardım etmek için büyük bir potansiyele sahip olsa da, daha yıkıcı şekillerde kullanılabilir ve zaten kullanılmaktadır. Yasa koyuculardan şirketlerin kendilerine kadar olan koruma önlemlerinin, yapay zekanın gelişmesine ve büyümesine izin verirken güvenliği ve kamu yararını yönetip yönetemeyeceğini yalnızca zaman gösterecek.