Araç, değişen renkler ve filtrelerle, AI tarafından oluşturulan görüntüleri düzenlendikten sonra bile algılayabiliyor. Google DeepMind
Yapay zeka araçlarının ürettiği görüntülerin, insanlar tarafından oluşturulanlardan ayırt edilmesi giderek zorlaşıyor. Yapay zekanın sorumsuz kullanımlarından biri olan yanlış bilgi mesajlarını da körükleyebilirler. Bu amaçla Google, yapay zeka tarafından oluşturulan ve insan tarafından oluşturulan görseller arasında ayrım yapılmasına yardımcı olan yeni bir araç olan SynthID’yi tanıttı.
tarafından oluşturulan bu araç DeepMind ekibi, yapay zeka tarafından oluşturulan görüntülere imza gibi algılanamayan bir dijital filigran ekler. Aynı araç daha sonra filtre ekleme, sıkıştırma, renkleri değiştirme vb. değişikliklerden sonra bile yapay zeka tarafından hangi görüntülerin oluşturulduğunu belirtmek için bu filigranı algılayabilir.
SynthID, iki derin öğrenme modelini tek bir araçta birleştiriyor
SynthID, iki derin öğrenme modelini tek bir araçta birleştirir. Biri filigranı orijinal içeriğe çıplak gözle görülmeyecek şekilde görsel olarak ekler, diğeri ise filigranlı görüntüleri tanımlar.
Şu anda SynthID, Google’ın metinden resme aracıyla oluşturulanlarla sınırlı olduğundan, AI tarafından oluşturulan tüm görselleri tespit edemiyor. Resim. Ancak bu, özellikle daha fazla şirketin üretken yapay zeka araçlarında SynthID’yi benimsemesi durumunda, sorumlu yapay zeka için parlak bir geleceğin işaretidir.
Araç, kademeli olarak müşterilerin kullanımına sunulacaktır. Vertex AI Imagen’ı kullanıyor ve yalnızca bu platformda mevcut. Ancak Google DeepMind, bu özelliği yakında diğer Google ürünlerinde ve üçüncü tarafların kullanımına sunmayı umuyor.
Kaynak : “ZDNet.com”