OpenAI, bir görüntünün DALL-E AI görüntü oluşturucuyla oluşturulup oluşturulmadığını tespit etmek için yeni bir araç ekledi. oluşturduğu içeriği daha net bir şekilde işaretlemek için yeni filigranlama yöntemleri.
Bir blog yazısındaOpenAI, içeriği izlemek ve yapay zeka tarafından üretilip üretilmediğini kanıtlamak için yeni kaynak yöntemleri geliştirmeye başladığını duyurdu. Bunlar arasında, fotoğrafın yapay zeka tarafından oluşturulup oluşturulmadığını belirlemek için yapay zekayı kullanan yeni bir görüntü algılama sınıflandırıcısının yanı sıra, ses gibi içerikleri görünmez sinyallerle etiketleyebilen kurcalamaya dayanıklı bir filigran da yer alıyor.
Sınıflandırıcı, bir resmin DALL-E 3 tarafından oluşturulma olasılığını tahmin ediyor. OpenAI, sınıflandırıcının, görüntü kırpılsa, sıkıştırılsa veya doygunluk değişse bile çalıştığını iddia ediyor. Araç, görüntülerin DALL-E 3 ile yapılıp yapılmadığını yaklaşık yüzde 98 doğrulukla tespit edebilse de, içeriğin diğer AI modellerinden olup olmadığını anlamadaki performansı o kadar iyi değil; diğer görüntü oluşturuculardan gelen resimlerin yalnızca yüzde 5 ila 10'unu işaretliyor. Midjourney gibi.
OpenAI daha önce eklendi görüntü meta verilerine yönelik içerik kimlik bilgileri İçerik Kaynağı ve Otorite Koalisyonu'ndan (C2PA). İçerik kimlik bilgileri esasen görselin kime ait olduğu ve nasıl oluşturulduğu hakkında bilgi içeren filigranlardır. OpenAI, Microsoft ve Adobe gibi şirketlerle birlikte C2PA üyesidir. Bu ay OpenAI de C2PA'nın yönlendirme komitesine katıldı.
Hem görüntü sınıflandırıcı hem de ses filigranı sinyali hâlâ geliştirilmektedir. OpenAI, etkinliğini test etmek için kullanıcılardan geri bildirim alması gerektiğini söylüyor. Araştırmacılar ve kar amacı gütmeyen gazetecilik grupları, görüntü algılama sınıflandırıcısını OpenAI'nin araştırma erişim platformuna uygulayarak test edebilir.
OpenAI yıllardır yapay zeka tarafından oluşturulan içeriği tespit etmek için çalışıyor. Ancak 2023 yılında bu girişimi sonlandırmaya çalışan bir programa son vermek zorunda kaldı. AI tarafından yazılan metni tanımlayın çünkü AI metin sınıflandırıcının doğruluğu sürekli olarak düşüktü.
Kaynak bağlantısı