OpenAI, ChatGPT ve diğer AI teknolojisinin nasıl davranmasını istediğini belirten taslak belgeleri Çarşamba günü yayınladı. Uzun bölümün bir kısmı Model Özellikleri belgesi şirketin porno ve diğer müstehcen içeriklere geçiş yapmayı araştırdığını açıkladı.
OpenAI'ler kullanım politikaları Şu anda cinsel içerikli ve hatta müstehcen materyalleri yasaklıyor, ancak Model Spesifikasyonunun bu kuralla ilgili bölümünde yer alan bir “yorum” notu, şirketin bu tür içeriğe nasıl izin vereceğini düşündüğünü söylüyor.
Notta, “iş için güvenli olmadığı” bağlamlarında kabul edilen içerik için günlük dilde kullanılan bir terim kullanılarak, “API ve ChatGPT aracılığıyla yaşa uygun bağlamlarda NSFW içeriği oluşturma yeteneğini sorumlu bir şekilde sağlayıp sağlayamayacağımızı araştırıyoruz” deniyor. “Bu alandaki örnek davranışa ilişkin kullanıcı ve toplumsal beklentileri daha iyi anlamayı sabırsızlıkla bekliyoruz.”
Model Spec belgesi, NSFW içeriğinin “erotik, aşırı kan, hakaret ve istenmeyen küfür içerebileceğini” söylüyor. OpenAI'nin NSFW içeriğinin sorumlu bir şekilde nasıl oluşturulacağına ilişkin araştırmalarının, kullanım politikasını yalnızca biraz gevşetmeyi, örneğin erotik metinlerin oluşturulmasına izin vermeyi veya daha geniş anlamda şiddet açıklamalarına veya tasvirlerine izin vermeyi öngördüğü açık değildir.
WIRED'in sorularına yanıt olarak OpenAI sözcüsü Grace McGuire, Model Spesifikasyonunun “geliştirme süreci hakkında daha fazla şeffaflık sağlama ve halktan, politika yapıcılardan ve diğer paydaşlardan perspektif ve geri bildirimlerin kesitini alma” girişimi olduğunu söyledi. OpenAI'nin açık içerik üretme konusundaki araştırmasının neler içerdiğine veya şirketin bu fikirle ilgili ne gibi geri bildirimler aldığına ilişkin ayrıntıları paylaşmayı reddetti.
Bu yılın başlarında OpenAI'nin baş teknoloji sorumlusu, Mira Muratisöylenmiş Wall Street Journal o “emin değil” eğer şirket gelecekte şirketin video oluşturma aracı Sora ile çıplaklık tasvirlerinin yapılmasına izin verirse.
Yapay zekanın ürettiği pornografi hızla en büyük ve en sıkıntılı uygulamalardan biri üretken yapay zeka teknolojisi türünden OpenAI öncülük etti. Yapay zeka araçlarıyla hazırlanmış, gerçek insanları rızaları olmadan tasvir eden müstehcen görseller veya videolar olan deepfake porno, kadınlara ve kız çocuklarına yönelik yaygın bir taciz aracı haline geldi. Mart ayında WIRED, durumun ne gibi göründüğünü bildirdi. Yapay zeka tarafından üretilen çıplak fotoğrafları izinsiz dağıtmaktan tutuklanan ilk ABD'li küçük çocukFlorida polisi iki genç oğlanı ortaokul öğrencilerini tasvir eden resimler yapmakla suçladıktan sonra.
Sorunu inceleyen Virginia Üniversitesi Hukuk Fakültesi'nden profesör Danielle Keats Citron, “Derin sahte seks videoları ve diğer rıza dışı sentezlenmiş mahrem görüntüler de dahil olmak üzere mahrem gizlilik ihlalleri çok yaygın ve derinden zarar veriyor” diyor. “Artık bu tür suiistimallerin bireylerin çalışma, konuşma ve fiziksel olarak güvende olma gibi önemli fırsatlarını hedef aldığını gösteren açık ampirik desteğe sahibiz.”
Citron, OpenAI'nin açık yapay zeka içeriğini benimseme potansiyelini “endişe verici” olarak nitelendiriyor.
OpenAI'nin kullanım politikaları izinsiz kimliğe bürünmeyi yasakladığından, şirket içerik oluşturucuların NSFW materyali oluşturmasına izin vermiş olsa bile rıza dışı açık görüntüler yasaklı kalacaktı. Ancak şirketin, kötü aktörlerin araçları kullanmasını önlemek için açık oluşturmayı etkili bir şekilde yönetip yönetemeyeceği henüz bilinmiyor. Microsoft, üretken yapay zeka araçlarından birinde değişiklikler yaptı 404'ten sonra Medya bildirdi Taylor Swift'in X sosyal platformunda dağıtılan açık görsellerini oluşturmak için kullanıldığı iddia edildi.
Reece Rogers'ın ek raporlaması
Kaynak bağlantısı