Facebook’un reklamcılara vaadi, sisteminin akıllı, etkili ve kullanımı kolay olmasıdır. Reklamlarınızı yüklersiniz, birkaç ayrıntıyı doldurursunuz ve Facebook’un algoritması sihrini yapar, mükemmel hedef kitleyi bulmak için milyonlarca insan arasında gezinir.
Bu algoritmanın iç işleyişi, Facebook’un ana şirketi Meta’da çalışanlar için bile anlaşılmaz. Ancak dışarıdan yapılan araştırmalar bazen bir fikir verir. yeni bir ders çalışma Salı yayınlandı Association for Computer Machinery’nin Dijital Kütüphanesi dergisinde, Facebook’un reklamlarda resmedilen kişilerin ırkını, cinsiyetini ve yaşını sınıflandırmak için görüntü tanıma yazılımı kullandığını ve bu belirlemenin reklamları görenlerde büyük rol oynadığını ortaya koyuyor. Araştırmacılar, genç kadınları içeren daha fazla reklamın 55 yaş üstü erkeklere gösterildiğini buldu; kadınların çocuklu reklamları daha çok gördüğü; ve Siyahların, içinde Siyah insanların olduğu daha fazla reklam gördüğünü.
Araştırmada, araştırmacılar, insanların resimlerini içeren iş ilanları için reklamlar oluşturdu. Bazı reklamlarda stok fotoğrafları kullandılar, ancak diğerlerinde, resimlerdeki insanların demografisi dışında aynı olan sentetik resimler oluşturmak için AI kullandılar. Ardından araştırmacılar, Facebook’ta reklamları yayınlamak için on binlerce dolar harcadı ve hangi reklamların hangi kullanıcılara gösterildiğini takip etti.
Sonuçlar dramatikti. Ortalama olarak, Siyahların sentetik fotoğraflarını gören izleyici kitlesi %81 Siyahtı. Ancak beyaz bir kişinin fotoğrafı olduğunda, ortalama izleyici yalnızca %50 Siyahtı. Genç kızların fotoğraflarını gören kitlenin %57’si erkekti. Yaşlı kadınların fotoğrafları, %58’i kadın olan bir izleyici kitlesine gitti.
Çalışma ayrıca, stok görüntülerin yapay yüzlerin resimleriyle aynı şekilde performans gösterdiğini buldu; bu da, sonucu belirleyenin diğer faktörlerin değil, yalnızca demografik özellikler olduğunu gösteriyor.
Facebook hedeflemenin etkili olduğunu varsayarsak, ürünler için reklamları düşündüğünüzde bu sorun olmayabilir. Ancak bir araştırmacı olan Piotr Sapiezynski, “İş, konut, kredi, hatta eğitim gibi fırsatlar için reklam yapmaktan bahsettiğimizde, ürün satmak için oldukça iyi çalışan şeylerin toplumsal olarak sorunlu sonuçlara yol açabileceğini görebiliriz” dedi. Araştırmayı birlikte yazan Northeastern Üniversitesi’nden Dr.
Bir yorum talebine yanıt olarak Meta, araştırmanın endüstri çapında bir endişeyi vurguladığını söyledi. Meta sözcüsü Ashley Settle, “Bu sorunları ele almak için tasarlanmış teknolojiler inşa ediyoruz” dedi. “Reklam platformumuzda ayrımcılığı önlemek için önemli çabalar sarf ettik ve bu çalışma için önemli sivil haklar grupları, akademisyenler ve düzenleyiciler ile ilgilenmeye devam edeceğiz.”
Facebook’un ırka ve yaşa göre reklam hedeflemesi de reklamverenlerin çıkarına olmayabilir. Şirketler genellikle çeşitliliğe değer verdiklerini göstermek için reklamlarında insanları seçerler. Siyah bir kişinin resmini seçtiler diye reklamlarını daha az beyaz insanın görmesini istemiyorlar. Facebook, yaşlı erkeklerin genç kadınları gösteren reklamlara bakma olasılığının daha yüksek olduğunu bilse bile, bu, ürünlerle daha fazla ilgilendikleri anlamına gelmez. Ancak oyunda çok daha büyük sonuçlar var.
Sapiezynski, “Makine öğrenimi, derin öğrenme, tüm bu teknolojiler prensipte tutucudur” diyor. Facebook’un sistemleri gibi sistemlerin geçmişte nelerin işe yaradığına bakarak optimize ettiğini ve gelecekte işlerin böyle görünmesi gerektiğini varsaydığını ekledi. Algoritmalar konut, iş veya diğer fırsatlar için reklamları kimlerin göreceğine karar vermek için kaba demografik varsayımlar kullanıyorsa, bu klişeleri güçlendirebilir ve ayrımcılığı kutsallaştırabilir.
Bu zaten Facebook’un platformunda oldu. 2016 ProPublica Araştırma, Facebook’un pazarlamacıların Adil Konut Yasası’nı ihlal ederek siyah insanlardan ve diğer korunan gruplardan konut reklamlarını gizlemesine izin verdiğini buldu. Adalet Bakanlığı devreye girdikten sonra Facebook, reklamverenlerin reklamları ırk, din ve diğer bazı faktörlere göre hedeflemesine izin vermeyi bıraktı.
Ancak, reklamcılar Facebook’a açıkça ayrımcılık yapmasını söyleyemeseler bile, çalışma Facebook algoritmasının bunu zaten reklamlarına koydukları resimlere dayanarak yapıyor olabileceğini buldu. Düzenleyiciler bir değişikliği zorlamak istiyorsa bu bir sorundur.
Meta sözcüsü Settle, Meta’nın konut ayrımcılığı sorununu çözmek için yeni teknolojiye yatırım yaptığını ve şirketin bu çözümleri kredi ve iş ilanlarına kadar genişleteceğini söyledi. Şirketin önümüzdeki aylarda paylaşacak daha çok şeyi olacak, diye ekledi.
Bu sonuçlara bakıp “ne olmuş yani?” diye düşünebilirsiniz. Facebook verileri yayınlamaz, ancak siyahların resimlerini içeren reklamlar beyaz izleyicilerde daha kötü performans gösterebilir. Sapiezynski, bu doğru olsa bile makul bir gerekçe olmadığını söyledi.
Geçmişte gazeteler iş ilanlarını ırk ve cinsiyete göre ayırıyordu. Teorik olarak, işe alım yapan insanlar önyargılıysa bu etkilidir. Sapiezynski, “Belki bu o zamanlar etkiliydi, ancak buna yaklaşmanın doğru bir yol olmadığına karar verdik.” Dedi.
Ancak Facebook’un yöntemlerinin etkili olduğunu kanıtlayacak yeterli veriye bile sahip değiliz. Araştırma, platform reklam sisteminin düşünmenizi istedikleri kadar karmaşık olmadığını gösterebilir. “Reklamın gerçekte ne için olduğuna dair daha derin bir anlayış yok. Görüntüye bakıyorlar ve insanların daha önce nasıl davrandığına dair bir klişe yaratıyorlar” dedi Sapiezynski. “Bunun bir anlamı yok, sadece kaba çağrışımlar. Yani bunlar sistemin aslında reklamverenin istediğini yapmadığını gösteren örnekler.”