Belirli EV’lere ve sürücüsüz arabalara güç sağlayan otonom sürücü yazılımları, doğası gereği koyu tenli insanlara ve çocuklara karşı önyargılı olabilir. Yeni bir çalışma, bu yazılımların koyu tenli yayaları veya çocuk olmaları durumunda görmezden gelme olasılığının yüzde 8 daha yüksek olduğunu buldu.
Sürücüsüz arabalar, tüm tuhaf nedenlerden dolayı haberlerde büyük bir sıçrama yapıyor. Bununla birlikte, yakın tarihli bir araştırma, bu basit teknolojik aksaklıkların buzdağının sadece görünen kısmı olduğunu öne sürüyor. Bu otonom araçlara güç sağlayan teknolojide gizlenen rahatsız edici sorunlar olabilir.
Londra’daki King’s College’dan araştırmacılar tarafından bir araştırma yapıldı. Sürücüsüz araçlar için yayaları tespit etmeyi amaçlayan yapay zeka destekli sekiz farklı sisteme daha yakından baktılar. Bu sistemler gerçek dünya verileri kullanılarak eğitildi.
AI, koyu tenli insanlara karşı kördür
Şaşırtıcı bir şekilde, çalışma, bu AI programlarının daha açık tenlilere kıyasla daha koyu tenli yayaları tespit etmekte çok daha zor olduğunu keşfetti. Aslında sistem, daha koyu ten tonlarına sahip kişileri, açık tenli muadillerine göre neredeyse yüzde sekiz daha sık tanımakta zorlanıyordu.
İlgili Makaleler
İZLEYİN: Yapay Zeka İngiliz kadının erkek arkadaşını aldatırken yakalamasına nasıl yardımcı oldu?
HackerGPT: AI artık nasıl yazdığınızı ‘dinleyerek’ parolaları, banka bilgilerini çalabilir; İşte nasıl
Bu gerçekten şok edici bir istatistik ve önyargılı AI sistemleriyle ilişkili çok gerçek ve potansiyel olarak yaşamı tehdit eden riskleri vurguluyor.
Çalışma nasıl gerçekleştirildi?
Çalışma, cinsiyet, yaş ve cilt tonu gibi şeyleri belirten etiketlerle toplam 8.111 görüntünün titizlikle açıklanmasıyla başladı. Kapsamlı bir veri kümesi oluşturmak için 16.070 cinsiyet etiketi, 20.115 yaş etiketi ve 3.513 cilt tonu etiketi işaretlediler.
Oradan, her şey sayıları ezmekle ilgiliydi. Araştırmacılar istatistiklerle oynadılar ve sonuçta daha açık ve daha koyu cilt tonlarına sahip kişiler arasında tespit doğruluğunda %7,52’lik çarpıcı bir boşluk buldular.
Araştırma, daha koyu cilt tonlarına sahip kişiler için riskin, “düşük kontrast” veya “düşük parlaklık” koşullarında, temel olarak gece gibi durumlarda, özellikle arttığına işaret etti.
AI çocukları da göremiyor
Ancak sürprizler burada bitmedi. Irksal önyargı sorununa ek olarak, dedektörlerin bir başka kör noktası daha vardı: çocuklar. Şaşırtıcı bir şekilde sonuçlar, çocukların bu dedektörler tarafından tanınma olasılığının yetişkinlere göre yüzde yirmi daha düşük olduğunu gösterdi.
Bu ayrıntılar tipik olarak “özel bilgiler” kategorisine girdiği için, çalışmada analiz edilen sistemlerin doğrudan sürücüsüz otomobil şirketlerinden olmadığını vurgulamakta fayda var. Bununla birlikte, çalışmanın ortak yazarlarından ve King’s College’da bilgisayar bilimi öğretim görevlisi olan Lie Zhang’a göre, bu şirketlerin modelleri muhtemelen incelenenden çok uzak değil.
Bu, özellikle sürücüsüz araçların önemli yasal dönüm noktalarına ulaştığı düşünüldüğünde endişe vericidir.
Zhang, New Scientist’e şunları söyledi: “Gizli bilgilerini paylaşmayacaklar, bu nedenle onların belirli modellerine ilişkin içgörülerimiz yok. Ancak, bu modellerin genellikle mevcut açık kaynak modellerine dayandığını biliyoruz. Modellerinde de benzer sorunların olacağı kesin.”
Makine yanlılığı konusu bir sır değil ve gelişmiş yapay zeka teknolojisi günlük hayatımıza daha derinden işler hale geldikçe, bu önyargıların sonuçları daha belirgin hale geliyor. Gerçek hayatlar söz konusuyken, önlenebilir trajedilerin ardından düzenlemelerin yetişmesini beklemek, rahat olmamız gereken bir yol değil.