Geçtiğimiz haftalarda Quadrature du Net, Caisse d’Allocations Familiales (CAF) tarafından 2010 ile 2018 yılları arasında sosyal dolandırıcılıkla mücadele amacıyla kullanılan iki algoritmanın kaynak kodunu almayı başardı. Bunları analiz ettikten sonra, İnternet’teki hak ve özgürlükleri savunma derneğinin kategorik olduğu ortaya çıkıyor: Bu araç, ayrımcı bir şekilde en güvencesiz yararlanıcılarını hedef alacaktır.
“Utanç Algoritması”
Kaynak kodunu inceleyen Quadrature du Net, CAF algoritmalarının ” şüphe puanı » yararlanıcılarının. Buna dayanarak kuruluş, olası fazla ödemeleri talep etmek için kişiyi kontrol etmenin gerekli olup olmadığına karar verdi.
CAF’ın faydalanıcıları hakkında sahip olduğu çok sayıda veriyi birleştiren bu algoritma, her kişiye, CAF’nin onlara duyduğu güvenin derecesini gösteren ve bunun bozulması kontrolleri tetikleyen bir “şüphe puanı” atar.
— La Quadrature du Net (@laquadrature) 27 Kasım 2023
Bu puanın hesaplanmasında dikkate alınan kriterler arasında şunlar yer almaktadır: aile, mesleki ve mali durum, ikamet yeri, alınan hizmetlerin türü ve miktarı, web alanına bağlantı sıklığı, resepsiyondaki son seyahatten bu yana geçen süre, gönderilen e-posta sayısı , son kontrolden bu yana geçen süre ve bildirimlerin sayısı ve türleri. En şüpheli yararlanıcıları hedeflemek için algoritma tarafından toplamda yaklaşık kırk parametre dikkate alındı.
Gelirinizin düşük olması, işsiz olmanız, RSA alıyor olmanız, dezavantajlı bir mahallede yaşamanız, gelirinizin önemli bir kısmını kiraya harcamanız, bir işiniz ya da sabit bir gelirinizin olmaması şüphe oranını artıracak kriterleri oluşturuyor. La Quadrature du Net ayrıca algoritmanın özellikle Engelli Yetişkin Ödeneğinden (AAH) yararlanan ve çalışan kişileri hedef aldığını da kınadı. Bu aynı zamanda şüphe puanını en çok etkileyecek parametrelerden biri olacaktır.
Puan ne kadar yüksek olursa, yararlanıcıların CAF tarafından kontrol edilme ve onun gözünde yardımlardan fazla yararlanma olasılığı da o kadar yüksek olacaktır. Grafik: La Quadrature du Net.
CAF yardımlarından yararlanan bir evde yaşayan 13 milyonu çocuk olmak üzere toplamda 32 milyon kişi bu algoritmaların hedefi olacaktı. Aile ödeneği fonu, kullandığı en son algoritmanın kaynak kodunu derneğe vermek istemedi. Bir CAF yöneticisi kendisini savunmak için La Quadrature du Net’e şu güvenceyi verdi: ” algoritma tarafsızdı », hatta bu aracın ” ayrımcılığın tersi » o zamandan beri ” kimse bir dosyanın neden hedeflendiğini açıklayamadı “.
Yılın başında dernek, Gironde Aile Harcırahı Fonu’ndan yararlanan 10.000 kişinin kişisel verilerinin kamuya açıklanmasından üzüntü duyuyordu. Hizmet sağlayıcılarından biri bu bilgiyi içeren bir dosya almış ve bu dosya yanlışlıkla çevrimiçine geçmiştir.