Microsoft, şeklini değiştirdi politika ABD polis departmanlarının yüz tanıma için üretken yapay zeka kullanmasını yasaklamak için Azure OpenAI Hizmetişirketin OpenAI teknolojileri etrafında tam olarak yönetilen, kurumsal odaklı paketi.
Çarşamba günü Azure OpenAI Hizmetinin hizmet şartlarına eklenen ifade, OpenAI'nin metin ve konuşma analiz modelleriyle entegrasyonlar da dahil olmak üzere, Azure OpenAI Hizmeti ile entegrasyonların ABD'deki yüz tanıma için polis departmanları tarafından “tarafından veya onlar adına” kullanılmasını yasaklıyor.
Ayrı bir yeni madde işareti, “küresel düzeydeki tüm kolluk kuvvetleri”ni kapsıyor ve “kontrolsüz, olay yerindeki” bir kişiyi tanımlamaya çalışmak için vücut kameraları ve araç kameraları gibi mobil kameralarda “gerçek zamanlı yüz tanıma teknolojisinin” kullanımını açıkça yasaklıyor. -vahşi” ortamlar.
Şartlardaki değişiklikler, askeriye ve kolluk kuvvetlerine yönelik teknoloji ve silah ürünleri üreticisi Axon'un yeni bir anlaşma açıklamasından bir hafta sonra geldi. yeni ürün OpenAI'den yararlanan GPT-4 Vücut kameralarından gelen sesi özetlemek için üretken metin modeli. Eleştirmenler potansiyel tuzaklara dikkat çekmekte hızlı davrandılar. halüsinasyonlar (günümüzün en iyi üretken yapay zeka modelleri bile gerçekleri icat ediyor) ve ırksal önyargılar eğitim verilerinden elde edilmiştir (bu özellikle beyaz olmayan insanların olduğu göz önüne alındığında endişe vericidir) polis tarafından durdurulma ihtimali çok daha yüksek beyaz akranlarına göre).
Axon'un, Azure OpenAI Hizmeti aracılığıyla GPT-4 kullanıp kullanmadığı ve eğer öyleyse, güncellenen politikanın Axon'un ürün lansmanına yanıt olarak mı verildiği belli değil. OpenAI vardı önceden kısıtlanmış API'leri aracılığıyla yüz tanıma için modellerinin kullanılması. Axon, Microsoft ve OpenAI ile iletişime geçtik ve yanıt alırsak bu gönderiyi güncelleyeceğiz.
Yeni şartlar Microsoft'a hareket alanı bırakıyor.
Azure OpenAI Hizmeti kullanımına ilişkin tam yasak yalnızca ABD'yi ilgilendiriyor, uluslararası değil, polis. Ve bu, aşağıdakilerle gerçekleştirilen yüz tanımayı kapsamaz: sabit kameralar kontrollü arka ofis gibi ortamlar (şartlar ABD polisinin yüz tanıma özelliğini kullanmasını yasaklasa da).
Bu, Microsoft'un ve yakın ortağı OpenAI'nin yapay zeka ile ilgili kolluk kuvvetleri ve savunma sözleşmelerine yönelik son yaklaşımıyla örtüşüyor.
Ocak ayında Bloomberg'in raporu açıklığa kavuşmuş OpenAI'nin siber güvenlik yetenekleri de dahil olmak üzere bir dizi proje üzerinde Pentagon ile birlikte çalıştığını biliyoruz; erken yasak Yapay zekasını ordulara sağlama konusunda. Başka yerlerde Microsoft, Savunma Bakanlığı'nın (DoD) askeri operasyonları yürütmek üzere yazılım geliştirmesine yardımcı olmak için OpenAI'nin görüntü oluşturma aracı DALL-E'yi kullanmayı teklif etti. başına Kesmek.
Azure OpenAI Hizmeti, kolluk kuvvetleri de dahil olmak üzere devlet kurumlarına yönelik ek uyumluluk ve yönetim özellikleri ekleyerek Microsoft'un Azure Kamu ürününde Şubat ayında kullanıma sunuldu. İçinde Blog yazısıMicrosoft'un hükümet odaklı bölümü Microsoft Federal'in Kıdemli Başkan Yardımcısı Candice Ling, Azure OpenAI Hizmetinin Savunma Bakanlığı görevlerini destekleyen iş yükleri için Savunma Bakanlığı'na “ek yetkilendirme için sunulacağını” taahhüt etti.
Güncelleme: Yayınlandıktan sonra Microsoft, hizmet koşullarındaki orijinal değişikliğinin bir hata içerdiğini ve aslında yasağın yalnızca ABD'deki yüz tanıma için geçerli olduğunu söyledi. Hizmeti kullanan polis departmanlarına yönelik genel bir yasak değil.
Kaynak bağlantısı