Politika yapıcılar baskıyı artırırken teknoloji şirketleri seçimle ilgili deepfake’lerle mücadele etme sözü veriyor.
Bugün Münih Güvenlik Konferansı’nda aralarında Microsoft, Meta, Google, Amazon, Adobe ve IBM’in de bulunduğu satıcılar, seçmenleri yanıltmayı amaçlayan yapay zeka tarafından oluşturulan derin sahtekarlıklara yanıt vermek için ortak bir çerçeve benimseme niyetlerini gösteren bir anlaşma imzaladı. Anlaşmanın imzalanmasına çip üreticisi Arm ve güvenlik firmaları McAfee ve TrendMicro ile birlikte AI startup’ları OpenAI, Anthropic, Inflection AI, ElevenLabs ve Stability AI ile sosyal medya platformları X (eski adıyla Twitter), TikTok ve Snap dahil olmak üzere on üç şirket daha katıldı.
Aşağıda imzası bulunanlar, yanıltıcı siyasi deepfake’leri oluşturup platformlarında dağıttıklarında tespit etmek ve etiketlemek için yöntemler kullanacaklarını, en iyi uygulamaları birbirleriyle paylaşacaklarını ve deepfake’ler yayılmaya başladığında “hızlı ve orantılı yanıtlar” vereceklerini söyledi. Şirketler, derin sahtekarlıklara yanıt verirken bağlama özel dikkat göstereceklerini de sözlerine ekledi.[safeguard] yanıltıcı seçim içeriğine ilişkin politikaları konusunda kullanıcılarla şeffaflığı korurken eğitici, belgesel, sanatsal, hiciv ve politik ifadeler de sunuyor.
Anlaşma aslında dişsizdir ve bazı eleştirmenlere göre erdem sinyali vermekten biraz daha fazlasıdır; tedbirleri gönüllüdür. Ancak dünya nüfusunun yüzde 49’unun ulusal seçimlerde sandık başına gideceği bir yılda, bu coşku, teknoloji sektörünün seçimlerle ilgili düzenleyici göstergeler konusunda ihtiyatlı davrandığını gösteriyor.
Microsoft’un başkan yardımcısı ve başkanı Brad Smith, “Teknoloji sektörünün seçimleri bu yeni tür seçim suiistimallerinden tek başına korumasının hiçbir yolu yok” dedi. basın bülteni. “Geleceğe baktığımızda, Microsoft’ta çalışanlar olarak, yeni çok paydaşlı eylem biçimlerine de ihtiyacımız olacak gibi görünüyor… Seçimlerin korunmasının gerektiği çok açık. [will require] hep birlikte çalışıyoruz.”
ABD’deki hiçbir federal yasa, seçimle ilgili veya başka türlü derin sahtekarlıkları yasaklamaz. Ancak ülke çapında 10 eyalet bunları suç sayan kanunlar çıkardı; ilk uygulayan Minnesota oldu. hedef Siyasi kampanyalarda kullanılan deepfake’ler.
Başka yerlerde federal kurumlar, deepfake’lerin yayılmasıyla mücadele etmek için ellerinden gelen yaptırımları uyguluyor.
Bu hafta FTC, politikacılar da dahil olmak üzere tüm tüketicileri kapsayacak şekilde işletmelerin veya devlet kurumlarının kimliğine bürünülmesini yasaklayan mevcut bir kuralı değiştirmeye çalıştığını duyurdu. Ve FCC, yapay ve önceden kaydedilmiş sesli mesaj spam’ını yasaklayan bir kuralı yeniden yorumlayarak yapay zeka sesli otomatik çağrıları yasa dışı hale getirmek için harekete geçti.
Avrupa Birliği’nde bloğun Yapay Zeka Yasası, yapay zeka tarafından oluşturulan tüm içeriğin açıkça bu şekilde etiketlenmesini gerektirecektir. AB aynı zamanda teknoloji endüstrisini çeşitli şekillerdeki derin sahtekarlıkları engellemeye zorlamak için Dijital Hizmetler Yasasını kullanıyor.
Bu arada Deepfake’ler çoğalmaya devam ediyor. Deepfake tespit firması Clarity’nin verilerine göre, oluşturulan depfake’lerin sayısı yıldan yıla %900 arttı.
Geçen ay, ABD Başkanı Joe Biden’ın sesini taklit eden yapay zeka robot çağrıları, insanları New Hampshire ön seçimlerinde oy kullanmaktan caydırmaya çalıştı. Ve Kasım ayında, Slovakya seçimlerinden sadece birkaç gün önce, yapay zeka tarafından oluşturulan ses kayıtları, bira fiyatlarını artırma ve seçime hile karıştırma planlarını tartışan liberal bir adayı taklit ediyordu.
yakın zamanda anket YouGov’a göre Amerikalıların %85’i yanıltıcı video ve ses sahtelerinin yayılmasından çok veya biraz endişe duyduklarını söyledi. Ayrı bir anket Associated Press-NORC Halkla İlişkiler Araştırma Merkezi’nden yapılan bir araştırma, yetişkinlerin yaklaşık %60’ının yapay zeka araçlarının 2024 ABD seçim döngüsü sırasında yanlış ve yanıltıcı bilgilerin yayılmasını artıracağını düşündüğünü ortaya çıkardı.