Bazen ses deepfake’leri olarak da adlandırılan; kullanımı kolay ses klonlama olanakları sunan çevrimiçi yapay zeka hizmetlerinin sayısı, üretken yapay zeka araçlarının ana akım haline gelmesinden bu yana hızla arttı ve siber saldırılarda kötüye kullanım potansiyeline ilişkin endişeleri artırdı.
Örneğin, CEO’ların seslerini kopyalayarak onları taklit eden bir yapay zeka; finans departmanına bir saldırganın hesabına para aktarma talimatı verebilir. Bu, oldukça büyük bir tehdit. Arkadaşlar ve aileler de sevdiklerine para göndermeleri için kullanılabilir ve teknoloji gelişmeye devam ederse sanatçıların geçim kaynakları tehlikeye girebilir.
İlgilenen tarafların, esas olarak teknolojinin önlenmesi, izlenmesi ve değerlendirilmesine odaklanarak, yapay zeka tabanlı ses klonlama dolandırıcılığının ele alınmasına yardımcı olacak fikirlerini 12 Ocak’a kadar sunmaları gerekiyor.
FTC, “Bu çaba; tüketicileri, yaratıcı profesyonelleri ve küçük işletmeleri, zarar tüketiciye ulaşmadan önce ses klonlamanın zararlarına karşı koruyarak yukarı yöndeki riskleri azaltmaya yönelik fikirlerin öne çıkarılmasına yardımcı olabilir.” dedi.
“Aynı zamanda tüketici düzeyinde riskleri azaltmaya yönelik fikirlerin geliştirilmesine de yardımcı olabilir. Ve eğer uygulanabilir fikirler ortaya çıkmazsa, bu, politika yapıcılara, önümüzdeki dönemdeki zorluklar göz önüne alındığında, bu teknolojinin kullanımına yönelik daha sıkı sınırlamalar getirmeleri gerektiği yönünde kritik ve erken bir uyarı gönderecektir. Piyasadaki uygulamaların zararlı gelişiminin önlenmesi.“
Başvurular, diğer tedbirlerin yanı sıra, yürütme ve idarenin ne kadar mümkün olabileceği; teknolojik değişikliklere ne kadar dayanıklı olduğu ve şirketlere sorumluluk ve sorumluluğun nasıl yükleneceğini ne kadar dikkatli değerlendirdikleri temel alınarak değerlendirilecek.
Sunulan en büyük ödül 25.000$ ve ustaca bir çözümün sahip olabileceği potansiyel geniş uygulamalar göz önüne alındığında bu bir altın madeni gibi görünmüyor.
İkincilere 4.000 dolar, üç mansiyonun her birine ise 2.000 dolar verilecek ve 10 veya daha fazla kişiden oluşan kuruluşlara nakitsiz tanınma ödülü verilecek.
Yapay zeka ses klonlamanın etkinliği geçtiğimiz yıl tekrarlanan vakalarda kanıtlandı. Slovak güvenlik mağazası ESET’teki uzmanlar, yukarıda bahsedilen sahte CEO örneğinin nasıl çözülebileceğini gösterdi.
Aslında bu, üretken yapay zekanın ortalama bir insanın eline geçmesinden önce de yıllardır bir sorundu. İngiltere’deki bir enerji şirketinin CEO’suna Macar bir tedarikçiye büyük miktarda para gönderme talimatı verilmesinin ardından 2019 yılında 243.000 dolar elinden alındı.
Yine önceki 12 aya ait bir New York Times raporu, finans sektörünü başarılı bir şekilde hedef alan ve bankaları gerçek müşteri olduğuna inandıkları kişilerden para aktarmaya kandıran bir dizi vakayı ayrıntılarıyla anlattı.
En kötü örnekler ise annelerin, kız çocuklarını kaçırdığını iddia eden şahıslar tarafından sözde rehine karşılığında fidye talep eden telefon çağrıları.
Ses klonlama, bir yapay zeka modeline bir kişinin; sesini, ses tonunu, temposunu, tonunu ve diğer nüanslarını anlayacak kadar eğitim verisi sağlamasıyla mümkün oluyor. Ünlülerin ve diğer kamuoyuna mal olmuş kişilerin, çevrimiçi ortamda bulunan ses kayıtlarının sayısı göz önüne alındığında, bu saldırılara karşı ciddi risk altında oldukları düşünülüyor.
Sosyal medya ve video içeriği oluşturma kültürünün yükselişiyle birlikte, ünlü olmayan birçok kişi ve hatta çocuklar da bir modeli etkili bir şekilde eğitmek için yeterli çevrimiçi materyale sahip.
Kaspersky araştırmacıları geçen yıl yapay zeka ses klonlamasındaki artışı incelediler ve yapay zeka teknolojisini kullanarak klonlanmış sesler oluşturabilen, ücretsiz olarak kullanılabilen çok çeşitli, açık kaynaklı araçlar keşfettiler. Ancak ikna edici bir klonu çalışır hale getirmek için biraz Python bilgisi ve klonlayıcının biraz müdahale etmesi gerektiğini ileri sürdüler.
Ancak ücretli teklifler çok daha etkili olma eğiliminde. Araştırmacılar, Microsoft’un, eğitim verileri olarak kullanılan yalnızca üç saniyelik ses sesiyle düzgün bir klon oluşturabileceği varsayılan VALL-E modeline dikkat çekti.
Ücretsiz olanlardan daha iyi çalışan başka ücretli çözümler de mevcut ancak bunlar henüz geliştirme aşamasında, dolayısıyla bu modellerin doğruluğunun ve etkililiğinin zaman içinde artmasını bekleyebiliriz.