Disneyleştirilmiş peri masalı Küçük Deniz Kızı'nda, baş karakter Ariel, deniz cadısı Ursula tarafından sesiyle dolandırılır. Ariel ancak sesi bedeninden ayrıldığında bunun kişiliği için ne kadar hayati olduğunu fark ediyor.
Bu hafta Hans Christian Andersen klasiği, film yıldızı Scarlett Johansson'un sesine kimin sahip olduğu ve biri ticari kazanç için onu taklit ederse bu konuda ne yapabileceği sorusuyla kamuoyu önünde boğuşurken, zamanımız için bir benzetme gibi göründü.
Johansson, OpenAI'nin en yeni üretken yapay zeka aracı ChatGPT-4o'ya ses verme talebini reddettiğinde, şirket CEO'su Sam Altman ikna edici bir şekilde kendisine benzeyen başka bir aktöre hizmet etti. Altman yalanladı GPT-4o'nun Johansson'a benzemesini sağlamaya çalışıyorum. Ancak OpenAI'nin GPT-4o'yu tanıttığı gün tek kelimelik bir mesaj yayınladığı göz önüne alındığında, bu inkar boş gibi görünüyordu. cıvıldamak – “o” – başlığın adı 2013 bilim kurgu filmi Johansson kadın yapay zeka asistanı Samantha'yı seslendirdi.
Durum ne olursa olsun Johansson'un durumu hepimiz için bir uyarıdır. Kendi sesimize ne kadar sıkı bağlı olsak da yapay zeka, bu sahiplenme duygusunun tehdit altında olduğu bir dünya yarattı. Sesimizi ister özgürce verelim ister bizden çalınsın, yapay zeka sanki hiç söylemediğimiz şeyleri söylemişiz gibi görünmesi için kullanılabilir.
Audiobox ve ben
Ben de bunun biraz tadına vardım. Bu hafta Paris'teki Vivatech'te Meta'nın üretken yapay zeka ses aracı Audiobox'ı denedim. ilk kez geçen yaz duyuruldu. Araç, sesinizin ses kaydını dinleyerek ve sanki kelimeleri kendiniz konuşuyormuşsunuz gibi metni yüksek sesle okumak için kullanılabilecek şekilde sentezleyerek çalışır. Deneyebilirsin Burada.
Bir iPad kullanarak sesimi birkaç saniye kaydettim ve ardından aracın bana yüksek sesle okumasını istediğim bir cümleyi yazdım. Bir dakika içinde cümleyi benim sesimden okudu. Sesimin iPad'den çıktığını duymak, aslında hiç yüksek sesle söylemediğim bir cümleyi okumak esrarengiz bir deneyimdi.
Meta'nın yapay zeka aracı pek çok araçtan sadece biri.
CNET'ten Meta/Ekran görüntüsüMeta'nın gizlilik politikası, AI Audiobox sesinizin size ait olduğu anlamına gelir, ancak ElevenLabs ve Speechify dahil olmak üzere, seslerin AI versiyonlarını oluşturma yeteneğine sahip çok sayıda şirket ortaya çıkıyor. Bu deney uğruna sesimi özgürce verdim, ancak bu ses benim bilgim veya iznim olmadan radyodan, TV'den, YouTube videosundan veya podcast'ten kolayca kaydedilip bir yapay zeka klonuna dönüştürülmüş olabilir. Sesleri kamuya açık olan kişiler (örneğin ünlüler) en kolay hedeflerdir ancak sesli notlardan telefon kayıt cihazlarına kadar hiç kimse bu durumdan muaf değildir.
Hatırla seçim otomatik çağrısı Başkan Joe Biden'ın sesini mi taklit etti?
Yapay zeka çağında, sesimizin sahtekarlığa karşı hiçbir zaman tamamen güvende olmadığını kabul etmekten başka seçeneğimiz yok. Yapay zeka tarafından oluşturulan görüntülere karşı ihtiyatlı olmaya başladığımız gibi, duyduğumuz her şeye inanılamayacağı gerçeğine de açık olmalıyız.
Hiçbir şeyin göründüğü gibi kabul edilemediği durumlarda güven her zamankinden daha önemlidir. Teknolojimizi yaratan kişilerin, kendileri için tasarladıkları kişiler tarafından doğru şeyi yapma konusunda kendilerine güvenilebileceğini bize göstermeleri gerekiyor. Meta ve Google gibi şirketler artık insanların güven ve güvenlik politikalarını ve bu politikaları uygulama becerilerini kamuya açık bir şekilde incelediğine aşinadır. Her ne kadar hâlâ tedirgin olsak da çoğumuz bu çabaları anlıyor ve nerede olduğumuzu hissediyoruz.
OpenAI'nin güveni kırmaya değil inşa etmeye ihtiyacı var
OpenAI gibi güven ve emniyet mirasına sahip olmayan daha yeni şirketlerin hâlâ ödüllerini alması gerekiyor. Bu hafta Altman'ın şirketi ilk engellerden birinde düştü.
OpenAI, ChatGPT-4o'yu Johansson'un sesi üzerine eğitmemiş olabilir, ancak oyuncunun istekleri ne olursa olsun onu taklit etmenin bir yolunu bularak şirket, insanların ses benzerliğini adil bir oyun olarak gördüğünün sinyalini açıkça verdi. Ve OpenAI'ye sesini vermeyi reddettiği, ancak şirketin aracını yine de ona benzettiği göz önüne alındığında, onun rızayı reddetmesini onurlandırmakla ilgilenmediği anlaşılıyor.
Altman olayların bu versiyonunu reddediyor ve yaptığı açıklamada OpenAI'nin, chatbot Sky'ı seslendirecek oyuncuyu Johansson'a ulaşmadan önce seçtiğini söylüyor. “M. Johansson'a olan saygımızdan dolayı ürünlerimizde Sky'ın sesini kullanmayı bıraktık” diye ekledi. “Daha iyi iletişim kuramadığımız için Bayan Johansson'dan özür dileriz.” OpenAI daha fazla yorum talebine hemen yanıt vermedi.
Onay, OpenAI ve Microsoft'a karşı, büyük dil modelleri için eğitim materyali olarak kullanılan metinler nedeniyle açılan telif hakkı davalarının da merkezinde yer alıyor.
Yapay zeka şirketi Anthropic'in CEO'su Dario Amodei, VivaTech'te yapay zekanın fikri mülkiyet hakları ve mülkiyeti ile ilgili soruları “biraz bulanık” hale getirdiğini söyledi. Amodei, Claude sohbet robotunun yapımcısı Anthropic'i kurmak için yola çıkmadan önce OpenAI için çalışıyordu ve eski işverenini eleştiriyordu. Amodei, Anthropic'in tam da bu soruların karmaşıklığı nedeniyle “başka yöntemler” sunmak yerine şu ana kadar metne bağlı kaldığını söyledi.
Amodei, yapay zeka giderek daha akıllı ve yetenekli hale geldikçe, toplum olarak yapay zekanın insanların yapabileceklerini bazen rahatsız edici bir şekilde ihlal edeceği gerçeğiyle boğuşmamız gerekeceğini söyledi.
Zaten orada olduğumuzu iddia ediyorum.
Kendisinden önceki diğer teknolojiler gibi yapay zeka da hayatımıza korkuluklar yerleştirilmeden önce girdi. Hükümetler şimdi bunu düzeltmek ve teknoloji şirketlerine uymaları gereken bir kural kitabı sağlamak için çabalıyor. Bu yılın başlarında, örneğin ABD Federal İletişim Komisyonu, AI klonlanmış seslerin kullanımını yasakladı otomatik aramalarda.
Bu tartışma devam ederken sesimizi tamamen susturamayabiliriz ama TV'lerimizden, radyolarımızdan, telefonlarımızdan, PC'lerimizden ve diğer cihazlarımızdan çıkan seslerin, yapay zekanın yeni ve cesur dünyasında kendimizi koruyabiliriz. cihazlar orijinal sahiplerinden ayrılmış olabilir.
Editörün notu: CNET, uygun şekilde etiketlenen birkaç düzine hikayenin oluşturulmasına yardımcı olmak için bir yapay zeka motoru kullandı. Okuduğunuz not, yapay zeka konusunu esas itibarıyla ele alan ancak tamamen uzman editörlerimiz ve yazarlarımız tarafından oluşturulan makalelere eklenmiştir. Daha fazlası için, bkz. Yapay zeka politikası.
Kaynak bağlantısı