Eğer bir erkek sana onunkini söyleseydi en sevdiğim bilim kurgu filmi O, ardından esrarengiz bir sese sahip bir yapay zeka sohbet robotu piyasaya sürüldü gelen ses gibi O, Daha sonra Tek kelimeyle “onu” tweetledi yayınlandıktan birkaç dakika sonra… ne sonuca varırsınız?
Yapay zekanın sesinin büyük ölçüde ilham aldığı sonucuna varmak mantıklıdır. O.
OpenAI'nin CEO'su Sam Altman bahsedilenlerin hepsini yaptı ve şirketi yakın zamanda piyasaya sürüldü Kullanıcılarla cilveli bir kadın sesiyle konuşan ChatGPT'nin yeni bir sürümü; bu ses, 2013 Spike Jonze filminde AI kız arkadaşını seslendiren oyuncu Scarlett Johansson'un sesine belirgin biçimde benziyor O.
Şimdi Johansson itiraz etmek için öne çıktı ve şöyle yazdı: Bir deyim Chatbot'un sesinin “benimkine o kadar ürkütücü bir şekilde benzediğini ki, en yakın arkadaşlarım ve haber kaynakları aradaki farkı anlayamadı.”
Altman'ın cevap? Sesin “Scarlett Johansson'a ait olmadığını ve asla onun sesine benzemesinin amaçlanmadığını” iddia ediyor.
Bu ilk bakışta saçma bir iddiadır.
Her ne kadar ses tam olarak Johansson'un sesi üzerinde eğitilmemiş ya da ondan kopyalanmamış olsa da (OpenAI, başka bir oyuncuyu işe aldığını söylüyor) onunkine benzemesinin amaçlanmış olabileceğini öne süren pek çok kanıt var. Altman'ın ilan ettiği aşkına ek olarak O ve onun “onun” tweet'inin yanı sıra Johansson'dan yeni açıklamalar da var: Altman'ın iki ayrı durumda menajerine ulaşarak ondan chatbot'u seslendirmesini istediğini söylüyor.
Geçtiğimiz Eylül ayında ilk talep geldiğinde Johansson hayır dedi. Yeni chatbotun demosundan iki gün önce ikinci bir talep geldi ve ondan tekrar düşünmesini istedi. Johansson, “Biz bağlanamadan önce sistem mevcuttu” dedi ve Altman'dan bir açıklama talep etmek için bir avukat tuttuğunu da sözlerine ekledi.
OpenAI yayınlandı bir blog yazısı Geçen yıl seslendirme sanatçılarını bulmak için aylarca süren bir süreçten geçtiğini söyledi; buna “Sky”nın sesi de dahil. birçok insan Geçtiğimiz Eylül ayında ChatGPT için bazı ses yeteneklerini sunmadan önce Johansson'unkine benzer bir şey bulun. Altman'a göre, “Bayan Johansson'a herhangi bir yardımda bulunmadan önce Sky'ın sesinin arkasındaki seslendirme sanatçısını seçtik.” Unutmayın Eylül, Johansson'un Altman'ın sesine lisans vermek için ilk talepte bulunduğu ay olduğunu söylüyor.
Eğer OpenAI gerçekten de oyuncuyu Johansson'a ulaşmadan önce Sky'ın arkasına seçtiyse, bu yine de Sky'ın sesinin asla Johansson'un sesine benzeyeceği anlamına gelmiyor. Ayrıca bu, Sky'ın arkasındaki yapay zeka modelinin yalnızca işe alınan oyuncunun sesiyle beslendiği ve Johansson'un sesinden hiçbir şekilde faydalanılmadığı anlamına da gelmiyor. Bu soruları şirkete ilettim. OpenAI, yorum talebine yayınlanma zamanında yanıt vermedi.
OpenAI, Sky'ın sesini “Bayan Johansson'a duyduğu saygıdan dolayı” kapattı. Altman'ın söylediğişunu ekliyor: “Daha iyi iletişim kuramadığımız için Bayan Johansson'dan özür dileriz.”
Ancak OpenAI yanlış bir şey yapmadıysa neden sesi kessin ki? Peki Altman aynı nefeste sesin Johansson'la hiçbir ilgisinin olmadığını ısrarla söylerken, bu özür gerçekte ne kadar “saygı” ifade ediyor?
“Sesimin insanları rahatlatacağını hissetti”
Apple'ın Siri'sinden Amazon'un Alexa'sına ve Microsoft'un Cortana'sına kadar teknoloji şirketlerinin yıllardır dijital asistanlarına dost canlısı kadın sesleri vermesinin bir nedeni var. İş açısından bakıldığında yapay zekanıza bu sesi vermek akıllıca olacaktır. Muhtemelen şirketinizin kârlılığını artırır.
O yüzden araştırma İnsanların yardıma ihtiyaç duyduklarında, bunun tehdit edici olmayan bir kadın sesiyle yapılmasını tercih ettiklerini gösteriyor. (Yetkili ifadeler söz konusu olduğunda erkek sesini tercih ediyorlar.) Ve şirketler, asistanlarını daima neşeli ve kibar olacak şekilde tasarlıyorlar çünkü bu tür davranışlar kısmen var. kullanıcının etkileşimi sürdürme arzusunu en üst düzeye çıkarır cihazla birlikte.
Ancak tasarım seçimi etik düzeyde endişe verici. Araştırmacılar bunun kadınlara yönelik cinsiyetçi stereotipleri güçlendirdiğini söylüyor yalnızca başka birinin emirlerini yerine getirmek, onlara yardım etmek, onları rahatlatmak ve egolarını doyurmak için var olan köle varlıklar olarak.
Johansson'a göre, Altman'ın dokuz ay önce sesini ruhsatlandırmaya çalışmasının amacı tam da rahatlık hissi vermekti.
Johansson, “Bana, sistemi seslendirerek teknoloji şirketleri ile yaratıcılar arasındaki uçurumu kapatabileceğimi ve tüketicilerin insanlar ve yapay zeka ile ilgili sarsıcı değişim konusunda kendilerini rahat hissetmelerine yardımcı olabileceğimi hissettiğini söyledi” diye yazdı. “Sesimin insanları rahatlatacağını hissettiğini söyledi.”
Johansson'ın nefes kesici, cilveli sesi yalnızca kendi içinde rahatlatıcı değil. Johansson, romantizmdeki yapay zeka kız arkadaşı Samantha'yı seslendirdi OTamamen bir yapay zekanın yalnız bir insanla nasıl bağlantı kurabileceği, onu rahatlatabileceği ve canlandırabileceğiyle ilgili bir hikaye. Özellikle Samantha, modern yapay zeka şirketlerinin ortaya koyduğu her şeyden çok daha gelişmişti – o kadar gelişmişti ki, aslında insan kullanıcısının ötesine geçiyor – bu nedenle yeni ChatGPT'yi filmle ilişkilendirmek de muhtemelen işe yarayacak.
Burada ikinci bir katman var, kadının rızasıyla ilgili. Johansson, geçen yıl Altman'ın isteğine açıkça “hayır” demesine rağmen, Johansson benzeri bir ses kullandı ve Altman şikayet ettiğinde dünyaya aktrisin sesin kendisine benzemesi gerektiği konusunda yanıldığını söyledi.
Buna ne isim vereceğimi bilemedim, bu yüzden ChatGPT'ye bu tür senaryoları daha genel olarak sordum. Chatbot'un yanıtı şöyle:
Bu OpenAI'deki modelin bir parçası. Şirkete güvenilebilir mi?
Johansson tartışması sonuncusu insanların OpenAI'ye ve özellikle de CEO'su Altman'a olan güvenini kaybetmesine neden olan bir dizi olay.
Geçen sene, sanatçılar Ve yazarlar AI modellerini eğitmek için telif hakkıyla korunan materyallerini çaldığı iddiasıyla OpenAI'ye dava açmaya başladı. Bu arada uzmanlar alarma geçti derin sahtekarlıklarDünya büyük seçimlere yaklaşırken bu durum gün geçtikçe daha da endişe verici hale geliyor.
Daha sonra geçen Kasım ayında OpenAI'nin yönetim kurulu Altman'ı kovmaya çalıştı çünkü o zamanlar ifade ettikleri gibi, “iletişimlerinde tutarlı bir şekilde samimi değildi.” Eski meslektaşları daha sonra öne çıktı onu bir manipülatör olarak tanımla Ağzının her iki yanından konuşan biri; yapay zekanın güvenli bir şekilde konuşlandırılmasına öncelik vermek istediğini iddia eden ancak kendi ifadesinde bununla çelişen biri davranışlar. O zamandan bu yana çalışanlar giderek aynı sonuca varmaya başladı, öyle ki bazıları şirketten ayrıldı.
Eski çalışan Daniel Kokotajlo “OpenAI liderliğine olan güvenimi yavaş yavaş kaybettim” dedi bana söylegeçen ay işinden neden ayrıldığını açıklıyor.
Şirket hakkında bilgi sahibi başka bir kişi, “Bu, domino taşlarının birer birer düşmesi gibi, güvenin yavaş yavaş çöktüğü bir süreç” dedi. bana söyle geçen hafta, anonimlik koşuluyla konuşuyordum.
Bazı çalışanlar, işten ayrılırken aşağılama yasağı hükümleri içeren işten çıkarma anlaşmaları imzaladıkları için kamuya açık bir şekilde konuşmaktan kaçındılar. Vox bu anlaşmaları bildirdikten sonraAltman söz konusu şirket bunları değiştirme sürecindedir. Ancak halk şunu sorabilir: OpenAI, kamuoyunun gözünden uzak tutmak istediği bir şey yapmıyorsa neden bu kadar kısıtlayıcı hükümlere sahip olsun ki?
OpenAI'nin güvenlik konusunda en bilinçli çalışanlarından birçoğunun şirket liderlerine güvenmedikleri için gemiyi terk ettiği bir zamanda, halk onlara neden güvensin ki?
Aslında göre yeni bir anket Yapay Zeka Politika Enstitüsü'nden yaklaşık 10 Amerikalıdan 6'sı, güçlendirilmiş ChatGPT'nin piyasaya sürülmesinin kendilerini yapay zekanın büyümesi konusunda daha fazla endişelendirdiğini söylerken, yalnızca yüzde 24'ü bunun kendilerini heyecanlandırdığını söylüyor. Dahası, Amerikalıların yüzde 52'si artık OpenAI hakkında olumsuz görüşe sahip.
Bu noktada, halkı kendisinin güvenilmeye değer olduğuna ikna etme yükümlülüğü OpenAI'ye düşüyor.
Kaynak bağlantısı