Yapay zeka “değil Şirketin başkanı Meredith Whittaker, şifreleme konusundaki mücadelenin kazanılmaktan çok uzak olduğu ve Signal'in ilkeli (ve tavizsiz) yaklaşımının birlikte çalışabilirlik çabalarını karmaşık hale getirebileceği konusunda uyardı. Ama hepsi kötü haber değil.
(Aslında bunların hepsi kötü haber, çünkü ben İyi haberi ayrı ayrı yazdım.)
Strictly VC LA'da benimle sahnede konuşmaWhittaker, şifrelemeye yönelik yasama saldırılarının yeniden canlanmasını “sihirli düşünce” olarak nitelendirdi.
“Genellikle çocukları koruma fikrine endekslenen dar görüşlü ve son derece siyasi motivasyonlu bir dizi mevzuat parçası görüyoruz. Ve bunlar aslında güvenlik hizmetlerinin, hükümet otokratlarının çok eski bir arzusu olan bir şeyi gerçekleştirmek için kullanıldı. Whittaker, “Bu, sistematik olarak güçlü şifrelemeye arka kapı açmaktır” dedi. “Çoğu zaman, yaptıkları şeyin sonuçlarını anlayacak bilgi veya eğitime sahip olmayan iyi niyetli insanlar tarafından itilmenin, özel olarak dijital olarak iletişim kurma yeteneğini temelden ortadan kaldırabileceğine inanıyorum.”
İronik ya da belki de alaycı bir şekilde, canlandırıcı faktörlerden biri, on yıldır teknoloji şirketlerine daha fazla sorumluluk alma yönünde yapılan çağrılardı.
“Gördüğüm genel tema, 2010'ların ortalarında canlandırıldığını gördüğümüz, teknolojide sorumluluk konusunda derin bir arzu. O halde bu silah haline getirildi; ve sanırım sorumluluk şişelerinde gözetim şarabını görüyoruz” dedi.
'Sorumluluk', gözetleme reklamcılığı yöntemlerinin kullanılabileceği devasa platformlar yaratan iş modellerini fiilen kontrol etmek yerine, daha fazla izleme, daha fazla gözetim, daha fazla arka kapı, insanların özgürce ifade edebildiği veya iletişim kurabildiği yerlerin daha fazla ortadan kaldırılması gibi görünüyor. Bilgi operasyonları, ifşa etme veya her ne ise onu kolaylıkla silah haline getirebiliriz, değil mi? Sorunun köküne inme konusunda bir isteksizlik var. Bunun yerine, hesap verebilirlik adına gözetimin hükümet ve STK sektörlerine yaygınlaştırılmasına yönelik etkin öneriler görüyoruz.”
Bu türden özel bir öneri, Birleşik Krallık'taki Soruşturma Yetkileri Yasası aracılığıyla geldi; oradaki hükümet buna göre küresel olarak herhangi bir uygulama güncellemesini engellemekle tehdit ediyor – ulusal güvenliğine yönelik bir tehdit olarak gördüğü.
“[The IPA] Birleşik Krallık'ın, tüm yetki alanlarındaki herhangi bir teknoloji şirketinden, siz bir güvenlik yaması göndermeden önce Birleşik Krallık Hükümeti ile iletişime geçmesini talep etme yetkisine sahip olduğunu etkili bir şekilde iddia ediyor, çünkü bu yamayı bir yerlerde, yapmaya devam etmek istedikleri bazı işler için kullanıyor olabilirler. Burada yine dar görüşlü, büyülü bir düşünce biçimi var” dedi Whittaker.
“Bu çok tehlikeli çünkü 1999'da şifrelemenin serbestleştirilmesinden önceye geri dönme tehdidiyle karşı karşıyayız; bu, hükümetin şifreleme ve dijital mahremiyet hakkı üzerinde tekele sahip olduğu 90'ların başındaki bir paradigmaya benziyor. Ve şifreleme veya gizlilik güncellemelerini veya hizmetinizi güvence altına alacak ve güçlendirecek herhangi bir şeyi dağıtma yeteneğinin, hükümetten izin almanız gereken bir şey haline geldiği yer.
“Ve dürüst olmak gerekirse,” diye ekledi, “VC topluluğuna ve daha büyük teknoloji şirketlerinin bunun sektör için ne kadar büyük bir tehdit olduğunu adlandırma ve geri püskürtme konusunda daha fazla rol almasına ihtiyacımız olduğunu düşünüyorum.”
Signal Başkanı Meredith Whittaker ve Devin Coldewey, StrictlyVC LA'da.
Mantıklı görünebilecek düzenlemelerden biri, AB'de Dijital Piyasalar Yasası aracılığıyla takip edilen mesajlaşma birlikte çalışabilirliği zorunluluğudur. Ancak bunun da gizli tehlikeleri var.
“Bence bu ruh çok anlamlı. Ancak elbette Signal, gizlilik çıtasını önemli ölçüde yükseltmeden başka bir mesajlaşma platformuyla birlikte çalışamaz, hatta uçtan uca şifrelemeyi destekleyen ve protokolü kısmen kullanan WhatsApp gibi platformlar bile. “Çünkü biz Signal protokolünü kullanarak yalnızca mesajların içeriğini şifrelemiyoruz. Meta verileri şifreliyoruz, profil adınızı, profil fotoğrafınızı, kişi listenizde kimlerin olduğunu, kiminle konuştuğunuzu, onlarla konuştuğunuzda şifreliyoruz. Birlikte çalışmaya izin vermeden önce, birlikte çalıştığımız herkesle genel olarak mutabakata varılan gizlilik ve güvenlik düzeyinin bu olması gerekir.”
Rahatlık adına güvenlik ve mahremiyetin sulandırılarak tam tersinin yaşanma riski bulunduğunu açıkladı. “Aslında gizlilik standardını düşürebilir ve bir tür birlikte çalışan monolit oluşturarak, çok fazla bütünlük içeren bir gizlilik standardı talep edenleri daha marjinal bir konuma düşürebilir.” (Bu arada, bu fikirle alay etti Apple geçiş izni alıyor ve böyle bir rejimi umutsuzca parçalanmış halde bırakmak.)
Özel sektörde Whittaker, yükselen Nvidia'yı tekelci olarak adlandırmakta gecikmedi.
Günümüzün yüksek performanslı bilgisayarlarının çoğunun kalbinde yer alan özel hesaplama mimarisine atıfta bulunarak, “Bu çip tekeli ve CUDA tekelidir” dedi.
Şirketin güç birikiminin tehlikeli hale geldiğini düşünüp düşünmediğini sordum.
“Demek istediğim, birbirimize işaret eden bir sürü Örümcek Adam var, değil mi? Şimdi Microsoft'un Nvidia'yı işaret ettiğini görüyorum ve şunu söylüyorum: Tekel konusunda endişeleniyorsanız zavallı Microsoft'a bakmayın, Nvidia'ya bakın, onlar onlar ve siz de Google'a bakın. Google geçen hafta yapay zeka erişim ilkelerine dair bu tür bir halkla ilişkiler bildirisi yayınladı ve Google'ın uygulama mağazasından çiplere kadar dikey olarak entegre olan tek şirket olduğundan bahsettiler. Ve bu doğru, değil mi? Ancak birkaç gün sonra Google, Microsoft'un aslında tekel olduğunu çünkü OpenAI'ye ve bir nevi Azure tekeline sahip olduğunu yayınladı, değil mi?
“Yani burada kimse masum değil. Pek çok şey var, 'Hepimiz bunu yapan adamı bulmaya çalışıyoruz…'” (yani ünlü 'sosisli sandviç adam' meme Tim Robinson'la Ayrılmanız Gerektiğini Düşünüyorum kitabından alınmıştır.)
“Yapay zekanın büyük teknolojiye bağımlı olduğunu kabul etmemiz gerektiğini düşünüyorum. Büyük teknoloji kaynakları gerektirir. Hiçbir şekilde açık değil” dedi. “Dürüst olabiliriz ki, eğer bir eğitim çalışması için 100 milyon dolara ihtiyacınız varsa, bu açık bir kaynak değildir, değil mi? Bir ay boyunca geniş ölçekte dağıtım için 100 milyon dolara ihtiyacınız varsa bu açık değil, değil mi? Dolayısıyla bu terimleri nasıl kullandığımız konusunda dürüst olmamız gerekiyor. Ancak haftanın suçlusu olarak Nvidia'ya yönelmenin, bu yoğun yoğunlaşmış güçle karşı karşıya olduğumuz durumu gölgelemesini istemiyorum.”
Röportajın tamamını aşağıdan izleyebilirsiniz.
Kaynak bağlantısı