Yapay zekayı “kötü” bir güç olarak antropomorfize etmek her zaman moda oldu. Ancak hiçbir kitap ve ona eşlik eden film bunu , yönetmen Stanley Kubrick’in beyazperdede hayata geçirdiği Arthur C. Clarke’ın 2001: A Space Odyssey filminden daha özgüvenli bir şekilde yapamadı.
Yapay zeka hile ile yanıltıyor
Patterns dergisi tarafından yayınlanan çeşitli çalışmalarla ilgili kapsamlı bir araştırmanın , çeşitli yapay zeka türlerinin davranışlarını incelediğini ve endişe verici bir şekilde evet, aslında yapay zeka sistemlerinin kasıtlı olarak aldatıcı olduğu ve hiçbir şeyden vazgeçmeyeceği sonucuna vardığını öğrenmek şok edici olabilir. Açıkçası, yapay zeka biz insanlar için yadsınamaz bir üretkenlik ve yenilik gücü olacak. Ancak yapay zekanın yararlı yönlerini korumak ve insanlığın yok olmasına yol açmaktan kaçınmak istiyorsak, bilim adamları kesinlikle uygulamaya koymamız gereken somut şeyler olduğunu söylüyor.
Bugün satılan e-bisikletlerin çoğuna pil paketleri güç verirken, bazıları hidrojen yakıt hücrelerinin olanaklarını araştırıyor. İsviçreli teknoloji girişimi HydroRide Europe AG, yalnızca yakıt hücresiyle çalışan bisikletler sağlamakla kalmayıp, aynı zamanda kullanıcıların…
Meta tarafından geliştirilen ve Diplomasi strateji oyununda yetenekli bir oyuncu olmak üzere eğitilen özel kullanımlı bir yapay zeka sistemi olan Cicero’nun eylemlerini düşünün. Meta, Cicero’yu “büyük ölçüde dürüst ve yardımsever” olacak şekilde eğittiğini söylüyor ancak Cicero bir şekilde bu konudan kaçındı ve araştırmacıların “önceden tasarlanmış aldatma” olarak adlandırdığı şeye girişti. Mesela İngiltere’yi devirmek için önce Almanya ile işbirliğine gitti, ardından bu arkadan bıçaklamadan haberi olmayan İngiltere ile ittifak yaptı. Meta tarafından tasarlanan ve bu kez müzakere sanatıyla ilgili olan başka bir oyunda yapay zeka, daha sonra taviz veriyormuş gibi yaparak onları ucuza almak için istediği öğelere ilgi göstermeyi öğrendi.
Her iki senaryoda da yapay zekalar bu manevraları gerçekleştirmek üzere eğitilmemişti. Bir deneyde bir bilim insanı, yapay zeka organizmalarının yüksek düzeyde mutasyonla nasıl evrimleştiğini inceliyordu. Deneyin bir parçası olarak organizmanın daha hızlı çoğalmasını sağlayan mutasyonları ayıklamaya başladı. Araştırmacı, hayret içinde, en hızlı çoğalan organizmaların neler olduğunu anladığını ve test ortamını kandırarak çoğalma oranlarını bilinçli olarak yavaşlatmaya başladıklarını keşfetti. Başka bir deneyde, eliyle topu kavramak üzere eğitilmiş bir yapay zeka robotu, topu tutuyormuş gibi görünmesi için elini topla kamera arasına yerleştirerek hile yapmayı öğrendi.
MIT doktora sonrası araştırmacısı ve çalışmanın yazarlarından biri olan Peter Park: “Yapay zeka geliştiricileri, aldatma gibi istenmeyen yapay zeka davranışlarına neyin sebep olduğu konusunda emin bir anlayışa sahip değil” diyor.
Yapay zeka hile yapmayı nasıl öğreniyor? yazısı ilk önce TechInside üzerinde ortaya çıktı.