Gibi Google yükseltilmiş üretkenliğini konumlandırıyor yapay zeka Öğretmen, asistan ve tavsiye gurusu olarak şirket aynı zamanda modellerini kötü aktörün en büyük düşmanına dönüştürmeye çalışıyor.
Google'ın araştırma, teknoloji ve toplumdan sorumlu kıdemli başkan yardımcısı James Manyika, şirketin Google I/O 2024 konferansında kalabalığa “Yapay zekanın halihazırda insanlara yardım ettiği açık” dedi. “Ancak, ortaya çıkan her teknolojide olduğu gibi hâlâ riskler mevcut ve yapay zeka ilerledikçe ve kullanımları geliştikçe yeni sorular ortaya çıkacak.”
Manyika daha sonra şirketin bir endüstri standardı olan kırmızı takım oluşturmanın en son gelişimini duyurdu test süreci Üretken yapay zekadaki güvenlik açıklarını bulmak için. Google'ın yeni “Yapay zeka destekli kırmızı ekip çalışması”, birden fazla yapay zeka aracısını potansiyel tehditleri bulmak için birbirleriyle rekabet edecek şekilde eğitiyor. Bu eğitilmiş modeller daha sonra Google'ın “karşıt yönlendirme” olarak adlandırdığı şeyin yerini daha doğru bir şekilde belirleyebilir ve sorunlu çıktıları sınırlandırabilir.
Mashlanabilir Işık Hızı
Gemini Nano sizin için dolandırıcılık çağrılarını tespit edebilir
Google I/O: Yeni Gemini Uygulaması, tüm AI asistanlarının en üstünde yer alan AI asistanı olmak istiyor
Süreç, şirketin daha sorumlu, insana benzer bir yapay zeka oluşturmaya yönelik yeni planıdır, ancak aynı zamanda siber güvenlik ve yanlış bilgilendirmeyle ilgili artan endişeleri gidermenin bir yolu olarak da satılmaktadır.
Google, yeni güvenlik önlemlerinin teknoloji, akademi ve sivil toplum uzmanlarından oluşan bir ekibin geri bildirimlerinin yanı sıra yapay zeka geliştirmenin yedi ilkesini de içerdiğini açıkladı: Sosyal açıdan faydalı olmak, önyargıdan kaçınmak, güvenlik için inşa etmek ve test etmek, insanların hesap verebilirliği, gizlilik tasarım, bilimsel mükemmelliğin desteklenmesi ve kamunun erişilebilirliği. Bu yeni test çabaları ve sektör çapındaki taahhütler sayesinde Google, ürünü sözlerinin yerine koymaya çalışıyor.
Kaynak bağlantısı