OpenAI başlattığını söylüyor programı yapay zeka sistemlerinin hangi kurallara uyması gerektiğine karar vermek için demokratik bir süreç oluşturmaya yönelik deneyleri finanse etmek için on $ 100.000 hibe vermek – “yasa tarafından tanımlanan sınırlar dahilinde.”
Hibe programının lansmanı, OpenAI’nin yapay zeka için nükleer enerjiyi yönetene benzer bir uluslararası düzenleyici kuruluş çağrısının ardından geldi. OpenAI’nin kurucu ortakları Sam Altman, Greg Brockman ve Ilya Sutskever, böyle bir kuruluş için teklifinde, yapay zekadaki inovasyon hızının o kadar hızlı olduğunu ve mevcut yetkililerin teknolojiyi yeterince dizginlemesini bekleyemeyeceğimizi savundu – bugünün duyurusu bir duygu da yakalar.
OpenAI, somut olarak, yapay zeka için korkuluklarla ilgili soruları yanıtlayabilecek “demokratik bir süreç” için kavram kanıtları geliştirmek üzere bireylere, ekiplere ve kuruluşlara fon sağlamaya çalıştığını söylüyor. Şirket, bu deneylerden ders almak ve bunları ileriye dönük daha küresel ve daha iddialı bir süreç için temel olarak kullanmak istediğini söylüyor.
Şirket bir blogda “Bu ilk deneylerin (en azından şimdilik) kararlar için bağlayıcı olması amaçlanmasa da, kararla ilgili soruları keşfetmelerini ve gelecekte kararları daha doğrudan bilgilendirebilecek yeni demokratik araçlar geliştirmelerini umuyoruz” diye yazdı. yazı bugün yayınlandı. “Bu hibe, süper zekayı denetlemek için demokratik süreçler oluşturmaya yönelik bir adımı temsil ediyor.”
OpenAI’nin kar amacı gütmeyen kuruluşu tarafından sağlanan bağışlarla OpenAI, Platonik demokrasi idealini yansıtan bir süreç oluşturmayı umuyor: fikir alışverişinde bulunan, “kasıtlı” tartışmalara katılan ve nihayetinde bir sonuca şeffaf bir şekilde karar veren “geniş ölçüde temsili” bir grup insan. karar verme süreci. OpenAI, ideal olarak, sürecin “Yapay zeka sistemleri, bu rakamlarla ilgili gruplar arasında farklı görüşler göz önüne alındığında, tanınmış kişileri hangi koşullar altında kınamalı veya eleştirmeli?” gibi soruların yanıtlanmasına yardımcı olacağını söylüyor. ve “İhtilaflı görüşler AI çıktılarında nasıl temsil edilmelidir?”
OpenAI, “Bu hibenin birincil amacı, süreçlerde yeniliği teşvik etmektir – AI davranışını yönetmek için gelişmiş demokratik yöntemlere ihtiyacımız var” diye yazıyor. “Yapay zekanın nasıl davrandığına ilişkin kararların, kamu yararını yansıtan farklı bakış açılarıyla şekillendirilmesi gerektiğine inanıyoruz.”
Duyuru gönderisinde OpenAI, hibe programının ticari çıkarlarından tamamen bağımsız olduğunu ima ediyor. Ancak Altman’ın AB’de önerilen AI düzenlemesine yönelik son eleştirileri göz önüne alındığında, bu yutması biraz zor bir hap. Altman’ın ardından zamanlama da dikkat çekici görünüyor. dış görünüş Geçen hafta ABD Senatosu Kongre Komitesi önünde, bugün var olan OpenAI teknolojisi üzerinde minimum etkiye sahip olacak çok özel bir yapay zeka düzenlemesini savundu.
Yine de, program sonunda kendi kendine hizmet edecek hale gelse bile, yapay zeka politikası oluşturmak için ilginç bir yön (her ne kadar bazı bariz yönlerden AB’nin çabalarını tekrarlıyor olsa da). Birincisi, “demokratik süreçler” için ne tür fikirlerin ortaya çıktığını ve OpenAI’nin sonunda hangi başvuru sahiplerini seçtiğini merak ediyorum.
Millet, bugün başlayan OpenAI hibe programına başvurabilir – son tarih 24 Haziran 21:00 PDT. Başvuru süresi sona erdiğinde, OpenAI on başarılı alıcı seçecektir. Alıcılar, en az 500 katılımcıyı içeren bir konsepti sergilemek, bulguları hakkında bir kamu raporunu 20 Ekim’e kadar yayınlamak ve çalışmalarının arkasındaki kodu açık kaynak olarak yayınlamak zorunda kalacak.