F­T­C­,­ ­C­h­a­t­G­P­T­’­n­i­n­ ­H­a­l­ü­s­i­n­a­s­y­o­n­ ­S­o­r­u­n­u­n­u­ ­A­r­a­ş­t­ı­r­ı­y­o­r­

Netflix Parolaları, ChatGPT Yapay Zekayı Algılayamıyor ve Artık CoTweet Yok | Editörün Seçtikleri

FTC OpenAI’den 1 Haziran’a kadar uzanan uzun bir belge listesi vermesini istedi, 2020, yapay zeka sistemlerindeki riskleri nasıl değerlendirdiği ve gerçek kişiler hakkında yanlış beyanda bulunan yapay zekaya karşı nasıl koruma sağladığına ilişkin ayrıntılar da dahil olmak üzere, göre bir 20 sayfalık mektup Washington Post tarafından elde edildi. Müfettişler, OpenAI’nin büyük dil modellerini eğitme şekli hakkında, üzerinde eğitildiği kesin veri türleri, bu verileri nasıl elde ettiği ve bu verilerin açık web’i kazıyarak ne ölçüde toplandığı dahil olmak üzere geniş kapsamlı bilgiler istiyor. Şirketin ismine rağmen OpenAI, modellerini eğitmek için kullanılan verilerin kesin kökenleri hakkında ağzı sıkı.

Benzer şekilde, FTC mektubu, OpenAI’nin, insanlar hakkında “yanlış, yanıltıcı, aşağılayıcı veya zararlı” ifadeler içeren, sisteminin bu noktasına aldığı şikayetlerin bir açıklamasını vermesini talep ediyor. Araştırmacılar ve gazeteciler, ChatGPT ve diğer LLM’lerin deneklere karşı uydurma bilgiler “halüsinasyon” gördüğüne dair örnekleri defalarca gösterdiler. bir örnek ilk olarak Gizmodo tarafından bildirildi, ChatGPT’nin hiçbir ilgisi olmayan bir zimmete para geçirme davasına bir talk-show sunucusunu soktuğu iddia ediliyor. Bu radyo sunucusu şimdi OpenAI’yi iftira nedeniyle dava ediyor. FTC, OpenAI’nin veri kümesindeki kişisel bilgileri filtrelemek veya anonimleştirmek için attığı adımları ve modellerinin insanlar hakkında uydurma ifadeler uydurma olasılığını azaltmak için attığı adımları bilmek istediğini söylüyor.

FTC ayrıca OpenAI’nin ürünlerini halka sunmadan önce güvenlik ve riski değerlendirme politikaları ve prosedürleri hakkında daha fazla bilgi edinmek istiyor. Ajans, sistemlerinin piyasaya sürülmesinden önce atılan adımları detaylandıran belgelere ek olarak, OpenAI’yi şirketin tercih ettiği zamanlardan örnekler vermeye çağırdı. Olumsuz güvenlik endişeleri üzerine bir LLM başlatmak için. FTC mektubundaki taleplerin çoğu doğası gereği geniş olsa da, ajans özellikle bir Mart güvenlik olayı sistemindeki bir hatanın, bazı kullanıcıların diğer kişilerin sohbet günlüklerini ve ödemeyle ilgili bilgilerini görüntülemesine izin verdiği yer. OpenAI, bu sorunu çözmek için ChatGPT’yi kısa süreliğine çevrimdışı duruma getirmek zorunda kaldı.

OpenAI ve FTC, Gizmodo’nun yorum talebine hemen yanıt vermedi.

Tech Oversight Project gibi OpenAI modellerinin hızlı bir şekilde kullanıma sunulmasıyla ilgilenen teknoloji izleme grupları, FTC’nin artan eylemini memnuniyetle karşıladı. Gözetim Projesi Genel Müdür Yardımcısı Kyle Morse, Gizmodo’ya gönderdiği bir açıklamada, OpenAI’nin yeni ürünleri halka aceleyle sunma geçmişini “umursamaz ve sorumsuzca” olarak nitelendirdi.

Morse, “Büyük Teknoloji canavarları, şu anda agresif bir şekilde rekabeti keserken, insanların mahremiyetini kötüye kullanırken ve dolandırıcılığın yaygınlaşmasına izin verirken, kıyameti andıran bir gelecek resmederek Kongre ve Amerikan halkıyla yapay zeka konusunda topu saklıyor” dedi.

FTC, Sam Altman’ın cazibe saldırısına bir engel teşkil edebilir

FTC’nin soruşturması, ABD’de OpenAI için bugüne kadarki en büyük düzenleyici test olabilir. Bu noktaya kadar, CEO Altman, siyasi yelpazenin her iki tarafından milletvekilleri tarafından papağan gibi tekrarlanan AI ile ilgili haklı ve bazen sansasyonel korkuların çoğunun önüne geçmeyi başardı. Altman Senato Yargı alt komitesi önünde ifade verdi bu yılın başlarında ve çoğunlukla başını salladı ve sistemiyle ilgili endişelerini ifade eden milletvekilleriyle aynı fikirde. CEO kendisinin de endişelendiğini ve yeni düzenlemeler fikrini memnuniyetle karşıladığını, hatta geliştiriciler için yeni yapay zeka testi ve lisanslama gereksinimlerinin belirlenmesini savunacak kadar ileri gittiğini söyledi. Altman, bir senatörün bu standartları denetleyen yeni bir temsilciye liderlik etme talebini kibarca reddetti.

Altman, “Mevcut işimi seviyorum,” dedi.

Altman’ın düzinelerce milletvekili üzerinde kalıcı bir izlenim bıraktığı bildirildi. kapalı kapılar ardında yapılan toplantılar ve birkaç katılımcı arasında yer aldı Başkan Yardımcısı Kamala Harris ile Beyaz Saray’da bir araya geldi. sorumlu yapay zekayı tartışmak için. Kongre dışında, Altman’ın imzalı mektup uyarısı kontrol edilmeyen AI’nın insanlığı tehdit edebileceği yolların sayısı.

Milletvekillerinin AI’da hüküm sürmesi amaçlanan bir dizi yeni yasa tasarısı hazırlamayı düşündüğü gibi, tüm bu sosyal yardım çabaları Altman ve OpenAI’yi sorumlu aktörler olarak resmetti. Öte yandan FTC, Altman’ın karakter saldırısına daha az açık görünüyordu. Son aylarda, ajans birden fazla blog yazısı yayınladı. uyarı şirketleri AI sistemlerinin yeteneklerini aşırı hevesli bir şekilde abartmaya karşı ve tüketicileri uyarmak dolandırıcılık yapmak için AI kullanan dolandırıcıların sayısı. FTC başkanı Lina Khan da lafı dolandırmadı ve hatta New York Times’ta kaba bir başlıkla bir köşe yazısı bile yayınladı: “AI’yı Şimdi Düzenlemeliyiz”

Khan, “Bu araçlar yeni olmasına rağmen, mevcut kurallardan muaf değiller ve FTC, bu yeni pazarda bile yönetmekle yükümlü olduğumuz yasaları şiddetle uygulayacak” diye yazdı.