Gibi araçlar tarafından metnin ne zaman oluşturulduğunu algılama SohbetGPT zor bir iştir. Popüler yapay zekaGPTZero gibi tespit araçları, kullanıcılara bir şeyin bir insan tarafından değil de bir bot tarafından yazıldığını söyleyerek rehberlik sağlayabilir, ancak özel yazılımlar bile kusursuz değildir ve yanlış pozitif sonuçlar verebilir.
Bir yıldan fazla bir süre önce yapay zeka tespiti üzerine çalışmaya başlayan bir gazeteci olarak, sizin gibi okuyucuların bu karmaşık konuyu daha iyi anlamalarına yardımcı olmak için WIRED'in konuyla ilgili en iyi makalelerinden bazılarını derlemek istedim.
ChatGPT ve diğerlerinden gelen çıktıları tespit etme hakkında daha fazla sorunuz var sohbet robotu araçları? Benim için kaydol AI Kilitsiz bültenive yanıtlanmasını istediğiniz veya WIRED'in daha fazlasını keşfetmesini istediğiniz yapay zeka ile ilgili herhangi bir konuda doğrudan bana ulaşın.
Şubat 2023, Reece Rogers
ChatGPT'nin piyasaya sürülmesinden yaklaşık iki ay sonra yazılan bu makalede, AI metin algılamanın karmaşıklığıyla ve aynı zamanda ChatGPT'nin ne anlama geldiğiyle uğraşmaya başladım. Yapay zeka devrimi çevrimiçi yayın yapan yazarlar için anlamına gelebilir. Edward Tian, arkasındaki kurucu GPTZerobenimle AI dedektörünün metin farklılığı ve rastgelelik gibi faktörlere nasıl odaklandığını anlattı.
Okurken, metin filigranı ile ilgili bölüme odaklanın: “Bir filigran, belirli kelime kalıplarının AI metin oluşturucu için yasak olduğunu belirleyebilir.” Umut verici bir fikir olsa da, konuştuğum araştırmacılar bunun potansiyel etkinliği konusunda zaten şüpheciydi.
Eylül 2023, Christopher Beam
WIRED'in geçen yılki Ekim sayısından harika bir parça olan bu makale, GPTZero'nun erişim ve tespit yeteneklerini genişletmek için çalışan Edward Tian'ın zihniyetine içeriden bir bakış sunuyor. Nasıl olduğuna odaklanmak Yapay zeka okul çalışmalarını etkiledi çok önemlidir.
Yapay zeka metin tespiti, ödevlere not veren ve muhtemelen öğrencilerin ev ödevlerini tamamlamak için chatbot'ları gizlice kullanması nedeniyle ödevlerden tamamen vazgeçen birçok sınıf eğitimcisinin ilk aklına gelen şeydir. Bazı öğrenciler üretken yapay zekayı bir beyin fırtınası aracı olarak kullanırken, diğerleri onu bir beyin fırtınası aracı olarak kullanıyor. tüm ödevleri uydurmak.
Eylül 2023, Kate Knibbs
Şirketlerin yapay zeka tarafından üretilebilecek ürünleri işaretleme sorumluluğu var mı? Kate Knibbs, potansiyel olarak telif hakkını ihlal eden yapay zeka tarafından oluşturulan kitapların nasıl satışa sunulduğunu araştırdı AmazonHer ne kadar bazı startuplar, ürünlerin özel bir yazılımla tespit edilip kaldırılabileceğine inanıyordu. Yapay zeka tespitiyle ilgili temel tartışmalardan biri, hatalı pozitif sonuç potansiyelinin (yanlışlıkla yapay zekanın işi olarak işaretlenen insanlar tarafından yazılmış metinler) algoritmik olarak oluşturulmuş içeriği etiketlemenin yararlarından daha ağır basıp basmadığına dayanıyor.
Ağustos 2023, Amanda Hoover
Sadece ev ödevlerinin ötesine geçerek, yapay zeka tarafından oluşturulan metinler akademik dergilerde daha fazla yer alıyor ve bu dergilerde genellikle izinsiz olarak yasaklanıyor. doğru açıklama. Amanda Hoover, “Yapay zeka tarafından yazılan makaleler aynı zamanda bilimsel literatür havuzunu sulandırarak dikkatleri iyi çalışmalardan uzaklaştırabilir” diye yazıyor. Bu sorunu çözmeye yönelik potansiyel bir strateji, geliştiricilerin hakemli makalelerde AI içeriğini arayan özel tespit araçları oluşturmasıdır.
Ekim 2023, Kate Knibbs
Geçtiğimiz Şubat ayında araştırmacılarla yapay zeka metin tespiti için filigranlar hakkında ilk konuştuğumda, umutluydular ancak yapay zeka metnini, insan okuyucular tarafından algılanamayan ancak algılama yazılımı tarafından açıkça görülebilen belirli dil kalıplarıyla basma potansiyeli konusunda ihtiyatlıydılar. Geriye dönüp baktığımızda, onların korkuları yerinde görünüyor.
Sadece altı ay sonra Kate Knibbs, yapay zeka filigranlarını parçalayan ve tespit stratejisi olarak temel zayıflıklarını ortaya koyan birden fazla kaynakla konuştu. Başarısız olacağı garanti edilmese de, yapay zeka metninin filigranlanması zor olmaya devam ediyor.
Nisan 2024, Amanda Hoover
Öğretmenlerin yapay zeka tarafından oluşturulan sınıf çalışmalarını tespit etmek için kullanmaya çalıştığı araçlardan biri de TurnitinAI tespit yetenekleri ekleyen bir intihal tespit yazılımı. (Turnitin, WIRED'i yayınlayan Condé Nast'ın ana şirketi Advance'e aittir.) Amanda Hoover şöyle yazıyor: “Chechitelli, hizmet müşterilerinin çoğunluğunun yapay zeka tespitini satın almayı tercih ettiğini söylüyor. Ancak İngilizce öğrenenlere yönelik yanlış pozitiflik ve önyargı riskleri, bazı üniversitelerin şimdilik bu araçları terk etmesine yol açtı.”
Yapay zeka dedektörlerinin yazılı içeriği hatalı bir şekilde etiketleme olasılığı daha yüksektir. ana dili İngilizce olmayan biri anadili İngilizce olan birinden daha yapay zeka olarak. Geliştiriciler yapay zeka algılama algoritmalarını iyileştirmeye devam ettikçe hatalı sonuçlar sorunu aşılması gereken temel bir engel olmaya devam ediyor.
Kaynak bağlantısı