Üretken yapay zeka konusunda uzmanlaşmış start-up OpenAI, 15 Ağustos’ta İnternet’teki içeriği denetlemek için GPT-4’ü test etme isteğini duyurdu. Model olduğunu düşünüyor …
Üretken yapay zeka konusunda uzmanlaşmış start-up OpenAI, 15 Ağustos’ta İnternet’teki içeriği denetlemek için GPT-4’ü test etme isteğini duyurdu. Dil modelinin insan moderatörlerin yerini alacak tüm niteliklere sahipken, onlar kadar kesin ve hatta daha tutarlıdır “.
OpenAI, içerik denetleme konusunda kendisine meydan okuyor
OpenAI için, “ GPT-4 kullanan bir içerik moderasyon sistemi, döngünün aydan saate küçülmesiyle daha hızlı moderasyon politikası ayarlamaları sağlar “. Alet bunu yapabilecektir, çünkü ” uzun içerik politikası belgelerinin kurallarını ve nüanslarını yorumlayın ve politika güncellemelerine anında uyum sağlayın, böylece daha tutarlı etiketleme elde edin “.
Blog gönderisinde, Sam Altman liderliğindeki şirket, GPT-4’ün genellikle içerik denetimi için kullanılan yöntemlere göre üç büyük avantajını vurguladı. Birincisi, yargılamanın nesnelliği ve çevrimiçi platformlar tarafından uygulamaya konulan politikaların yorumlanmasıyla ilgilidir. OpenAI, büyük dil modellerinin benzer durumları aynı şekilde yargılayacağını, bir insanın iki benzer durum için iki farklı karar verebileceğini iddia ediyor.
Şirket tarafından ortaya atılan ikinci argüman, tam olarak bu kullanım politikalarının oluşturulması ve değiştirilmesi ile ilgilidir. GPT-4’ün saatler içinde yeni bir politika geliştirebileceğini iddia ederken, bu süreç genellikle haftalar hatta aylar sürer. Son olarak, son avantaj, yapay zekanın devreye girmesiyle artık sürekli olarak ayrımcı veya hassas içeriklere maruz kalmayacak olan insan moderatörlerin refahıyla ilgilidir.
GPT-4, insan moderatörlerin yerini alacak mı?
Ancak OpenAI, dil modelinin sınırlamaları konusunda uyarıyor, ” Dil modellerine göre yargılar, eğitim sırasında modele dahil edilmiş olabilecek istenmeyen önyargılara karşı savunmasızdır.. Herhangi bir AI uygulamasında olduğu gibi, sonuçların ve çıktıların dikkatli bir şekilde izlenmesi, doğrulanması ve insanları bilgilendirerek rafine edilmesi gerekecektir. “. Bu nedenle GPT-4, içerik denetimini otomatikleştirmek için bir araç olacaktır, ancak ilerleme yolları bir insan tarafından dikkatlice doğrulanmalıdır.
API’sine erişimi olan tüm OpenAI müşterileri, çevrimiçi içeriği denetlemek için GPT-4’ü kullanma olanağına sahiptir. Bazıları çoktan başladı ve aracı birkaç haftadır kullanıyor. Şu anda birçok platform, kararları otomatikleştirmek için AI algoritmalarını kullanıyor. Ayrıca, duruma göre yönetim gerektiren çekişmeli veya aşırı içerikle başa çıkmak için insan ekiplerine güveniyorlar.