Görünüşe göre, OpenAI’nin, aracın kötü amaçlarla kullanılmasını önlemek için ChatGPT’ye koyduğu ilk kısıtlamalar pek işe yaramadı, çünkü dolandırıcılar çabucak bir yol buldu.
Bu, Check Point Research’ün (CPR) yeni bir raporuna göre, kısıtlamalar getirildikten sonra bile dolandırıcıların 2019’dan kalma temel bir bilgi hırsızı kötü amaçlı yazılımının kodunu geliştirmek için AI yazıcıyı kullanmayı başardıklarını iddia ediyor.
ChatGPT, OpenAI tarafından oluşturulmuş, konuşma stili ve yaratıcılık becerileriyle epeyce kaşlarını kaldıran bir sohbet robotudur. Microsoft, Edge web tarayıcısı ve arama motoru Bing’de zaten uyguluyor ve insanların interneti kullanma biçiminde bir devrim vaat ediyor.
Aracı kullanmanın iki yolu vardır: web kullanıcı arabirimi (ChatGPT, DALLE-2 veya openAI oyun alanına basit erişim) veya uygulama, süreç ve uygulama oluşturmak için kullanılan Uygulama Programlama Arabirimleri (API) aracılığıyla. gibi. API ile geliştiriciler, OpenAI modelleri ve arka planda çalışan verilerle kendi arayüzlerini kullanabilirler.
OpenAI, web arayüzü kullanıcıları için katı kısıtlamalar getirirken (örneğin, artık araçtan yazmasını isteyemezsiniz) (yeni sekmede açılır) Araştırmacılar, bir bankayı veya bir finans kurumunu taklit eden bir kimlik avı e-postası), API yaklaşımı için kısıtlamaların mevcut olmadığını söylüyor.
“OpenAI’nin API’sinin mevcut sürümü, harici uygulamalar tarafından kullanılıyor (örneğin, OpenAI’nin GPT-3 modelinin Telegram kanallarına entegrasyonu) ve varsa çok az kötüye kullanım önleme önlemi var. Sonuç olarak, ChatGPT’nin kullanıcı arayüzüne koyduğu sınırlamalar veya engeller olmaksızın kimlik avı e-postaları ve kötü amaçlı yazılım kodu gibi kötü amaçlı içerik oluşturulmasına izin veriyor.”
Daha da kötüsü, bu pek de CPR’nin fikri değil. Araştırmacılar bunun yerine, yeraltı forumlarında bu konuyla ilgili “aktif bir gevezelik” olduğunu söylüyorlar, bu da giderek artan sayıda siber suçlunun ChatGPT’nin kısıtlamalarına yönelik geçici çözümün zaten farkında olduğu anlamına geliyor.
işletim-sistemi-1