Yakın zamanda keşfedilen WormGPT adlı bir AI aracı darkweb üzerinden siber suçlulara satılıyor. Üreticisi WomGPT’yi “ChatGPT ‘nin en büyük düşmanı” olarak nitelendiriyor.
OpenAI’nin ChatGPT veya Google Bard gibi meşru hizmetlerin etik sınırları veya kodlanmış sınırlamaları olmadan çalışan ve WormGPT adı verilen bir AI aracının şu anda karanlık web’deki siber suçlulara satıldığı ortaya çıktı.
Aracın varlığı ve satışta olduğu, SlashNext‘teki e-posta güvenliği uzmanı araştırmacılar tarafından ortaya çıkarıldı.
WormGPT, oldukça ikna edici, aynı zamanda stratejik ve sofistike kimlik avı ve BEC saldırıları potansiyeli olan e-postalar üretebiliyor.
Araştırmacı Daniel Kelley, üretici AI teknolojilerinin acemilerin elinde bile yarattığı tehdidin önemini vurguluyor.
WormGPT, özellikle kötü amaçlı kullanım için geliştirilmiş gibi görünmekte ve iki yıl önce yayınlanan GPTJ büyük dil modeline (LLM) dayanıyor. Ayrıca, kötü amaçlı yazılımlarla ilgili veri kümeleri üzerinde özel olarak eğitilmiş gibi görünüyor.
Kelley ve SlashNext ekibine göre, sınırsız karakter desteği, bellek tutma ve kod biçimlendirme yeteneği gibi özellikler içeriyor.
SlashNext tarafından paylaşılan forum ekran görüntülerinde, yaratıcısı WormGPT’yi “ChatGPT’nin en büyük düşmanı” olarak nitelendiriyor ve projelerinin “her türlü yasadışı şeyi yapmanızı ve gelecekte kolayca satmanızı sağladığını ekliyor.
“Bilgisayar korsanlığı ile ilgili aklınıza gelebilecek her şey WormGPT ile yapılabilir ve herkesin evlerinin rahatlığında zararlı faaliyetlerde bulunmasını sağlar.”
Bildiğiniz gibi üretici AI araçlarının potansiyel olarak kötü niyetli kullanılabileceği özellikle de ikna edici metinler ve videolar üretimi konusundaki yetenekleri hakkındaki dedikodular dönmesine rağmen ortaya bir ürün çıkmamıştı.
Siber güvenlik uzmanları ne diyor?
WormGPT aracının geliştirilmesi ile yeni bir döneme girmiş bulunuyoruz. ESET siber güvenlik danışmanı Jake Moore konu hakkında şunları söylüyor: “ChatGPT’ye rakip bir platformun yakında teknolojiyi yasadışı kazanç için kullanmaktan faydalanması kaçınılmazdı.” Bu, kimlik avın saldırılarını yeni bir düzeye taşıyor”
Kimlik avı için üretilmiş bazı araçlar uzun yıllardır var ve kimlik avı e-postalarının toplu olarak gönderilmesini sağlıyorlar ancak zayıf dilbilgisi ve yazım hataları çoğu zaman bu epostaları ele veriyordu. “WormGPT, arkasında bir LLM’nin gücüne sahip ve e-postaların hatasız gönderilmesini sağlayabiliyor. Üretilen e-postalar oldukça gerçekçi olacak ve siber suçluların kullanıcıları e-postalardaki bağlantılara tıklamaya veya kötü amaçlı yazılım indirmeye teşvik etmesine yardımcı olan giderek daha ilgi çekici konular ortaya atmasını sağlayacak.
“Son zamanlarda, LLM’ler, insanların şifrelerini veya diğer kişisel bilgilerini çaldırmalarına yol açabilecek sahte açılış sayfalarını otomatik olarak oluşturmak için de kullanılmıştı. WormGPT hala modern bir ara yüze ve iş e-postası saldırıları için gerekli birçok özelliğe sahip değil, ancak bu tür bilgisayar korsanlığı araçları genellikle çok kısa sürede gelişir. Bilgisayar korsanlığını kolaylaştıran tüm araçlar hepimiz için endişe vericidir.”
Güvenlik savunucuları WormGPT ve benzerleri hakkında ne yapabilir?
WormGPT zaten yayılmış durumda. Siber güvenlik uzmanları kısa sürede birkaç basit adımla ortaya çıkan tehlikenin önüne geçebilirler. Örneğin kimlik avı eğitimlerinin sayısını arttırmak bunlardan en basiti.
ESET Siber Güvenlik Danışmanı Jack Moore, “AI güçlü araçlar yaratılmasını sağlıyor, ancak bir bütün olarak teknolojinin üzerinde karanlık bir bulut oluşturan bir sonraki aşamaya geçiyoruz” dedi.
“Farkındalık her zamankinden daha zor hale geliyor, ayrıca riski azaltmak için en basit görevler için bile daha fazla güvenlik katmanı gerekiyor. Her ne kadar dijital güvenlik çözümleri bu güvenlik katmanlarını sağlasa da son kullanıcıların da kendilerini korumak için sorumluluk almaları önemli”
İçerideki tehlike: İç tehditlerle mücadele etmenin 5 adımı
