WormGPT, Jailbreak'li Grok ve Mixtral Modellerini Kullanarak Geri Dönüyor

2023'te kapatılacağı bildirilmesine rağmen, yasa dışı eylemler için bir tür sansürsüz yapay zeka (AI) aracı olan WormGPT geri dönüyor. Cato Networks'teki tehdit istihbarat ekibi Cato CTRL'nin yeni araştırması, WormGPT'nin artık xAI'nin Grok ve Mistral AI'nin Mixtral'i de dahil olmak üzere iyi bilinen AI şirketlerinin güçlü büyük dil modellerini (LLM'ler) kullandığını ortaya koyuyor.

Bu, siber suçluların bu gelişmiş LLM'lerin (OpenAI'nin ChatGPT'si gibi insan benzeri metin üreten AI sistemleri) yerleşik güvenlik özelliklerini atlatmak için jailbreak tekniklerini kullandıkları anlamına geliyor. Araştırmacılar, Hackread.com ile paylaşılan blog yazılarında , suçluların bunları jailbreak yaparak AI'nın "etik olmayan veya yasadışı" olsalar bile "geniş bir konu yelpazesine sansürsüz yanıtlar" üretmesini zorladığını belirtti.

WormGPT ilk olarak Mart 2023'te Hack Forums adlı yeraltı bir çevrimiçi forumda ortaya çıktı ve Hackread.com'un bildirdiğine göre, genel sürümü 2023'ün ortalarında yayınlandı. Last takma adıyla bilinen yaratıcının, Şubat 2023'te aracı geliştirmeye başladığı bildirildi.

WormGPT başlangıçta 2021 yılında geliştirilen açık kaynaklı bir LLM olan GPT-J'ye dayanıyordu. Genellikle ayda 60 ila 100 € veya yıllık 550 € arasında bir abonelik ücretiyle sunuluyordu ve özel bir kurulumun maliyeti yaklaşık 5.000 € idi.

Ancak araştırmacı gazeteci Brian Krebs'in Last'in arkasındaki kişinin Rafael Morais olduğunu belirten bir haber yayınlamasının ardından orijinal WormGPT, 8 Ağustos 2023'te kapatıldı ve bu durum medyada geniş yer buldu.

Buna rağmen WormGPT artık bu tür araçların yeni bir grubu için tanınan bir marka haline geldi. Cato Networks'ten güvenlik araştırmacısı Vitaly Simonovich, "WormGPT artık sansürsüz LLM'lerin yeni bir sınıfı için tanınan bir marka olarak hizmet veriyor." dedi.

Bu yeni sürümlerin tamamen yeni yaratımlar olmadığını, ancak suçluların mevcut LLM'leri akıllıca değiştirerek inşa edildiğini ekledi. Bunu, sistem istemleri adı verilen gizli talimatları değiştirerek ve muhtemelen yapay zekayı yasadışı verilerle eğiterek yapıyorlar.

Cato CTRL'nin araştırması, BreachForums gibi diğer siber suç forumlarında reklamı yapılan daha önce bildirilmemiş WormGPT varyantlarını buldu. Örneğin, " xzin0vich-WormGPT " adlı bir varyant 26 Ekim 2024'te yayınlandı ve " keanu-WormGPT " 25 Şubat 2025'te ortaya çıktı. Bu yeni sürümlere erişim, yine abonelik temelinde Telegram sohbet robotları aracılığıyla sağlanmaktadır.

Cato CTRL, testlerinde keanu-WormGPT'nin xAI'nin Grok'u tarafından desteklendiğini, xzin0vich-WormGPT'nin ise Mistral AI'nin Mixtral'ına dayandığını doğruladı. Bu, suçluların kimlik avı e-postaları ve bilgi çalmak için komut dosyaları gibi kötü amaçlı içerikler üretmek için üst düzey ticari LLM'leri başarıyla kullandıkları anlamına gelir.

FraudGPT ve DarkBERT gibi sansürsüz diğer LLM'lerin yanı sıra bu araçların ortaya çıkışı, yapay zeka destekli suç araçları için büyüyen bir pazarın varlığını gösteriyor ve yapay zeka sistemlerini güvence altına almanın sürekli zorluğunu vurguluyor.

SlashNext Email Security+'da Saha CTO'su olan J Stephen Kowski , son gelişme hakkında şu yorumu yaptı: " WormGPT evrimi, suçluların yapay zeka araçlarını kullanma konusunda ne kadar daha akıllı hale geldiğini gösteriyor. Ancak dürüst olalım, bunlar genel amaçlı araçlar ve uzun vadede kötü amaçlı kullanım beklemeden bu araçları geliştirenler oldukça saftır. "

" Gerçekten endişe verici olan, bunların sıfırdan oluşturulmuş yeni AI modelleri olmamasıdır - güvenilir sistemleri alıp güvenlik kurallarını ihlal ederek siber suçlar için silahlar yaratıyorlar, " diye uyardı. " Bu, kuruluşların yalnızca bilinen kötü araçları engellemenin ötesinde düşünmeleri ve hangi platformun oluşturduğuna bakılmaksızın AI tarafından oluşturulan içeriğin nasıl davrandığına bakmaya başlamaları gerektiği anlamına geliyor. "