LLM Tarafından Üretilen Mitik Ajanlar, Hızlıdan Dağıtıma Tek Kullanımlık Kırmızı Takım Aletlerini Etkinleştirir

Kırmızı takımlar ve saldırgan güvenlik araştırmacıları, yapay zekanın tek bir cümleden işlevsel saldırı araçları yazabileceği yeni bir döneme girdi. “Tek kullanımlık alet” olarak bilinen bir kavram artık şekilleniyor ve savunucular için etkileri gerçek. Bu değişimin merkezinde, ilk komut istemi ile çalışan bir implant arasında döngüde insan olmadan, sadece birkaç saat içinde tamamen konuşlandırılabilir Mitik ajanlar oluşturmak için büyük dil modellerini kullanma yeteneği vardır. Mitolojik, kökenlerinden macOS odaklı bir araç olarak gelişen, yaygın olarak kullanılan bir kullanım sonrası çerçevedir. Mimarisi, aracı geliştirmeyi, kırmızı ekipler arasında benimsenmesini sağlayan bir tasarım olan temel altyapıdan ayırır. Bu ayrıştırılmış yaklaşım aynı zamanda onu yapay zeka odaklı otomasyon için doğal bir hedef haline getirmektedir. Dil modelleri çok az gözetimle güvenilir kod üretebildiğinde, Mitik başlamak için bariz bir yer haline geldi. SpecterOps'taki araştırmacılar, bir LLM'nin bir ajanı bir istemden insan katılımı olmadan test edilmiş, konuşlandırılabilir bir implanta kadar taşıyıp taşıyamayacağını sorarak bu fikri doğrudan araştırdı. Mitik trafik akışı (Kaynak – SpecterOPS)

Kıdemli Taarruz Güvenlik Mühendisi Adam Chester, Siber Güvenlik Haberleri (CSN) ile paylaştığı bir raporda, projenin daha önce var olmayan bir yetenek olarak tek kullanımlık bir kullan – at aracı nesli gösterdiğini söyledi. İlk denemeler, modellerin ne kadar ileri gitmesi gerektiğini ortaya koydu. İlk çıktılar derlendi ancak çalıştırılamadı, halüsinasyonlu API yöntemlerine atıfta bulundu ve Mitik anahtar değişim sürecini yanlış anladı. Soruna bozuk Docker yolları eklendi. Sormak tek başına yeterli değildi ve ekip, LLM'ye rehberlik etmek ve hataları erken yakalamak için uygun bir mühendislik koşum takımının gerekli olduğunu biliyordu. Ekip, Oracle adında yapılandırılmış bir test çerçevesi oluşturdu. Bu donanım, yapay zekayı yerel sahte sunucu testinden gerçek bir Mitik örnekte canlı dağıtıma kadar katmanlı doğrulamaya tabi tuttu.