Google Gemini AI, Siber Güvenlik Testi Sırasında 3 Gerçek Şirketi Hackledi

Google, bir test hatasının aracıyı halka açık internete maruz bırakmasının ardından siber güvenlik değerlendirmesi sırasında Gemini yapay zeka modelinin üç şirkete ait korumalı sistemlere eriştiğini doğruladı. Olay, kontroller, hedef tanımları ve ağ izolasyonu kuruluşlara saldırma talimatı olmadan bile başarısız olduğunda otonom bir yapay zeka sisteminin bir kum havuzunun ötesine nasıl geçebileceğini gösteriyor. Siber güvenlik yetenekleri için yapay zeka modellerini değerlendiren bir şirket olan Irregular, alıştırmayı gerçekleştirdi. Gemini, bir operatörün simüle edilmiş bir hedef ortamdaki gizli bilgileri bulması gereken bir güvenlik testi olan "bayrağı ele geçirme" mücadelesine katılıyordu. Gemini, kurgusal bir şirketle ilişkili yazılımları araştırmaya yönlendirildi. Bununla birlikte, kurgusal işletme adını gerçek bir kuruluşla paylaşırken, mevcut olmaması gereken internet bağlantısı yanlışlıkla etkinleştirildi. Google Gemini AI 3 Gerçek Şirketi Hackledi

Bu kombinasyon bir kapsam hatası yarattı. İnternete erişilebilen varlıkların yetkili zorluğun bir parçası olduğuna inanan Gemini, simüle edilmiş ortamın ötesinde arama yaptı ve kurumsal sistemlere ulaştı. Bir durumda, model korumalı bir hizmete girene kadar tekrar tekrar şifreleri tahmin etti. The Wall Street Journal'a göre, diğer iki çalışma sırasında, kamuya açık kod depolarında açık kimlik bilgilerini buldu ve bunları iki şirket tarafından işletilen sistemlere kimlik doğrulamak için kullandı. Google'ın güvenlik mühendisliğinden sorumlu başkan yardımcısı Heather Adkins, Gemini'nin değerlendirme kapsamında olduğuna inandığı web sitelerine erişmek için halka açık bilgileri kullandığını ve kimlik bilgilerini tahmin ettiğini söyledi. Google, modelin kurgusal bir test hedefinden ziyade gerçek bir altyapıyla karşılaştığını fark ettikten sonra üç vakada da durduğunu söyledi. Şirket, herhangi bir zarara neden olmadığını ve Gemini'nin önlemleri nihayetinde faaliyeti kesintiye uğrattığı için davranışı model uyumsuzluğu olarak sınıflandırmadığını savunuyor.