AWS, Ele Geçirilen Bir Yapay Zeka Aracısının Kullanıcının Erişemediği Verileri Okumasını Nasıl Durduracağını Gösteriyor

İşletmeler, iş akışlarını otomatikleştirmek için veritabanlarından, belge havuzlarından, SaaS platformlarından ve dahili bilgi tabanlarından yararlanan yapay zeka aracılarını dağıtmak için yarışıyor. Ancak, kolaylığın altında sessiz bir risk gizlidir: çoğu temsilci, soruyu gerçekte kimin sorduğuna dair yerleşik bir farkındalığa sahip değildir, bu da ele geçirilmiş veya manipüle edilmiş bir temsilcinin, talep eden kullanıcının asla görmeye yetkili olmadığı verileri teslim edebileceği anlamına gelir. AWS, Amazon Bedrock AgentCore'u kullanarak yetkilendirmeyi temsilcinin kodundan çıkarıp altyapının kendisine taşıyarak bu boşluğu kapatan ayrıntılı bir mimari yayınladı. AWS, Yapay Zeka Temsilcisi Veri Erişiminin Nasıl Önleneceğini Gösteriyor

Bu riskin geleneksel çözümü, bir temsilciye geniş kimlik bilgileri vermek ve genellikle basit sorgu koşulları aracılığıyla sonuçları filtrelemek için temsilcinin kendi mantığına güvenmek olmuştur. AWS'nin rehberliği bunu yapısal bir zayıflık olarak tanımlamaktadır. Bir saldırgan, ajanı hızlı enjeksiyon yoluyla manipüle ederse veya bu filtreleme kodundaki bir hatadan yararlanırsa, ajanın tam temel veri kümesi açığa çıkar. İşletmeler otonom aracıları benimsedikçe sağlam yapay zeka güvenlik yazılımlarının değerlendirilmesi gerekli hale gelmektedir. AWS'nin AWS Well – Architected Agentic AI Lens'teki AGENTSEC03 en iyi uygulamasıyla uyumlu olarak önerilen cevabı, aracı yalnızca araç çağrılarını ve akıl yürütmeyi koordine eden bir orkestra şefi olarak ele alırken, gerçek erişim kararları aracının konuştuğu hizmetler tarafından uygulanır. Gelen JWT Özel Talep Doğrulaması (Resim Kaynağı: aws.amazon.com)

Gösteri, Satış ve Finans çalışanları tarafından paylaşılan ve her biri Amazon DynamoDB'deki müşteri kayıtlarına, Amazon S3 tarafından desteklenen Amazon Bedrock Bilgi Tabanlarındaki departman etiketli belgelere ve Salesforce'daki harici CRM verilerine izole erişim gerektiren bir CRM sohbet uygulamasına odaklanıyor. Bir kullanıcı bir Amazon Cognito kullanıcı havuzu üzerinden giriş yaptığında, önceden token üretimi Lambda tetikleyicisi, uygulamaya ulaşmadan önce doğrudan JSON Web Token'a bir departman talebi ve AWS oturum etiketi meta verisi enjekte eder.