OpenAI, Yapay Zeka Sistemlerindeki Güvenlik Açıklarını Düzeltmek için Promptfoo’yu Satın Alıyor

OpenAI, işletmelerin geliştirme sırasında güvenlik açıklarını bulmalarına ve düzeltmelerine yardımcı olmak için tasarlanmış bir yapay zeka güvenlik platformu olan Promptfoo'yu satın aldığını duyurdu. Bu stratejik hamle, yapay zeka sistemlerini canlı iş ortamlarına yerleştirilmeden önce hızlı enjeksiyon ve jailbreak gibi ortaya çıkan tehditlere karşı korumayı amaçlamaktadır. Satın alma tamamlandıktan sonra OpenAI, Promptfoo'nun teknolojisini doğrudan OpenAI Frontier'e entegre etmeyi planlıyor. Bu platform, özellikle kurumsal ortamlarda yapay zeka iş arkadaşları oluşturmak ve yönetmek için oluşturulmuştur. İşletmeler, gerçek dünyadaki görevleri yerine getirmek için yapay zeka ajanlarına giderek daha fazla güvendikçe, bu sistemlerin güvenli, uyumlu ve kapsamlı bir şekilde değerlendirilmesini sağlamak, dağıtım için katı bir gereklilik haline gelmiştir. Kurumsal Yapay Zeka Güvenliğinin Güçlendirilmesi

Ian Webster ve Michael D’Angelo liderliğindeki Promptfoo, siber güvenlik alanında güçlü bir ün kazandı. Güvenlik araçlarına şu anda Fortune 500 şirketlerinin yüzde 25 'inden fazlası güveniyor. Ek olarak, şirket, Büyük Dil Modeli uygulamalarını değerlendirmeye ve kırmızı takımlamaya adanmış yaygın olarak kullanılan açık kaynaklı bir komut satırı arayüzü ve kütüphanesi bulundurmaktadır. OpenAI, yeni kurumsal entegrasyonlarının yanı sıra bu açık kaynaklı projeyi geliştirmeye devam etmeyi taahhüt etmiştir. Geliştiriciler, Promptfoo'yu OpenAI Frontier platformuna getirerek, aracı davranışını test etmek ve riskleri erken tespit etmek için sistematik yöntemlere erişebilecekler. OpenAI'deki B2B Uygulamalarının CTO'su Srinivas Narayanan, Promptfoo'nun AI sistemlerini kurumsal ölçekte değerlendirme ve test etme konusunda derin mühendislik uzmanlığı getirdiğini ve işletmelerin güvenilir uygulamaları güvenle kullanmalarına yardımcı olduğunu belirtti. Entegrasyon, kuruluşların yapay zeka ile ilgili güvenlik risklerini etkin bir şekilde yönetmelerine yardımcı olmak için çeşitli temel yetenekler sunacaktır. İlk olarak, otomatik test, hızlı enjeksiyonları ve veri sızıntılarını proaktif olarak önlemek için yerel güvenlik değerlendirmesi ve kırmızı takım oluşturma yetenekleri ekleyecektir.