Cohesity, Hatalı Yapay Zeka Ajanlarını Geri Döndüren Agent Resilience’ı Duyurdu

Veri güvenliği şirketi Cohesity Inc., Catalyst konferansında kurumsal yapay zeka ajanlarının güvenliğini sağlamak için geliştirdiği yeni Cohesity Agent Resilience çözümünü tanıttı. Şirket, bu yeni yetenek ile yapay zeka ajanlarının bellek ve yapılandırma ayarlarını yedekleyerek, sistemlerde bir hata oluştuğunda ajanların güvenilir bir duruma geri döndürülmesini mümkün kılıyor. Günümüzde pek çok kurumsal ajan, veritabanlarını sorgulayıp yüksek yetkili kimlik bilgileriyle işlem yaparken, beklenmedik hatalar veya kötü niyetli müdahaleler karşısında çoğu kurum geri dönüş senaryolarına sahip değil. Cohesity, bu yeni çözümle birlikte yapay zeka altyapısının sürdürülebilirliğini sağlamayı hedefliyor.

Hatalı Ajanlar İçin Güvenli Geri Dönüş Noktaları Oluşturuluyor

Vasu Murthy, Cohesity’nin ürün yönetimi başkanı olarak yaptığı açıklamada, mevcut gözlemleme araçlarının bir ajanın kontrolden çıktığını tespit edebildiğini ancak yapılan değişiklikleri geri alamadığını belirtti. Cohesity Agent Resilience, tam da bu noktada devreye girerek ajanların bellek ve konfigürasyon dosyalarını immutable (değiştirilemez) yedekleme ile koruma altına alıyor. Eğer bir ajan, hatalı bir yönlendirme veya “prompt injection” saldırısı sonucu yanlış verilerle etkileşime girerse, yönetici sistemin önceki temiz durumunu seçerek sadece etkilenen ayarları geri yükleyebiliyor.

Sistem ayrıca, ajanın etkileşimde olduğu veritabanlarını, dosya sistemlerini ve vektör depolarını da koruma altına alıyor. Ajanın hangi sistemlere erişebileceğini gösteren bir topoloji haritası sunan bu özellik, olası güvenlik açıklarının önceden tespit edilmesini sağlıyor. Şu an için sadece AWS Bedrock platformu ile sınırlı olan destek, ilerleyen dönemlerde Microsoft ve Google platformlarını da kapsayacak şekilde genişletilecek.

Otonom Siber Direnç Modelleri Geliştiriliyor

Cohesity’nin Catalyst kapsamında paylaştığı bir diğer önemli vizyon ise Otonom Siber Direnç (Autonomous Cyber Resilience) projesidir. Bu yaklaşım, manuel müdahalelerin siber saldırı hızına yetişemediği günümüz dünyasında, veri koruma süreçlerini kesintisiz devam ettirmeyi amaçlıyor. Cohesity Copilot gibi doğal dil işleme araçlarıyla entegre çalışan bu sistem, saldırı anında etkilenen iş yüklerini analiz ederek otomatik iyileştirme iş akışlarını tetikleyebiliyor.

Şirket, bu stratejisinin bir parçası olan ve Cohesity DSPM (Veri Güvenliği Durum Yönetimi) ile çalışan yeni özelliğini genel kullanıma sundu. Bu özellik, hassas verilerin otomatik olarak sınıflandırılmasını ve sınıflandırılan her yeni verinin önceden tanımlanmış yedekleme kurallarına dahil edilmesini sağlıyor. [image_1] Cohesity, bu sayede korumasız veri kalmamasını hedefliyor.

Yapay Zeka Okuryazarlığı İçin Yeni Eğitim Platformu Kuruluyor

Cohesity, teknolojik çözümlerin yanı sıra uzmanlık seviyesini artırmak için AI Resilience Academy’yi kurdu. Bu platform, “Yapay Zeka Direncinin Temelleri” adlı ücretsiz bir kursla başlatıldı. Eğitim, ürün konfigürasyonundan ziyade, öneri sunan yapay zeka asistanları ile işlem yapan yapay zeka ajanları arasındaki temel farklara odaklanıyor. Şirket, hazırladığı beş yıllık küresel siber direnç raporunda, yöneticilerin %55’inin yapay zeka ajanlarının beklenmedik eylemlerini kontrol etme konusunda hazırlıksız olduğunu vurguladı.

Şirketin CEO’su Sanjay Poonen, bu süreçlerin tek seferlik bir değerlendirme değil, sürekli bir döngü olması gerektiğini belirtiyor. [image_2] Otomatik iş akışlarının, siber direnç planlarının güncel tutulması konusundaki rutin yükü hafifleteceği öngörülüyor. Sektör, yapay zekanın sağladığı hızı yine yapay zeka destekli güvenlik çözümleriyle dengelemeye çalışıyor.

Sizce şirketler, otonom çalışan yapay zeka ajanlarının denetimi konusunda hangi önlemleri almalı? Yapay zeka destekli siber güvenlik çözümleri hakkındaki görüşlerinizi ve deneyimlerinizi aşağıda bizimle paylaşmayı unutmayın.

Cohesity, Hatalı Yapay Zeka Ajanlarını Geri Döndüren Agent Resilience’ı Duyurdu yazısı ilk önce TechInside üzerinde ortaya çıktı.