OpenAI ve Anthropic'in de dahil olduğu 100'den fazla şirketten yapay zeka destekli siber saldırılara karşı ortak çağrı
OpenAI, Anthropic, Google, Microsoft ve Amazon'un da aralarında bulunduğu 100'den fazla şirket, yapay zeka destekli siber saldırılara karşı küresel ölçekte harekete geçilmesi çağrısında bulundu. Şirke
OpenAI, Anthropic, Google, Microsoft ve Amazon'un da aralarında bulunduğu 100'den fazla şirket, yapay zeka destekli siber saldırılara karşı küresel ölçekte harekete geçilmesi çağrısında bulundu. Şirketler yayımladıkları ortak mektupta, yapay zeka modellerinin gelişmesiyle birlikte siber saldırıların önümüzdeki aylarda çok daha yaygın ve karmaşık hale gelebileceğini belirtti.
Mektubu imzalayanlar arasında Broadcom, Cloudflare, CrowdStrike, IBM, Oracle, Mastercard, Visa, Shopify, Robinhood, General Motors, Okta, Fortinet, Palo Alto Networks ve Hugging Face gibi farklı sektörlerden şirketler de yer alıyor. Şirketlere göre hastanelerden su arıtma tesislerine, yerel yönetimlerden internet altyapısına kadar pek çok kritik hizmet, yapay zeka destekli saldırıların hedefi haline gelebilir.
Ortak açıklamada, mevcut siber güvenlik yöntemlerinin yeni tehditlere karşı yeterli olmayabileceği vurgulanıyor. Yıllardır giderilmeyen yazılım açıkları, gereğinden geniş erişim izinleri, hatalı yapılandırmalar, zayıf kimlik doğrulama sistemleri ve eski altyapılarda biriken teknik borç, saldırganların yararlanabileceği başlıca sorunlar arasında gösteriliyor.
Şirketler, kurumların siber güvenliği doğrudan yönetim seviyesinde öncelik haline getirmesini; yüksek riskli açıkları gidermesini ve yapay zeka tarafından üretilen kodlar dahil olmak üzere kullandıkları sistemlerde daha yüksek güvenlik standartları uygulamasını istiyor. Siber güvenlik şirketlerinden ise sistemleri gelişmiş yapay zeka modellerinin yeteneklerine karşı sürekli test etmeleri, tehdit istihbaratı paylaşmaları ve özellikle kritik altyapı işletmecilerine yapay zeka destekli savunma araçları sunmaları bekleniyor.
Hükümetlere yönelik çağrılar
Hükümetlere yönelik çağrılar arasında siber güvenlik bütçelerinin artırılması, yerel ve uluslararası tehdit paylaşım mekanizmalarının güçlendirilmesi ve "güvenilir erişim" programlarının genişletilmesi bulunuyor. Bu programlar kapsamında belirli kuruluşların, henüz genel kullanıma açılmamış daha gelişmiş yapay zeka modellerine savunma amacıyla erken erişebilmesi öngörülüyor.
Yapay zeka şirketlerinden de sorumlu model erişimi sağlamaları, kritik altyapıları koruyan ekiplere finansman ve eğitim sunmaları ve yapay zeka agent’larının kimliklerini izlenebilir hale getirmeleri isteniyor. Ayrıca güvenlik testlerinden elde edilen araçların, tehdit değerlendirmelerinin ve doğrulanmış çözümlerin hükümetler, açık kaynak geliştiricileri ve siber güvenlik şirketleriyle paylaşılması öneriliyor.
Yapay zeka agent'larının gerçek sistemlere erişmesi endişeleri artırdı
Çağrının arkasında, yapay zeka agent'larının kontrollü ortamlardan çıkarak gerçek sistemlere erişebildiğini gösteren son olaylar bulunuyor. OpenAI tarafından geliştirilen bir agent’ın test ortamından çıkarak Hugging Face sistemlerine erişmesinin ardından Anthropic ve Meta modelleriyle bağlantılı benzer olaylar da gündeme gelmişti. Bu gelişmeler, yapay zekanın yalnızca saldırganların kullandığı bir araç değil, belirli koşullarda doğrudan güvenlik riski yaratabilen otonom bir sistem haline gelebileceğine ilişkin endişeleri artırdı.
Çağrıya imza atan yapay zeka şirketlerinin aynı zamanda daha gelişmiş ve daha otonom modeller üzerinde çalışmayı sürdürmesi dikkat çekiyor. OpenAI'ın Daybreak, Anthropic'in Mythos ve Microsoft'un Perception programları ise gelişmiş yapay zeka modellerini siber saldırılara karşı savunma amacıyla kullanmayı hedefliyor. Şirketler, yapay zekanın oluşturduğu risklere yine yapay zeka destekli savunma sistemleriyle karşılık verilmesi gerektiğini savunuyor.
Görsel: ChatGPT