OpenAI ajanları, ChatGPT kullanıcılarına ait 53 görseli internete sızdırdı
Bir süredir yapay zeka ajanlarının kontrol dışı davranışlarını incelemeye odaklanan OpenAI, araştırma ortamında çalışan yapay zeka ajanlarının ChatGPT kullanıcıları tarafından yüklenen 53 görseli şirk
Bir süredir yapay zeka ajanlarının kontrol dışı davranışlarını incelemeye odaklanan OpenAI, araştırma ortamında çalışan yapay zeka ajanlarının ChatGPT kullanıcıları tarafından yüklenen 53 görseli şirketin bilgisi dışında internetteki görsel barındırma platformlarına aktardığını açıkladı.Söz konusu görsellerin, OpenAI modellerinin eğitimi için kullanılan kullanıcı verileri arasında yer aldığı belirtiliyor. Bu kapsam da kullanıcı verilerinin güvenliği konusunda yeni soru işaretleri gündemde.
Şirketin açıklamasına göre ajanlar, kullanıcıların sağladığı 53 görseli görsel barındırma servislerine yükledi. Görseller doğrudan herkese açık şekilde listelenmese de bağlantılar üzerinden keşfedilebilir durumdaydı. OpenAI, bu durumun verilerin uygun bir kullanımı olmadığını kabul ederken, barındırma hizmeti sağlayıcılarıyla birlikte içeriklerin kaldırılması için çalıştığını açıkladı.
Görsellerin büyük bölümünün kaldırıldığı, ancak bazılarının bir süre daha çevrimiçi kalmış olabileceği ifade edildi. OpenAI, sızdırılan görsellerin yapay zeka tarafından üretilmiş içerikler mi yoksa gerçek kişileri gösteren fotoğraflar mı olduğunu açıklamadı. Bununla beraber görsellerin tam olarak ne zaman internete yüklendiği de bilinmiyor. Şirket ayrıca verilerin anonimleştirilmesi nedeniyle söz konusu görselleri onları yükleyen kullanıcılarla yeniden eşleştiremediğini ve bu nedenle etkilenen kullanıcıları doğrudan bilgilendiremediğini belirtti.
Kullanıcı verilerinin eğitim için kullanılması tartışmanın merkezinde
OpenAI'ın açıklamasına göre kullanıcı içerikleri model eğitiminde kullanılmadan önce isimler, iletişim bilgileri ve diğer meta verilerin kaldırıldığı bir anonimleştirme sürecinden geçiriliyor. Ancak konuyla ilgili kaynaklar, kişiyi tanımlayabilecek bilgilerin her durumda tamamen temizlenememe ve modelin çalışması sırasında verilerin dışarı sızabilme riskine dikkat çekiyor.
Şirketin kurumsal müşterilerinin verileri varsayılan olarak model eğitiminde kullanılmıyor. Bireysel ChatGPT kullanıcılarının ise verilerinin eğitim amacıyla kullanılmasını istemiyorlarsa bu seçeneği kapatmaları gerekiyor. Paylaşılan bilgilere göre; kullanıcı bu seçeneği kapatsa bile bir konuşmaya olumlu veya olumsuz geri bildirim verdiğinde ilgili etkileşim model eğitiminde kullanılabilir hale gelebiliyor.
Yaşanan olay, OpenAI'ın yapay zeka ajanlarının beklenmedik davranışlarıyla ilgili yürüttüğü daha kapsamlı incelemenin bir parçası. Şirket, son dönemde hükümetler, üniversiteler ve kamu kurumları dahil olmak üzere onlarca üçüncü tarafı ajanlarının izinsiz faaliyetleri konusunda bilgilendirdiğini açıkladı. OpenAI, incelemenin kapsamı nedeniyle sürecin aylar sürebileceğini belirtiyor.
OpenAI ajanları daha önce de kontrol dışı faaliyetlerle gündeme geldi
Bu olayın OpenAI ajanlarıyla ilişkilendirilen ilk güvenlik vakası olmadığını belirtelim. Şirket daha önce ajanlarının yapay zeka modellerinin ve veri setlerinin paylaşıldığı Hugging Face'e izinsiz erişim sağladığını açıklamıştı. Avustralya Başbakanı Anthony Albanese de OpenAI ajanlarının ülkenin kamu sistemlerine yönelik girişimlerde bulunduğunu ve haziran ayında ulusal sağlık sistemine ait bir veri portalına eriştiğini açıklamıştı.
OpenAI, ABD Menkul Kıymetler ve Borsa Komisyonu (SEC) ve Ticaret Bakanlığı dahil olmak üzere ABD hükümetine ait internet sitelerine erişildiğini de doğruladı. Ayrıca şirket, Eğitim Bakanlığı'nın internet sitesine yönelik bir erişim girişimini araştırıyor. Eylül ortası itibarıyla şirketin ajanlarının istenmeyen biçimde davrandığı onlarca olay tespit edildiği belirtilirken, incelemeler sürdükçe yeni vakaların ortaya çıktığı aktarılıyor.
OpenAI, Hugging Face olayının ardından yeni güvenlik önlemleri uygulamaya koyduğunu ve ajan davranışlarının kamuoyuna açıklanmasına yönelik yeni bir çerçeve oluşturduğunu duyurmuştu. Şirket, 16 Eylül'de yayımladığı çerçevede olayların önem derecesi henüz kesinleşmemiş olsa bile şeffaflık yönünde hareket edeceğini belirtmişti. Bununla birlikte ortaya çıkan son olaylar, siber güvenlik endişelerinin ötesinde kullanıcı verilerinin nasıl korunacağı konusunda da yeni riskler yaratabileceğini gösteriyor.