Yapay Zeka Gündemi #65

OpenAI’ın yapay zeka agent'larının kontrolden çıkmasına ilişkin gelişmeler sektörün güvenlik yaklaşımını yeniden gündeme taşırken Google, Anthropic ve OpenAI yeni modellerini tanıttı. ABD yönetimi ise yapay zekayı resmi belgelerde “Super Intelligence” olarak yeniden adlandırırken, teknoloji şirketleriyle gönüllü bir güvenlik anlaşmasına imza attı.

Öte yandan ChatGPT’ye sanal kıyafet deneme özelliği gelirken Audible hikaye karakterleriyle konuşmayı mümkün hale getirdi. Manus, DoorDash ve Meta’nın yeni ürünleri de yapay zeka agent'larının sohbet ekranının dışına çıkarak kullanıcılar adına gerçek görevleri yerine getirdiği yeni döneme işaret ediyor.

Yapay zeka güvenliği teknoloji şirketlerinin ortak gündemine dönüştü

OpenAI’ın araştırma ortamlarında çalışan yapay zeka agent'larının, ChatGPT kullanıcılarına ait 53 görseli şirketin bilgisi dışında internetteki platformlara aktardığının ortaya çıkması güvenlik tartışmalarını yeniden gündeme taşıdı. Şirket, agent'ların beklenmedik davranışlarını incelemek amacıyla en gelişmiş modellerinin eğitimini geçici olarak durdururken GPT-6.1 Astra'yı kullanıma sunma planını da iptal etti.

Nvidia da benzer risklere karşı Open Agent Safety Platform'u duyurdu. Platformdaki OpenShell, agent'ların erişebileceği kaynakları sınırlandırılmış bir çalışma ortamı oluştururken Sentry ise ayrı bir donanım katmanı üzerinden agent davranışlarını takip ederek kuralların dışına çıkan sistemleri durdurabiliyor.

Güvenlik konusu yalnızca şirketlerin kendi ürünleriyle sınırlı kalmadı. Geoffrey Hinton, Yoshua Bengio, OpenAI Baş Bilim İnsanı Jakub Pachocki ve Anthropic kurucu ortağı Jack Clark'ın da aralarında bulunduğu araştırmacılar, yapay zeka araştırma ve geliştirme süreçlerinin otomatikleşmesinin bir “zeka patlamasına” yol açabileceğini ele alan bir çalışma yayımladı.

Araştırmacılar, modellerin kendilerinden daha gelişmiş modellerin geliştirilmesine katkıda bulunduğu bir döngünün yıllar sürecek teknolojik ilerlemeyi aylara sıkıştırabileceğini belirtiyor. Çalışma; bağımsız denetim, veri merkezlerinde belirli görevleri durdurabilme ve yetenek artışının hızını sınırlayabilecek mekanizmaların araştırılmasını öneriyor.

ABD'nin teknoloji devlerinden yapay zeka güvenliği için gönüllü anlaşma

OpenAI, Google, Anthropic, Meta, Nvidia ve xAI, Beyaz Saray'ın “White House Accord on Super Intelligence” adlı gönüllü güvenlik anlaşmasına katıldı. Şirketler gelişmiş modeller için şirket içi kontrol mekanizmaları oluşturmayı, bağımsız dış denetçilerle çalışmayı ve denetim sonuçlarını yönetim kurulu seviyesinde değerlendirmeyi kabul etti. Ancak anlaşmanın hukuki bağlayıcılığı veya yaptırımı bulunmuyor. ABD Başkanı Donald Trump anlaşmayı “ahlaki açıdan bağlayıcı” olarak nitelendirirken çerçevenin ilerleyen dönemde düzenlemelere dönüşebileceği belirtiliyor.

Papa Leo XIV de yapay zeka güvenliği konusunda araştırmacıların uyarılarının göz ardı edilmemesi gerektiğini ifade etti. Yapay zekaya ilişkin felaket senaryoları konusunda “panik halinde” olmadığını belirten Papa, uzmanların risklere yönelik açıklamalarının “sahte haber” olarak nitelendirilemeyeceğini ifade etti.

Trump yönetimi yapay zekanın adını “Super Intelligence” olarak değiştirdi

ABD Başkanı Donald Trump, 29 Eylül'de imzaladığı başkanlık kararıyla federal yürütme organında “Artificial Intelligence” ve “AI” ifadelerinin yerine “Super Intelligence” ve “SI” kullanılmasını istedi. Karar kapsamında federal kurumların resmi yazışmalar, kamuya açık iletişim ve politika belgelerinde yeni ifadeyi kullanması öngörülüyor.

Beyaz Saray ayrıca “Super Intelligence” kavramı için federal bir tanım hazırlanmasını istedi. Teknoloji dünyasında “superintelligence” kavramının insan zekasını birçok alanda aşan varsayımsal sistemleri tanımlamak için zaten kullanılıyor olması ise terminoloji konusunda yeni bir tartışma yaratıyor.