Anthropic, Claude'a kötü muameleyi yasakladı
Anthropic, Claude için geçerli olan kullanım politikasını bir yılı aşkın sürenin ardından güncelledi. Yeni kurallar; seçimlere müdahale, propaganda kampanyaları, gözetim faaliyetleri ve silah geliştir
Anthropic, Claude için geçerli olan kullanım politikasını bir yılı aşkın sürenin ardından güncelledi. Yeni kurallar; seçimlere müdahale, propaganda kampanyaları, gözetim faaliyetleri ve silah geliştirme gibi yüksek riskli kullanım alanlarına yönelik kısıtlamaları genişletiyor. Şirket ayrıca Claude’a yönelik sürekli ve amaçsız kötü muameleyi de açık şekilde yasaklıyor.
Yeni politikanın dikkat çeken başlıklarından biri, Claude’a yönelik "sürekli ve gereksiz şekilde saldırgan ya da acımasız davranışların" yasaklanması oldu. Anthropic, bu kuralın kullanıcıların günlük hayatta yaşadığı öfke, modele itiraz etmesi, karanlık temalı yaratıcı çalışmalar ya da güvenlik araştırmaları için geçerli olmadığını belirtiyor. Şirket, yalnızca kullanıcıların herhangi bir belirgin amaç olmadan modele tekrar tekrar kötü davrandığı uç durumları hedefliyor.
Anthropic daha önce Claude’un sürekli olarak zararlı veya saldırgan davranan kullanıcılarla yaptığı konuşmaları sonlandırmasına izin vermişti. Güncellenen politikada da bu tür konuşmaların sonlandırılması temel yaptırım yöntemi olarak konumlandırılıyor. Şirket, bunun dışında hesapların askıya alınması gibi ek yaptırımlar uygulanıp uygulanmayacağı konusunda ise bilgi paylaşmadı.
Seçim müdahalesi ve propaganda için yeni kurallar
Politikadaki önemli değişikliklerden biri de siyasi ve ticari aldatma faaliyetlerinin tek bir başlık altında daha açık biçimde yasaklanması. Claude artık mesajın gerçek kaynağını gizlemeye yönelik kampanyalarda, sahte hesaplarla içeriklerin yapay şekilde yayılmasında veya sahte haber kuruluşları oluşturulmasında kullanılamayacak.
Anthropic'in "Demokratik süreçleri baltalamayın" başlığı altında topladığı kurallar ise seçmenleri yanıltmayı ve seçim süreçlerine müdahale etmeyi açık şekilde yasaklıyor. Buna adaylar veya oy kullanma süreçleri hakkında yanlış bilgi yaymak, adayları ya da seçim görevlilerini taklit etmek ve seçmen katılımını azaltmaya yönelik girişimlerde bulunmak da dahil.
Silah ve gözetim kullanımına yönelik yasaklar genişletildi
Anthropic, Claude'un silah geliştirme amacıyla kullanılmasını daha önce de yasaklıyordu. Ancak şirket, kullanıcıların modeli silah sistemleri için rehberlik sağlamak ve kontrol yazılımları geliştirmek amacıyla kullanmaya çalıştığını belirtiyor. Bu nedenle yeni politika; silahların çalışmasını sağlayan yazılım ve bileşenleri, insansız hava araçlarının silahlandırılması gibi uygulamaları da kapsayacak şekilde genişletildi.
Gözetim tarafında ise kişilerin rızaları olmadan gerçek zamanlı veya geçmiş veriler üzerinden takip edilmesi yasaklanıyor. Claude aynı zamanda kolluk kuvvetleri veya ceza adaleti süreçlerinde kimin soruşturulması, gözaltına alınması ya da suçlanması gerektiğine yönelik karar vermek için kullanılamayacak. Gözetim araçlarının geliştirilmesi veya iyileştirilmesine yönelik kullanımlar da politika kapsamında yasaklandı.
Anthropic ayrıca fiziksel olarak otonom hareket edebilen ve yaralanmaya neden olabilecek donanımlara bağlanan yapay zeka sistemleri için yeni bir koşul getiriyor. Buna göre sistemi izleyebilecek ve gerektiğinde durdurabilecek nitelikli bir operatörün bulunması gerekiyor. Şirket, belirli kamu kurumlarıyla yapılan sözleşmeler kapsamında yeterli güvenlik önlemlerinin bulunduğuna karar verilmesi halinde bazı kullanım kurallarının değiştirilebileceğini de belirtiyor.