Anthropic, Claude ile silah geliştirmenize izin vermiyor

Anthropic , en yeni modellerinin (Sonnet 4 ve Opus 4/4.1 ) sunduğu yeni ve gelişmiş özellikleri yansıtacak şekilde Claude kullanım politikasını güncelledi. Kaliforniya merkezli girişimin uyguladığı filtrelere rağmen, saldırganlar, sohbet robotunu belirli konulara yanıt vermeye kandırmak için korumaları aşmaya çalışıyor. Silah geliştirme ve siber saldırılar da dahil olmak üzere yasaklı kullanımlar artık daha net bir şekilde tanımlanıyor.

Claude'un yasaklı kullanımları

Yeni politika 15 Eylül'de yürürlüğe girecek. Mevcut politika gibi, evrensel kullanım standartları ve yüksek riskli kullanımlar için özel şartlar öngörüyor. Yeni özelliklerden biri de silah geliştirmeyle ilgili.

Mevcut sürüm, Claude'un yalnızca silah, patlayıcı, tehlikeli madde veya zarara veya can kaybına yol açacak şekilde tasarlanmış diğer sistemleri üretmek, değiştirmek, tasarlamak, pazarlamak veya dağıtmak için kullanılamayacağını belirtiyor. Yeni sürüm ise, sohbet robotunun yüksek verimli patlayıcılar veya biyolojik, kimyasal, radyolojik veya nükleer silahlar geliştirmek için kullanılamayacağını belirtiyor.

Anthropic ayrıca, kolluk kuvvetleri tarafından hangi kullanımların yasaklandığını da açıkladı: gözetim , izleme, profil oluşturma, duygusal tanıma ve biyometrik kategorilendirme. Siyasi içerik üretmek artık yasak değil, ancak seçim adayları hakkında yanlış bilgi yaymak veya seçmen katılımını engellemek gibi demokratik süreçleri etkileyen içerikler yasak.

Cinsel içerik üretme, şiddeti teşvik etme ve küçüklerin mahremiyetini ve güvenliğini tehlikeye atma yasakları yürürlükte kalmaya devam ediyor. Anthropic, kritik altyapıyı tehlikeye atmanın yanı sıra, Claude'un sohbet robotu tarafından keşfedilen güvenlik açıklarını kullanarak siber saldırılar gerçekleştirmek veya kötü amaçlı yazılım oluşturmak için kullanılmasını da açıkça yasakladı.

Şirket ayrıca hukuk, sağlık, sigorta, finans, istihdam, akademik testler ve gazetecilik gibi çeşitli alanlardaki yüksek riskli kullanımlara ilişkin gerekliliklerini de netleştirdi. Tüm bu durumlarda, Claude'un yanıtlarının yayınlanmadan önce insan incelemesinden geçirilmesi zorunludur.