Claude Modellerinde Gizli Filigran Dönemi Başlıyor

Yapay zeka şirketi Anthropic, Claude modelleriyle oluşturulan içeriklerin kaynağını belirlemek amacıyla yeni bir güvenlik sistemi geliştirdi. Şirket, yapay zeka tarafından üretilen metinlere görünmez dijital filigranlar, görsel dosyalara ise C2PA tabanlı dijital imzalar ekleyeceğini açıkladı.

Yapay Zeka İçerikleri Teknik Olarak Takip Edilebilecek

Anthropic tarafından paylaşılan teknik bilgilere göre, yeni Claude modelleriyle birlikte içeriklerin yapay zeka üretimi olup olmadığını anlamaya yardımcı olacak işaretleme sistemi devreye alınacak.

Yeni uygulamanın yalnızca belirli bölgelerle sınırlı kalmayacağı, dünya genelindeki kullanıcılar için geçerli olacağı belirtildi. Sistem; API hizmetleri, Claude Code, Cowork ve sohbet arayüzlerinin yanı sıra çeşitli bulut platformları üzerinden sunulan hizmetlerde de kullanılacak.

Metinlere Görünmez Filigran, Dosyalara Dijital İmza

Geliştirilen sistem iki farklı yöntemle çalışacak. Claude tarafından oluşturulan metinlerin içerisine, okuyucunun fark edemeyeceği ancak teknik araçlarla tespit edilebilecek matematiksel filigranlar yerleştirilecek.

Bu filigranların metnin anlamını veya doğal akışını bozmayacağı, kopyalama işlemleri sırasında da büyük ölçüde korunacağı ifade edildi.

Görsel dosyalarda ise C2PA protokolüne dayalı dijital imzalar kullanılacak. SVG, PNG ve JPG formatındaki içeriklerde yer alacak bu imzalar sayesinde dosyanın oluşturulma sürecine ilişkin bilgiler takip edilebilecek.

Düzenlemeler Filigranı Etkileyebilir

Anthropic, sistemin bazı durumlarda etkisini kaybedebileceğine de dikkat çekti. Metnin kapsamlı şekilde değiştirilmesi, farklı dillere çevrilmesi veya ekran görüntüsü alınması gibi işlemlerin dijital izleri zayıflatabileceği belirtildi.

Şirket, kullanıcıların ve geliştiricilerin yapay zeka üretimi içerikleri doğrulayabilmesi için ilerleyen dönemde yeni tespit ve doğrulama araçlarını da kullanıma sunmayı planlıyor.

Yeni uygulamanın, yapay zeka ile oluşturulan içeriklerin daha kolay ayırt edilmesi ve dijital güvenilirliğin artırılması amacıyla geliştirildiği kaydedildi.