AI Filigranlama ve İçerik Etiketleme
Watermark, C2PA içerik kimlik bilgileri ve görünür etiketler
AI ile üretilmiş ya da değiştirilmiş görsel, ses, video ve metni insanlar ve makineler için tanınabilir kılan teknikler: içeriğe gömülü görünmez filigranlar, imzalı köken (provenance) meta verisi ve kullanıcıya gösterilen görünür etiketler.
Üretken modellerin çıktısı insan yapımı içerikten giderek daha zor ayırt ediliyor. AI filigranlama ve içerik etiketleme, bir içeriğin AI ile üretildiğini ya da değiştirildiğini gösteren işaretlerin tamamına verilen addır. Üç katman vardır ve biri diğerinin yerini tutmaz:
1. Görünmez filigran (watermark). İşaret içeriğin kendisine gömülür; insan fark etmez, bir dedektör okur.
- Görsel, ses, video: Piksellere ya da ses sinyaline istatistiksel bir desen eklenir. Google DeepMind'ın SynthID'si görsel, ses, video ve metin için bu tür filigranlar ekleyen bir sistemdir. SynthID-Image makalesine (arXiv 2510.09263, Ekim 2025) göre Google hizmetlerinde on milyardan fazla görsel ve video karesi bu yöntemle işaretlendi. Hedeflenen sağlamlık, yeniden boyutlandırma, kırpma, sıkıştırma ve yaygın fotoğraf filtreleri gibi sıradan dönüşümlere karşıdır; kasıtlı silme saldırıları ayrı bir tehdit modeli olarak ele alınır. Makale, filigranın tek başına köken sorununu çözmediğini ve C2PA gibi araçlarla birlikte kullanılması gerektiğini açıkça yazar.
- Metin: Metinde "piksel" olmadığı için işaret, token seçimine gömülür. Kirchenbauer ve arkadaşlarının yöntemi (arXiv 2301.10226, 2023) her adımda sözlüğün bir kısmını gizli bir anahtarla "yeşil liste" yapar ve örneklemeyi hafifçe o listeye kaydırır; dedektör yeşil token oranının şans eseri beklenenden yüksek olup olmadığını istatistiksel olarak test eder. SynthID-Text (Nature, Ekim 2024) aynı fikri üretim ortamına taşıdı: yalnızca örnekleme adımını değiştirir ve makalede yaklaşık 20 milyon Gemini yanıtı üzerinde kalite kaybı gözlenmediği raporlanır. SynthID-Text açık kaynaktır (Hugging Face Transformers v4.46.0+).
2. Köken meta verisi (provenance). İçeriğin yanına "kim, hangi araçla, ne zaman üretti/değiştirdi" bilgisini taşıyan, kriptografik olarak imzalanmış bir kayıt eklenir. Yaygın standart C2PA (Coalition for Content Provenance and Authenticity) ve onun kullanıcıya gösterilen biçimi Content Credentials'dır. İmza, kaydın sonradan değiştirilip değiştirilmediğini gösterir. C2PA ayrıca meta veri silinirse içeriği kayda yeniden bağlamak için filigran ya da parmak izi kullanan "soft binding" mekanizması tanımlar.
3. Görünür etiket. "AI ile üretildi" yazısı, bir simge ya da videonun başında bir uyarı. İnsanlar için tek doğrudan sinyal budur. AB Komisyonu, deepfake ve kamuyu bilgilendiren AI metinlerinin etiketlenmesi için serbestçe kullanılabilen bir AB simge seti yayımladı.
Hukuki bağlam. EU AI Act Madde 50(2), sentetik ses, görsel, video ya da metin üreten AI sistemlerinin sağlayıcılarından çıktıları makinece okunabilir biçimde işaretlemeyi ve tespit edilebilir kılmayı ister. Gerekçe bölümü (Recital 133) örnek teknik olarak filigranları, meta veri tanımlamalarını, kriptografik köken yöntemlerini, loglama ve parmak izini sayar. Madde 50(4) ise deepfake yayımlayan kullanıcılardan (deployer) görünür bir açıklama ister. Yükümlülükler 2 Ağustos 2026'dan beri uygulanıyor; bu tarihten önce piyasaya çıkmış sistemler için Madde 50(2) son tarihi 2 Aralık 2026 (Madde 111(4), Digital Omnibus ile eklendi). Ayrıntılar için Madde 50 rehberi.
Tespitin sınırları. Hiçbir katman tek başına güvenilir değildir:
- Meta veri, ekran görüntüsü almak, yeniden kodlamak ya da çoğu sosyal medya platformuna yüklemek gibi işlemlerle kolayca kaybolur.
- Metin filigranları kısa metinlerde zayıftır; başka bir modelle yeniden yazdırma (paraphrase) sinyali seyreltir. Kirchenbauer ve arkadaşlarının takip çalışması (arXiv 2306.04634) insan ya da model yeniden yazımı sonrası tespitin daha uzun metin gerektirdiğini gösterir. Google'ın kendi belgesi de SynthID-Text'in olgusal yanıtlarda daha az etkili olduğunu, metin baştan yeniden yazılınca ya da başka dile çevrilince dedektör güveninin ciddi biçimde düştüğünü belirtir.
- Zhang ve arkadaşları (arXiv 2311.04378, "Watermarks in the Sand"), belirli varsayımlar altında kararlı bir saldırganın güçlü filigranları silebileceğini savunur.
- Bugün bir filigran genellikle yalnızca onu ekleyen sağlayıcının dedektörüyle okunur (davranış kuralları imzacılara 2 Şubat 2027'ye kadar birlikte çalışabilir bir tespit çözümü taahhüdü getiriyor). "Filigran yok" sonucu, "insan yazdı" demek değildir.
- Filigran dışı "AI metin dedektörleri" (üslup tahmini yapan sınıflandırıcılar) bir işaret okumaz, tahmin yürütür; yanlış pozitif üretebilir ve tek başına bir kişiyi suçlamak için kullanılmamalıdır.
Bu yüzden pratik yaklaşım katmanlıdır: imzalı meta veri + görünmez filigran + gerektiğinde görünür etiket. Komisyon'un 10 Haziran 2026'da yayımlanan nihai Davranış Kuralları (Code of Practice on Transparency of AI-Generated Content, 1. bölüm, Tedbir 1.1) da bunu istiyor:
- Ses, görsel, video ve kapsayıcı (container) içindeki metin için en az iki makinece okunabilir katman: dijital olarak imzalanmış ve zaman damgalı meta veri + görünmez filigran.
- Meta veri taşıyamayan serbest metin için tek katman, yani filigran yeterli. 200 token'dan kısa "çok kısa metin" filigran yükümlülüğünden muaf; daha uzun metin, güvenilirliği düşük olsa da filigranlanmalı.
- Parmak izi ya da loglama isteğe bağlı ek bir önlem; tek başına yeterli sayılmıyor.
- Kurallar C2PA'yı adıyla anmıyor; meta veri için "yerleşik standartların" benimsenmesini istiyor (Tedbir 3.4).
- İmzacılar tespit aracını içeriğe maruz kalan kitleye (gerekirse kamuya) açmalı; serbest metin filigranı dedektörüne erişim, güvenilirliği düşük olduğu için doğrulanmış uzmanlarla sınırlandırılabilir (Alt tedbir 2.1.2).
Banknot güvenliği gibi. Işığa tutunca görünen filigran kâğıdın içindedir ve sahtesini yapmak zordur ama imkânsız değildir (görünmez filigran). Banknotun seri numarası merkez bankasının kaydıyla eşleşir (imzalı köken kaydı). Üzerindeki "TÜRKİYE CUMHURİYET MERKEZ BANKASI" yazısı ise herkesin okuyabildiği etikettir. Kasiyer tek bir özelliğe değil, hepsine birlikte bakar.
Bir e-ticaret şirketi ürün fotoğraflarını bir görsel üretim özelliğiyle hazırlıyor ve aracı AB'deki satıcılara da sunuyor:
- Sağlayıcı olarak (Madde 50(2)): Aracı kendi adıyla sunduğu için üretilen her görsele C2PA manifesti ekliyor ("generator: X, AI ile üretildi") ve kullandığı model sağlayıcısının görünmez filigranını açık bırakıyor. Kendi dedektörü ya da sağlayıcının doğrulama aracı için bir uç nokta tanımlıyor.
- Test: Görseli JPEG'e yeniden sıkıştırıp yüzde 70'e kırpıyor; C2PA manifesti düşüyor, filigran hâlâ okunuyor. Ekran görüntüsünde de meta veri yok. Sonuç kayda geçiyor: "meta veri tek başına yetmiyor".
- Deepfake ayrımı: Ürün fotoğrafı gerçek bir kişiye ya da olaya benzemediği sürece Madde 50(4) deepfake etiketi gerekmiyor; ama pazarlama ekibi gerçek bir ünlüye benzeyen bir yüz üretirse, o görseli yayımlayan taraf görünür etiket koymak zorunda.
- İletişim: Ürün sayfasında "Görseller AI ile oluşturulmuştur" notu gönüllü olarak gösteriliyor; tüketici şikâyetlerine karşı da koruyucu.
# Kirchenbauer vd. (2023) fikrinin oyuncak bir sürümü.
# Gerçek sistemler daha karmaşık anahtar/bağlam şemaları kullanır.
import hashlib, math
GAMMA = 0.25 # her adımda sözlüğün yeşil kısmı
KEY = b"gizli-anahtar" # sağlayıcıda kalır
def is_green(prev_token: int, token: int) -> bool:
h = hashlib.sha256(KEY + prev_token.to_bytes(4, "big")
+ token.to_bytes(4, "big")).digest()
return h[0] / 255 < GAMMA
def z_score(tokens: list[int]) -> float:
n = len(tokens) - 1
green = sum(is_green(a, b) for a, b in zip(tokens, tokens[1:]))
# filigransız metinde beklenen yeşil oranı GAMMA'dır
return (green - GAMMA * n) / math.sqrt(n * GAMMA * (1 - GAMMA))
# z > ~4 ise "filigranlı" de. Kısa metinde n küçük olduğu için
# z-skoru güvenilmezdir; yeniden yazım yeşil oranını düşürür.# Açık kaynak c2patool (contentauth/c2patool) ile manifesti oku
c2patool urun-gorseli.jpg
# Yeniden sıkıştırılmış ya da ekran görüntüsü alınmış kopyada
# manifest genellikle yoktur:
c2patool ekran-goruntusu.png
# → "No claim found" benzeri bir çıktı: meta veri kaybolmuş- Görsel, ses, video ya da metin üreten bir özelliği AB'deki kullanıcılara sunuyorsan (Madde 50(2))
- Gerçek kişilere, yerlere ya da olaylara benzeyen sentetik içerik yayımlıyorsan (Madde 50(4) deepfake açıklaması)
- Kendi ürettiğin içeriğin sonradan senin adına sahte içerikle karıştırılmasını önlemek istiyorsan (imzalı köken kaydı)
- Haber, kamu duyurusu gibi kamuyu bilgilendiren metinleri insan editör kontrolü olmadan AI ile yayımlıyorsan
- Bir metnin öğrenci ya da çalışan tarafından AI ile yazıldığını 'kanıtlamak' için tek başına — filigran yalnızca onu ekleyen sağlayıcının dedektörüyle okunur, filigran dışı dedektörler ise tahmin yürütür
- Yazım düzeltme, renk ayarı gibi içeriği ya da anlamını esaslı biçimde değiştirmeyen standart düzenleme araçları için Madde 50(2) işaretlemesi gerekmez
- Görünür etiketi makinece okunabilir işaretin yerine koymak — ikisi farklı yükümlülükler ve farklı taraflar içindir
Meta veriyi kalıcı sanmak
C2PA manifesti ekran görüntüsü, yeniden kodlama ve birçok platformun yükleme işlemiyle silinebilir. Meta veriyi görünmez filigranla destekle ve kendi yayın hattında meta veriyi silen adımları tespit et.
'Filigran yok' = 'insan yazdı' çıkarımı
Dedektör yalnızca kendi şemasını tanır. Başka bir modelle üretilmiş ya da yeniden yazılmış metin temiz görünebilir. Negatif sonuçla karar verme.
Kısa metinde istatistiğe güvenmek
Metin filigranı istatistiksel bir testtir; birkaç cümlelik bir yanıtta güvenilir sinyal oluşmaz. Ürün açıklaması, sohbet yanıtı gibi kısa içerikte metin filigranına değil, meta veriye ve arayüz bildirimine yaslan.
Hukuki danışmanlık değildir
Bu sayfa bilgilendirme amaçlıdır. Madde 50 kapsamı ve istisnaları için AI Act metnine, Komisyon'un Madde 50 kılavuzuna ve bir hukukçuya başvur.