NIST AI RMF
NIST Yapay Zekâ Risk Yönetimi Çerçevesi
ABD Ulusal Standartlar ve Teknoloji Enstitüsü'nün (NIST) yapay zekâ risklerini Govern, Map, Measure ve Manage adlı dört işlev üzerinden yönetmek için yayımladığı, gönüllü kullanıma yönelik çerçeve.
NIST AI Risk Management Framework (AI RMF 1.0), belge numarasıyla NIST AI 100-1, 26 Ocak 2023'te yayımlandı. Bir yasa değil, gönüllü kullanım için tasarlanmış bir çerçevedir: kimseye ceza kesmez, sertifikası da yoktur. Ama ortak bir dil sağladığı için hem ABD'de hem dünyada AI risk yönetiminin en çok atıf yapılan referanslarından biri oldu.
Çerçeve önce güvenilir AI'ın özelliklerini tanımlar: geçerli ve güvenilir (valid & reliable), emniyetli (safe), güvenli ve dayanıklı (secure & resilient), hesap verebilir ve şeffaf, açıklanabilir ve yorumlanabilir, mahremiyeti güçlendiren (privacy-enhanced), zararlı yanlılığı yönetilen adil (fair).
Çekirdeği (Core) dört işlevden oluşur: - GOVERN (Yönet): Risk kültürü, politikalar, roller, sorumluluklar, üçüncü taraf riskleri. Diğer üçünün içine işleyen kesişen (cross-cutting) işlevdir. 6 kategori. - MAP (Haritala): Bağlamı anla. Sistemin amacı ne, kim kullanacak, kimi etkileyecek, hangi varsayımlara dayanıyor, olası faydalar ve zararlar neler? 5 kategori. - MEASURE (Ölç): Haritalanan riskleri nicel ve nitel yöntemlerle ölç, test et, izle: doğruluk, güvenlik, adalet/yanlılık, mahremiyet, çevresel etki. 4 kategori. - MANAGE (Yönet/Müdahale et): Risklere öncelik ver, karar al (azalt, aktar, kabul et ya da kullanma), olaylara müdahale et, gerekirse sistemi devreden çıkar. 4 kategori.
Her kategori numaralı alt kategorilere ayrılır (ör. MAP 1.1: amaç ve kullanım bağlamı belgelenir; MEASURE 2.11: adalet ve yanlılık değerlendirilir; MANAGE 2.4: beklenmeyen sonuç veren sistemi devreden çıkarma mekanizması vardır). Bunlar "yapılacaklar listesi" değil, çıktılardır; nasıl yapılacağını NIST'in ayrı yayımladığı Playbook önerir.
Profiller, çerçeveyi bir sektöre ya da teknolojiye uyarlar. En önemlisi 26 Temmuz 2024'te yayımlanan Generative AI Profile (NIST AI 600-1)'dır. Üretken AI'a özgü ya da onunla büyüyen 12 risk tanımlar: KBRN bilgisi, konfabülasyon (hallucination), tehlikeli ve nefret içerikli içerik, veri mahremiyeti, çevresel etki, zararlı yanlılık ve homojenleşme, insan-AI yapılandırması, bilgi bütünlüğü, bilgi güvenliği, fikri mülkiyet, müstehcen/istismar içerik, değer zinciri ve bileşen entegrasyonu. Her risk için dört işleve eşlenmiş somut eylemler önerir.
Ekim 2026 itibarıyla durum: Geçerli sürüm hâlâ AI RMF 1.0'dır. NIST, çerçevenin Beyaz Saray'ın AI Eylem Planı kapsamında revize edildiğini belirtiyor; revize metin henüz yayımlanmadı. Nisan 2026'da kritik altyapı için yeni bir profilin konsept notu çıktı.
AB AI Act gibi bağlayıcı bir düzenlemenin yerine geçmez, ama onun istediği risk yönetimi sürecini kurmak için iyi bir iskelettir.
Bir pilotun kontrol listesi kültürü gibi. Kalkıştan önce rotayı ve hava durumunu anlarsın (Map), göstergeleri okursun (Measure), bir sorun çıkınca prosedürü uygularsın ya da iniş kararı verirsin (Manage). Hepsinin üstünde de kimin kaptan olduğunu, eğitimini ve raporlama kültürünü belirleyen havayolu kuralları vardır (Govern). Kontrol listesi uçağı uçurmaz ama unutulan adımı yakalar.
Bir sigorta şirketi, poliçe sahiplerinin sorularını yanıtlayan bir RAG asistanı kuruyor ve AI RMF'yi rehber olarak kullanıyor:
1. Govern: Asistanın iş sahibi müşteri hizmetleri direktörü. Risk iştahı yazılı: "Asistan tazminat kararı vermez, sadece bilgi verir." Model sağlayıcısı için tedarikçi değerlendirmesi yapılıyor (GOVERN 6). 2. Map: Kullanıcılar poliçe sahipleri; yanlış teminat bilgisi mali zarara yol açabilir. GenAI Profile'dan konfabülasyon, veri mahremiyeti ve bilgi güvenliği (prompt injection) en önemli üç risk olarak seçiliyor. 3. Measure: 300 soruluk bir test seti hazırlanıyor; cevapların kaynakla tutarlılığı, kişisel veri sızıntısı ve injection denemeleri ölçülüyor. Eşik: kaynaksız iddia oranı %2'nin altında. 4. Manage: Eşiği geçemeyen sürüm canlıya çıkmıyor. Canlıda kaynak gösteremeyen cevaplar insana yönlendiriliyor; ciddi bir hata olursa asistanı kapatan bir anahtar ve olay müdahale süreci var.
Hiçbir regülatör bunu zorunlu tutmadı; ama denetim komitesine "riskleri nasıl yönetiyoruz?" sorusunun cevabı artık bir belgeye dayanıyor.
system: AI-031 poliçe asistanı (RAG)
framework: NIST AI RMF 1.0 + GenAI Profile (NIST AI 600-1)
govern:
owner: musteri-hizmetleri-direktoru
risk_appetite: "Bilgi verir, karar vermez"
third_party: vendor-assessment-2026-08.pdf # GOVERN 6
map:
intended_use: "Poliçe teminatı hakkında soru-cevap" # MAP 1.1
affected: [poliçe sahipleri, çağrı merkezi]
genai_risks: # 600-1'deki 12 riskten seçilenler
- confabulation
- data_privacy
- information_security
measure:
eval_set: evals/policy-qa-v4.jsonl # 300 soru
metrics:
unsupported_claim_rate: { threshold: 0.02 }
pii_leak_rate: { threshold: 0.0 }
injection_success_rate: { threshold: 0.01 }
cadence: her sürümde + aylık canlı örneklem
manage:
release_gate: "Tüm eşikler geçilmeden deploy yok"
fallback: "Kaynak gösteremeyen cevap → insan temsilci"
kill_switch: feature-flag/policy-assistant # MANAGE 2.4
incident_runbook: runbooks/ai-incident.md# MAP atölyesi — 60 dakika, ürün + hukuk + güvenlik + destek
1. Sistem tam olarak ne yapacak, ne yapmayacak? (tek cümle)
2. Kim kullanacak, kim etkilenecek ama ekranı görmeyecek?
3. Yanlış cevap verirse en kötü gerçekçi senaryo ne?
4. Hangi veriyi görüyor? Kişisel veri var mı?
5. Hangi varsayımlara dayanıyoruz? (ör. "doküman güncel")
6. GenAI Profile'daki 12 riskten hangileri bizim için geçerli?
7. Bu riskleri nasıl ölçeceğiz? Kabul eşiği ne?
8. Kullanmamak bir seçenek mi? Alternatif ne?
Çıktı: risk kaydı + ölçüm planı (MEASURE için girdi)- Sıfırdan bir AI risk yönetimi süreci kurarken ortak bir dil ve iskelet gerektiğinde
- ABD'deki müşteriler, kamu kurumları ya da yatırımcılar 'NIST AI RMF ile uyumlu musunuz?' diye sorduğunda
- Üretken AI projelerinde hangi risklere bakılacağını sistematik olarak belirlemek için (GenAI Profile)
- ISO/IEC 42001 ya da AI Act hazırlığına girmeden önce olgunluğu artırmak için
- Bir sertifika ya da yasal uyum kanıtı arıyorsan — AI RMF'nin sertifikası yoktur, AI Act uyumu yerine de geçmez
- Tüm alt kategorileri bir kontrol listesi gibi tek tek doldurmaya çalışmak — çerçeve bağlama göre uyarlanmak için yazıldı
- Küçük ve düşük riskli bir iç araç için tam kapsamlı bir uygulama — orantısız bir yük olur
Govern'ü atlamak
Ekipler genellikle doğrudan ölçüme (Measure) atlar. Ama sahibi, risk iştahı ve karar yetkisi belirsizse, ölçüm sonuçları kimsenin harekete geçmediği grafiklere dönüşür.
Ölçmeden 'yönetiyoruz' demek
Map aşamasında listelenen her riskin bir ölçümü ve kabul eşiği olmalı. Eşik yoksa Manage aşamasında 'yayına çıkar mı?' sorusu keyfî cevaplanır.
Tek seferlik çalışma
Çerçeve döngüseldir. Model, veri ya da kullanım değiştiğinde Map ve Measure yeniden çalıştırılmalı; yılda bir yapılan bir değerlendirme canlıdaki kaymayı yakalamaz.
Sürümü takip etmemek
AI RMF 1.0 revize ediliyor. İç dokümanlarda hangi sürüme ve hangi profile dayandığını yaz; yeni sürüm çıktığında eşlemeyi güncelle. Bu sayfa bilgilendirme amaçlıdır.