Audit Case
Neden Üretime Uygun Değil?
Çalışan bir RAG mimarisinin, neden üretim onayı alamadığını gösteren temsili bir denetim vakası.
Bu bir rehber değildir.
Bu bir audit perspektifidir.
Bu vaka, gerçek projelerde tekrar eden mimari varsayımları temsil eder. Spesifik bir firmayı veya sistemi tanımlamaz.
Denetim Bağlamı
İncelenen sistem: Kurum içi dokümanlarla çalışan bir RAG mimarisi. Demo ortamında tutarlı ve ikna edici cevaplar üretiyor. Teknik ekip tarafından “çalışıyor” olarak tanımlanıyor.
Denetim sorusu şu değildi: “Model ne kadar iyi cevap veriyor?”
Asıl soru şuydu: “Bu sistem yanlış bir cevap verdiğinde, bunun nedenini teknik ve hukuki olarak kanıtlayabilir miyiz?”
Denetimde Karşılaşılan Varsayımlar
Bu mimari, farkında olunmadan şu varsayımlara dayanıyordu:
— Doğru cevap, güvenli sistem anlamına gelmez
— Retrieval dokümanı bulduysa risk düşüktür
— Kaynak göstermek bir kalite özelliğidir, zorunluluk değil
Bu varsayımlar demo için yeterlidir. Audit için değildir.
Reddetme Gerekçeleri
1. İzlenebilirlik Yok
Üretilen cevabın hangi dokümana, hangi parçaya, hangi erişim yetkisiyle dayandığı deterministik olarak kanıtlanamıyor. Bu durumda yanlış bilgi üretimi, hukuki sorumluluk ve veri ihlali riski ayrı ayrı değerlendirilemez.
2. Risk Ölçümü Yok
Sistem değerlendirmesi doğruluk, alaka ve akıcılık üzerinden yapılıyor. Ancak prompt manipulation, yetkisiz bilgi ifşası ve cevap üretmemesi gereken durumlar ölçülmüyor. Doğru cevaplar, riskleri maskeleyebilir.
3. Erişim Bağlamı Ayrışmamış
Kullanıcı kimliği ile retrieval, vektör havuzu ve kaynak dokümanlar arasında zorlayıcı bir ayrım yok. Login olmak, yetkili olmak anlamına gelmiyor. Bu, mimari bir güvenlik açığıdır.
Audit Kararı
Bu sistem üretime uygun bulunmamıştır.
Bu kararın sebebi model, kütüphaneler veya açık kaynak bileşenler değildir.
Sebep: Mimari varsayımların, üretim sorumluluğunu taşımamasıdır.
Çalışan bir sistem,
üretime alınabilir bir sistem değildir.
Bu fark demo aşamasında görünmez.
Canlıda ise çok pahalıdır.