Kurum içi asistan projelerinin çoğu aynı yerde tökezliyor: model doğru cevap veriyor ama nereden bulduğunu söyleyemiyor, ya da kullanıcının görmemesi gereken bir belgeden alıntı yapıyor. İkisi de mimari sorunu.
Sorun: model biliyor ama nereden bildiğini söyleyemiyor
Kurum içi asistan projelerinde en sık karşılaşılan iki hata var. Birincisi, modelin cevabı doğru olsa bile kaynağını gösterememesi; ikincisi, kullanıcının yetkisi olmayan bir belgeden alıntı yapması. İkisi de model sorunu değil, mimari sorunudur.
Doğru mimari: arama önce, cevap sonra
Çalışan yaklaşım şu: model cevap üretmeden önce kurum belgelerinizde arama yapar, ilgili parçaları bulur ve cevabını yalnızca o parçalara dayandırır. Bu yönteme genel olarak RAG denir. Modeli yeniden eğitmeye gerek kalmaz; belge güncellendiğinde cevap da güncellenir.
- Belge hazırlığı — kaynakların parçalara ayrılması ve indekslenmesi
- Arama katmanı — soruya en yakın parçaların bulunması
- Yetki filtresi — kullanıcının göremeyeceği belgelerin aramadan çıkarılması
- Cevap ve kaynak — her cevabın hangi belgeye dayandığının gösterilmesi
Yetkilendirme: en kritik ve en çok atlanan adım
Yetki filtresi arama katmanının içinde olmalıdır, cevabın sonrasında değil. Model önce her şeyi okuyup sonra filtrelenirse, veri zaten sızmış olur. Doğru kurulumda kullanıcının rolü sorguya dahil edilir ve yetkisiz belgeler hiç okunmaz.
Kurum verisiyle çalışan bir asistanda güvenlik, cevabın üstüne eklenen bir kontrol değil; aramanın içine gömülü bir kısıttır.
Doğruluk nasıl ölçülür?
“İyi çalışıyor gibi” bir ölçüm değildir. Kurulumdan önce 50–100 soruluk bir değerlendirme seti hazırlanır; her sorunun beklenen cevabı ve kaynağı yazılır. Sistem her güncellendiğinde bu set tekrar çalıştırılır. Böylece bir iyileştirmenin başka bir yeri bozup bozmadığı görülür.
Veri güvenliği: net cevaplar
Doğru kurulumda kurum verisi modelin eğitimine hiç girmez. Veri kendi altyapınızda kalabilir, işlemler kayıt altına alınır ve gerektiğinde çözümün tamamı kendi sunucularınızda çalışır. Bunlar tercih değil, kurumsal projelerde varsayılan olmalıdır.
Sık sorulan sorular
Şirket verimi yapay zekâya vermek güvenli mi?
Doğru mimaride veri modelin eğitimine hiç girmez. Veri kendi altyapınızda kalır, model yalnızca soru anında yetkili olduğunuz belgeleri okur ve cevabında kaynağını gösterir.
RAG nedir ve neden gerekir?
RAG, modelin cevap üretmeden önce kurum belgelerinizde arama yapmasıdır. Modeli yeniden eğitmeden güncel ve kaynaklı cevap almanın en pratik yoludur.
