RAG nedir? Şirket dokümanıyla cevap veren yapay zekâ

RAG, modelin ezberine güvenmek yerine soruyu şirketin belgelerinde aratıp bulunan parçayla cevap üretir. Fiyat, sözleşme veya prosedür dokümanda yoksa sistem bunu söyler; boşluğu kendisi doldurmaz.

DEM Bilişim, Ümraniye

Model tek başına neden yetmez

Genel bir dil modeli, internette gördüğü örüntüyle konuşur. Sizin fiyat listenizi, bu ayki izin prosedürünüzü veya müşteri sözleşmenizin 7. maddesini bilmez. Bilmediği yerde akıcı bir cümle kurar. Akıcı cümle, doğru cümle değildir. Operasyonda bu, yanlış iskonto ve yanlış taahhüt olarak döner.

RAG ve kurumsal AI tam bu boşluğu kapatır. Soru önce belgede aranır. Cevap, bulunan parçanın içinden kurulur. Altında hangi dosyanın hangi yerine dayandığı görünür. Yeni sürüm yüklenince eski metin cevapta kalmaz.

Dört adım

1. Belge parçalara ayrılır. Sözleşmenin tamamı tek blok olarak aranmaz; ilgili madde bulunur.
2. Parçalar aranabilir hale getirilir. Kullanıcı klasör gezmez, Türkçe sorar.
3. Soruya en yakın parçalar seçilir. Alakasız doküman cevapta malzeme olmaz.
4. Model yalnızca bu parçalarla cevap yazar. Parça zayıfsa “kayıtta yok” der ve işi bir kişiye bırakır.

Bu akış, doküman asistanında somutlaşır. Hukuk sözleşmeyi, satış kataloğu, operasyon prosedürü sorar. Hepsi aynı sohbet kutusuna benzer; arkadaki havuz aynı değildir.

Kim hangi belgeyi görür

Arama, kullanıcının zaten açabildiği belgeyle sınırlıdır. Herkese açık bir kutu, bordroyu ve teklif maliyetini aynı cevaba koyar. Departman sınırı belgede duruyorsa, asistan da o sınırda durur. Bunu sonradan “lütfen sormayın” diye çözmeyiz. Sorgu, yetkisiz parçayı hiç görmez.

İkinci kural kaynak göstermektir. Cevabın altındaki belge adı yoksa kullanıcı rakamı ezberlemek zorunda kalır. Kaynak varsa açar, maddeyi okur, asistanı denetler. Denetlenemeyen asistan üretim aracı değildir.

RAG ne zaman, ince ayar ne zaman

Bilgi sık değişiyorsa RAG gerekir. Fiyat, prosedür, sözleşme ve katalog bu sınıftır. Belge güncellenir, model yeniden eğitilmez. İnce ayar ise üslup, sabit bir görev veya nadiren değişen bir dil için düşünülür. Güncel stok adedini modele ezberletmek, her sabah modeli yeniden eğitmek demektir. Bu işi kayıt çözer.

Ümraniye ofisimizde bunu önce küçük bir havuzla deneriz. Tek departman, güncel ve sahibi belli belgeler, ölçülen sorular. Havuz dağınık ve güncel değilse asistan da dağınık cevap verir. İlk iş yazılım değil, hangi belgenin doğru kopya olduğuna karar vermektir.

Sık sorulan sorular

RAG bir sohbet modeli midir?

Hayır. Sohbet modeli cümleyi kurar. RAG, o cümleden önce ilgili belge parçasını bulur ve modeli o parçayla sınırlar.

Dokümanda cevap yoksa ne olur?

Sistem tahmin yürütmez. Kaynak zayıfsa bunu söyler ve kaydı bir kişiye bırakır.

PDF yüklemek RAG kurmak mıdır?

Hayır. Parçalama, arama, yetki ve kaynak gösterme yoksa yüklenen dosya arşivdir, asistan değildir.

Veri modelin eğitimine gider mi?

Hayır, bu kurulumda gitmemesi gerekir. Belgeler sizin arşivinizde aranır. Sözleşmede bu sınır yazılır, varsayılmaz.