RAG nedir? Belgelerinizle cevap veren yapay zeka

Dil modeline cevap yazmadan önce kendi belgelerinizde arama yaptırmak: sistemin parçaları, ters giden yerler, sabit soru setiyle test ve kişisel veri noktaları.

· 11 dk okumaYapay zeka

Kısa cevap

RAG, bir dil modelinin cevap yazmadan önce şirketin kendi belgelerinde arama yapıp bulduğu bölümleri bağlam olarak kullanmasıdır. Sistem belgeler, parçalara bölme, embedding, arama, cevap adımı ve kaynak göstermeden oluşur. Eski belge, yanlış parça ve kaynaksız cevap en sık hatalardır; sabit soru setiyle test edilir.

Yeni başlayan bir çalışan, şirket içi asistana “yıllık izin devri nasıl işliyor?” diye soruyor. Asistan kendinden emin bir cevap veriyor. Cevap, geçen yıl yürürlükten kalkan bir İK belgesinden geliyor; güncel belge aynı klasörde duruyor ama asistan onu hiç bulmuyor. Bu yazıdaki şirket kurgusaldır. RAG nedir sorusu tam burada işe yarar: asistan belgelerinizden cevap veriyorsa, cevabın kalitesi önce hangi belgeyi bulduğuna, sonra bulduğunu nasıl kullandığına bağlıdır.

Müşteriye dönük sohbet kutusunun adımlarını yapay zeka asistanı nasıl kurulur yazısında anlattık. Bu yazı o asistanın altındaki katmana, yani belgelerden cevap kurma düzenine bakıyor.

RAG dil modeline ne ekler

RAG, retrieval-augmented generation ifadesinin kısaltmasıdır; Türkçesi aramayla desteklenen cevap üretimidir. Sözlükteki tanımıyla model, cevap yazmadan önce işletmenin kendi belgelerinden ilgili bölümleri bulur ve bunları bağlam olarak alır.

Bu adı taşıyan akademik çalışma, Lewis ve arkadaşlarının 2020 tarihli makalesidir. Yazarlar, önceden eğitilmiş bir dil modelini bir belge dizinine arama yoluyla bağlayan modelleri inceler. Özette, bu modellerin yalnızca modelin kendi bilgisine dayanan bir karşılaştırma modeline göre daha özgül, çeşitli ve gerçeğe uygun metin ürettiğini bildirirler. Aynı özet, önceden eğitilmiş modellerde kararların kaynağını göstermenin ve bilgiyi güncellemenin açık araştırma sorunları olduğunu söyler.

İşletme için sonuç şudur: model sizin belgelerinizle yeniden eğitilmez. Belgeler her soruda aranır. Bu yüzden bir belgeyi güncelleyip dizini yenilediğinizde asistan yeni bilgiyi kullanabilir ve cevabın hangi dosyadan geldiği gösterilebilir. RAG yalnızca cevap üretir; sipariş açmak ya da iade başlatmak gibi iş yapan sistemler için yapay zeka ajanı yazısına bakın.

Bir RAG sisteminin altı parçası

Sistem iki ayrı zamanda çalışır. Belgeler eklendiğinde ya da değiştiğinde bir hazırlık yapılır: belgeler parçalara bölünür, her parça için embedding hesaplanır ve sonuç bir dizine yazılır. Embedding, bir metnin anlamını sayı listesine çeviren gösterimdir; anlamca yakın metinlerin sayıları da yakın çıkar. Her soru geldiğinde ise dizinde arama yapılır, bulunan parçalarla cevap yazılır ve cevabın yanına kaynak konur.

RAG sisteminin akışı: belgelerin dizine hazırlanması, her soruda arama, cevap ve kaynak, parça yoksa insana devir Hazırlık (belge değişince) Belgeler Parçalara bölme Embedding hesaplama Dizin vektör deposu Her soruda Soru Arama En ilgili parçalar Cevap adımı Cevap ve kaynak Parça yoksa: tahmin yok, insana devir RAG sisteminin akışı: belgelerin dizine hazırlanması, her soruda arama, cevap ve kaynak, parça yoksa insana devir Hazırlık (belge değişince) Belgeler Parçalara bölme Embedding hesaplama Dizin vektör deposu Her soruda Soru Arama En ilgili parçalar Cevap adımı Cevap ve kaynak Parça yoksa: tahmin yok, insana devir
Şekil: Belgeler önceden parçalanıp dizine yazılır; her soruda dizinde arama yapılır, bulunan parçalardan kaynaklı cevap kurulur, parça yoksa konuşma insana gider.

OpenAI’nin retrieval rehberi, bir vektör deposuna eklenen dosyanın otomatik olarak parçalara bölündüğünü, embedding’e çevrildiğini ve dizine alındığını anlatır. Aynı rehbere göre arama, ilgili parçaları, benzerlik puanlarını ve kaynak dosyayı döndürür. Anlamsal arama, soruyla çok az ortak kelime taşıyan ya da hiç taşımayan ama aynı şeyi anlatan sonuçları da bulabilir.

Altı parçayı ve her birinin en sık bozulduğu yeri aşağıdaki tabloda topladık.

Parça Ne yapar En sık bozulduğu yer
Belgeler Cevabın tek kaynağıdır Eski ve güncel sürümün yan yana durması
Parçalara bölme Belgeyi aranabilir bölümlere ayırır Parça, hangi ürüne ya da döneme ait olduğunu kaybeder
Embedding Her parçanın anlamını sayıya çevirir Tam eşleşme gerektiren sorularda, örneğin kod ve madde numaralarında zayıf kalır
Arama Soruya en yakın parçaları getirir Doğru parça gelmez, yanlış parça gelir
Cevap adımı Soruyu ve parçaları modele verip cevap yazdırır Model parçanın dışına çıkıp tahmin yürütür
Kaynak gösterme Cevabın yanına dosya ve bölüm yazar Kaynak yoktur ya da cevabı desteklemez

Kurulum: altı adım

  1. Önce soruları toplayın. Gelen kutusundan, destek kayıtlarından ve çalışanların sorduklarından gerçek soruları yazın. Bu liste hem kapsamı belirler hem de ileride test setinin ilk hâli olur.
  2. Belgelerin sahibini ve tarihini yazın. Her belgenin bir sorumlusu ve son güncelleme tarihi olsun. Çelişen ya da eskimiş sürümleri dizine almadan önce çıkarın.
  3. Parçaları bağlamıyla bölün. Parçaları başlık ve madde sınırlarından ayırın; her parçaya dosya adı, bölüm başlığı ve sürüm tarihi ekleyin. Anthropic’in bağlamsal arama yazısı, bir parçanın hangi şirketten ya da hangi dönemden söz ettiğini taşımadığında aramanın zorlaştığını örnekle gösterir ve parçaya açıklayıcı bağlam eklemeyi önerir.
  4. Aramayı iki yöntemle kurun. Aynı yazı, embedding’lerin kritik tam eşleşmeleri kaçırabildiğini söyler ve embedding ile anahtar kelime aramasını (BM25) birleştirmeyi anlatır. OpenAI’nin rehberinde bir puan eşiği de var: eşiği yükseltmek daha ilgili parçaları bırakır ama işe yarayabilecek bazılarını dışarıda bırakabilir. Kullandığınız araçta böyle bir eşik varsa değerini test setinizle seçin.
  5. Cevap adımına kuralları yazın. Modele yalnızca verilen parçalara dayanmasını, parça yetmiyorsa “bu belgelerde bulamadım” demesini ve her cevabın yanına dosya ile bölümü yazmasını söyleyin. Bulamadığı durumda konuşmanın bir insana nasıl devredileceğini asistan kurulumu yazısındaki devir adımı anlatıyor.
  6. Erişimi kullanıcıya göre sınırlayın. Herkes her belgeyi aratabiliyorsa, maaş yazısı ile ürün kılavuzu aynı dizinde durmasın. Ayrıntısı aşağıdaki kişisel veri bölümünde.

Nerede ters gider

Eski belge. Dizin yalnızca hazırlık sırasında gördüğü hâli bilir. Belge değişip dizin yenilenmezse asistan eski cevabı kaynak göstererek verir. OWASP’ın LLM08 maddesi, birden çok kaynaktaki verinin birbiriyle çelişmesini ve bilgi tabanına kasıtlı ya da kasıtsız bozuk veri girmesini ayrı riskler olarak sayar. Bizim önerimiz: her belgeye bir sürüm tarihi koymak ve belge değiştiğinde dizini yenileyen bir kural kurmak.

Yanlış parça. Arama, soruya benzeyen ama cevabı taşımayan bir bölümü getirebilir. Model eldeki parçayla bir cevap yazar ve cevap akıcı olduğu için hata fark edilmez. Bunu yakalamanın yolu, cevapla birlikte aramanın getirdiği parçaları da kontrol etmektir.

Kaynaksız cevap. Cevapta dosya ve bölüm yoksa kimse doğruluğunu hızlıca denetleyemez. Kaynak yazılmışsa da cevabı gerçekten desteklediğine bakın; bir dosya adının yazılması cevabın doğru olduğunu göstermez.

Sabit soru setiyle test

RAG sistemi bir kez denenip bırakılmaz. Belgeler ve ayarlar değiştikçe davranış değişir. Çözüm, değişmeyen bir soru seti tutmak ve her değişiklikten sonra aynısını çalıştırmaktır. Her soru için iki ayrı şeyi işaretleyin: doğru parça getirildi mi, ve cevap bu parçaya uygun mu. Parça yanlışsa sorun aramadadır; parça doğru, cevap yanlışsa sorun cevap adımındadır.

Listeye her türden birkaç örnek koyun. Aşağıdaki tablo bir başlangıç taslağıdır.

Soru türü Beklenen sonuç Neyi yakalar
Cevabı tek belgede yazan soru Doğru cevap ve doğru kaynak Temel çalışma
Cevabı iki bölüme yayılmış soru İki bölüm de getirilir Parça sınırı sorunu
Belgelerde cevabı olmayan soru “Bulamadım” ve devir Uydurma cevap
Eski ve yeni sürümü olan konu Yalnızca güncel belge Eski belgenin dizinde kalması
Aynı soru farklı kelimelerle Aynı cevap Arama zayıflığı
Yetkisi olmayan kullanıcının sorusu Cevap verilmez Erişim sınırının delinmesi

Bir ayar değiştiğinde bütün seti baştan çalıştırın; bir düzeltme başka bir cevabı bozabilir. Sonuçları tarihle birlikte saklarsanız sistemin zamanla iyileşip iyileşmediğini görürsünüz.

Belgelerde kişisel veri varsa

Sözleşmeler, özlük dosyaları ve müşteri yazışmaları kişisel veri taşır. Dizine alınan her belge, o verinin yeni bir yerde işlenmesi demektir. Kişisel Verileri Koruma Kurumu’nun üretken yapay zeka rehberi şu noktaları öne çıkarır.

  • Veri minimizasyonu. Rehber, kullanılan kişisel verinin yalnızca gerekli olanla sınırlı tutulması gerektiğini söyler. Asistanın sorularına cevap vermek için gerekmeyen belgeleri dizine almayın.
  • Saklama süresi. Rehber, hangi kişisel verinin ne kadar süreyle tutulacağının düzenli gözden geçirilmesini ve saklama ile imha politikaları geliştirilmesini önerir. Bizim önerimiz: silinen bir belgeyi dizinden ve kayıtlardan da silmek.
  • Yurt dışına aktarım. Yurt dışında yerleşik bir hizmet sağlayıcıyla çalışılıyorsa aktarım 6698 sayılı Kanun’un 9. maddesine ve ilgili yönetmeliğe uygun olmalıdır. Sağlayıcının veriyi hangi ülkede işlediğini ve belgelerin eğitimde kullanılıp kullanılmadığını sözleşmeden okuyun.
  • Aydınlatma. Rehber, Kanun’un 10. maddesindeki aydınlatma yükümlülüğüne de değinir. Belgelerdeki kişilerin verisi asistan için de işleniyorsa, mevcut aydınlatma metninizin bunu karşılayıp karşılamadığını hukukçunuzla kontrol edin.

Güvenlik tarafında OWASP’ın LLM08 maddesi önlemler arasında şunları sayar: yetkiye duyarlı erişim denetimi ve dizindeki arama işlemlerinin ayrıntılı kaydı. Kullanıcı grupları aynı dizini paylaşıyorsa bir kullanıcının sorusu başka birinin belgesinden parça getirebilir. Bu yüzden parçalara hangi grubun görebildiğini etiketleyin ve aramayı o etikete göre süzün. Çerçeve için KVKK sözlük maddesine de bakabilirsiniz; hukuki değerlendirme için kendi hukukçunuza danışın.

Sık yapılan hatalar

  • Dizini bir kez kurup belge değişince yenilememek.
  • Cevabı kontrol edip aramanın getirdiği parçaya hiç bakmamak.
  • Kaynak göstermeyi isteyip kaynağın cevabı desteklediğini denetlememek.
  • Hiç test seti tutmamak; her ayar değişikliğini hissiyatla değerlendirmek.
  • Erişim sınırını yayından sonraya bırakmak.
  • Tüm klasörü olduğu gibi dizine atmak; taslakları, kopyaları ve kişisel verili dosyaları ayıklamamak.

Sık sorulanlar

RAG ile modeli kendi verimizle eğitmek aynı şey mi?

Hayır. RAG’de belgeler modelin içine işlenmez, her soruda aranır ve cevap yazılırken bağlam olarak verilir. Bu yüzden güncelleme kolaydır. Sağlayıcının gönderdiğiniz metni nasıl sakladığı ve eğitimde kullanıp kullanmadığı ise sözleşme koşullarına bağlıdır.

RAG yanlış bilgiyi tamamen önler mi?

Hayır. Arama yanlış parçayı getirebilir, belge eski olabilir, model parçanın dışına çıkabilir. RAG cevabı belgelere bağlar ve denetlenebilir kılar; doğruluk yine belgelerin ve aramanın kalitesinden gelir. Bu yüzden sabit soru seti ve insan kontrolü gerekir.

Nereden başlamalı?

Tek bir konu alanıyla, örneğin yalnızca iade ve kargo belgeleriyle başlayın. Küçük bir alanda test setini kurmak, hataları görmek ve belgeleri düzeltmek kolaydır. Genişletmeyi test sonuçlarına bağlayın. Başka hangi işlerin otomasyona uygun olduğuna iş süreci otomasyonu örnekleri yazısından bakabilirsiniz.

Bugün yapabileceğiniz tek şey

Son haftalarda size gelen gerçek soruları bir sayfaya yazın. Her sorunun yanına cevabın bulunduğu belgenin adını ve son güncelleme tarihini not edin. Belgesini gösteremediğiniz ya da tarihi eski çıkan sorular, RAG kurulmadan önce temizlenecek ilk işlerdir; kalan liste de sabit test setinin ilk taslağı olur.

Bu işi birlikte kurmak isterseniz, belgelerinizden kaynaklı cevap veren asistanı nasıl kurduğumuzu otomasyon ve yapay zeka hizmetimiz sayfasında anlatıyoruz.

Kaynaklar

Bu yazı genel bilgi vermek için hazırlandı; hukuki, mali ya da teknik danışmanlık yerine geçmez. Platformlar, kuralları ve mevzuat zamanla değişir; 15 Kasım 2026 tarihinden bu yana değişmiş ya da küçük hatalar içeren bilgiler olabilir. İşinizle ilgili bir karar vermeden önce güncel resmi kaynakları kontrol edin ya da bize yazın.

Diğer yazılar

Projenizi
anlatın.

Formu doldurun ya da doğrudan yazın; görüşme gününü birlikte belirleriz.

İlk görüşmeyi Detmore’un kurucusu Deniz Sezer yapar.

İlk görüşme ücretsiz · Bir iş gününde yanıt · 2 ila 3 günde yazılı teklif · NDA hazır

Neye ihtiyacınız var? birden fazla seçebilirsiniz

Ad, e-posta ve telefon zorunludur.

İletişim

Bir iş günü içinde dönüyoruz.