RAG (Retrieval-Augmented Generation, Türkçesiyle geri getirmeyle zenginleştirilmiş üretim), bir yapay zekanın cevap yazmadan önce sizin belgelerinizde ilgili bilgiyi bulup bu bilgiye dayanarak yanıt vermesini sağlayan yöntemdir. Model ezbere konuşmak yerine, önündeki kaynaktan okuyarak konuşur. Böylece chatbotunuz tahmin yürütmek yerine kendi içeriğinizden yanıt verir.
Bunu bir açık kitap sınavı gibi düşünün. Kapalı kitap sınavında öğrenci aklındakini yazar, bazen eksik hatırlar, bazen kendinden emin bir şekilde yanlış yazar. Açık kitap sınavında ise önce doğru sayfayı bulur, sonra cevabı o sayfadan çıkarır. RAG, yapay zekaya bu "kitabı" yani sizin fiyat listenizi, iade politikanızı, ürün kataloğunuzu verir.
Bu yazıda RAG'ın ne olduğunu, neden ortaya çıktığını, üç adımda nasıl çalıştığını ve işletmenizde nerede işe yarayacağını teknik geçmiş gerektirmeden anlatıyoruz. Sonunda da RAG'ı kod yazmadan nasıl kullanabileceğinize bakıyoruz.
RAG nedir? Bir cümlelik tanım
RAG ne demek? Kısaltma, İngilizce "Retrieval-Augmented Generation" ifadesinden gelir: retrieval (getirme/geri çağırma), augmented (zenginleştirilmiş), generation (üretim). Yani yapay zekanın önce ilgili bilgiyi getirdiği, sonra bu bilgiyle zenginleştirilmiş bir yanıt ürettiği yaklaşım.
Terim akademik dünyadan geliyor. Yöntemi adlandıran makale, Patrick Lewis ve ekibinin 2020'de yayımladığı Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks çalışması. Araştırmacılar, dil modelinin kendi içindeki bilgiyi (parametrik bellek) dış bir bilgi kaynağıyla (parametrik olmayan bellek) birleştirdiklerinde modelin daha özgül ve daha olgusal metin ürettiğini bildirdi.
Bugün bu fikir, "yapay zeka X şirketinin belgelerinden cevap versin" diyen hemen her uygulamanın arkasında duruyor. Yani RAG yapay zeka dünyasında bir model değil, bir çalışma biçimi.
Büyük dil modelleri neden tek başına yetmez? Halüsinasyon sorunu
Büyük dil modeli (LLM, Large Language Model), çok büyük miktarda metin üzerinde eğitilmiş ve cümlede sıradaki kelimeyi tahmin ederek yazı üreten yapay zeka modelidir. ChatGPT gibi araçların temelinde bu modeller var. Dil bilgisi, genel kültür ve akıl yürütmede çok iyidirler. Ama işletmeniz söz konusu olduğunda üç ciddi sınırları var:
- Sizi tanımıyorlar. Model, sizin bu ayki fiyat listenizi, şube çalışma saatlerinizi ya da iade koşullarınızı hiç görmedi.
- Bilgileri bir tarihte donmuş durumda. AWS'nin açıklamasına göre LLM eğitim verileri statiktir ve bilginin bir son tarihi vardır. Bu yüzden güncel bir cevap beklenirken eski ya da genel bilgi verebilirler.
- Bilmediklerini söylemek yerine uydurabiliyorlar. Buna yapay zeka halüsinasyonu (hallucination) denir: Modelin akıcı ve kendinden emin ama yanlış bir yanıt üretmesi.
AWS bu durumu, her soruya mutlak bir güvenle cevap veren aşırı hevesli bir yeni çalışana benzetiyor. Bir iş yerinde bu yeni çalışan, müşteriye "Evet, 30 gün içinde ücretsiz iade var" derse ve gerçekte süre 14 gün ise, bunun bedelini siz ödersiniz.
İşte RAG'ın çözdüğü sorun tam olarak bu. Microsoft'un RAG tanımında da belirtildiği gibi, modelin çıktısını getirilen gerçek içeriğe dayandırmak, makul görünen ama yanlış bilgi üretme olasılığını azaltır. Dikkat: "azaltır" diyoruz, "sıfırlar" demiyoruz. Bu konuya "sınırlar" bölümünde döneceğiz.
RAG nasıl çalışır: getirme, zenginleştirme, üretme
RAG üç adımdan oluşur. Müşteri bir soru sorduğunda arka planda şu olur:
- Getirme (Retrieval): Sistem, soruyla en alakalı belge parçalarını bilgi tabanınızda arar.
- Zenginleştirme (Augmentation): Bulunan parçalar, müşterinin sorusuyla birlikte modele verilen istemin (prompt) içine eklenir. "Şu soruyu şu kaynaklara bakarak cevapla" demek gibi.
- Üretme (Generation): Büyük dil modeli, önündeki kaynaklara dayanarak doğal bir dille yanıtı yazar.
Akış şeması notu: Akışı şöyle okuyabilirsiniz: Müşteri sorusu → Bilgi tabanında arama (getirme) → Soru + bulunan belge parçaları birleştirilir (zenginleştirme) → Dil modeli yanıtı yazar (üretme) → Müşteri yanıtı görür.
Perde arkasında: parçalama ve vektörler
"Bilgi tabanında arama" kulağa basit gelir ama anahtar kelime aramasından farklıdır. Önce belgeleriniz küçük parçalara (chunk) bölünür. Her parça, anlamını sayılarla temsil eden bir vektöre dönüştürülür; buna gömme (embedding) denir ve sonuçlar bir vektör veritabanında (vector database) saklanır. Müşterinin sorusu da aynı şekilde sayılara çevrilir ve anlamca en yakın parçalar bulunur.
AWS'nin verdiği örnek bunu güzel anlatıyor: Bir çalışan "Ne kadar yıllık iznim var?" diye sorduğunda sistem, soruyla alakalı izin politikası belgesini bulup getirir. Kelimeler birebir tutmasa bile anlam tuttuğu için doğru parçaya ulaşır. Örneğin müşteri "param ne zaman geri gelir?" yazdığında, belgenizde "iade bedeli 5 iş gününde hesabınıza yatırılır" cümlesi bulunabilir.
Bunların hepsini kendiniz kurmak zorunda değilsiniz. Bu detaylar, bir RAG platformunun sizin yerinize yaptığı iştir.
RAG ile ince ayar (fine-tuning) arasındaki fark
Yapay zekayı kendi verinizle çalıştırmanın iki yaygın yolu var: RAG ve ince ayar (fine-tuning). İnce ayar, hazır bir modeli kendi örneklerinizle yeniden eğiterek davranışını değiştirmektir. İkisi birbirinin rakibi değil, farklı işlere yarar.
Benzetmemize dönersek: RAG, öğrenciye sınavda kitabı açma izni vermek. İnce ayar ise öğrenciyi haftalarca özel kursa göndermek. Kurs öğrencinin yazım tarzını ve alışkanlıklarını değiştirir, ama sınav günü kitapta ne yazdığını garanti etmez.
Kriter | RAG | İnce ayar (fine-tuning)
Temel fikir | Cevap vermeden önce belgelerde arama yapar | Modelin kendisini yeni örneklerle yeniden eğitir
Bilgiyi güncelleme | Belgeyi değiştirirsiniz, yanıt hemen değişir | Yeni bir eğitim turu gerekir
Kaynak gösterme | Hangi belgeden yanıtlandığı izlenebilir | Bilginin nereden geldiği belirsizdir
Kurulum maliyeti | Düşük, belge yüklemek yeterli | Yüksek, hazırlanmış eğitim verisi ve teknik ekip gerekir
En uygun olduğu iş | Fiyat, politika, katalog, SSS gibi bilgi soruları | Belirli bir yazım tonu, format ya da uzmanlaşmış davranış
Yanlış bilgi riski | Kaynağa bağlı olduğu için daha düşük | Model yine de uydurabilir
AWS de RAG'ı, modeli yeniden eğitmeye gerek kalmadan onu belirli alanlara ya da kurumun iç bilgi tabanına genişleten, uygun maliyetli bir yaklaşım olarak tanımlıyor. Bir işletmenin "müşterilerim fiyat, teslimat ve iade soruyor" ihtiyacı için çoğu zaman doğru başlangıç noktası RAG'dır. İkisi birlikte de kullanılabilir, ama ilk adım olarak ince ayarı seçmek genellikle gereğinden pahalı bir yoldur.
İşletmeler için RAG kullanım örnekleri
Teori yeterli. İşte RAG'ın günlük işletme hayatında karşılığı olan beş örnek. Hepsinin ortak noktası şu: Cevap, sizin dokümanınızda yazıyor ve yapay zeka onu bulup düzgün bir cümleyle aktarıyor.
1. Menü: restoran ve kafeler
"Glütensiz seçeneğiniz var mı?", "Vegan tatlı var mı?", "Kahvaltı kaça kadar?" Bunlar menü PDF'inizde zaten yanıtlı sorular. RAG'lı bir asistan menünüzü okuyup alerjen ve içerik sorularını yanıtlar. Restoran ve kafelerde otomatik mesaj kurgusu için WhatsApp otomatik mesaj örneklerimize de göz atabilirsiniz.
2. Fiyat listesi
"Saç boyama ne kadar?", "Kurumsal paketin fiyatı nedir?" Fiyat listesini yüklediğinizde asistan doğru satırı bulur. Fiyat değiştiğinde dosyayı güncellemeniz yeterli; model yeniden eğitilmez. Bu, RAG'ın en somut avantajı.
3. İade ve değişim politikası
Müşteri "Kampanyalı üründe iade var mı?" diye sorduğunda en riskli yanıt, modelin kendi kafasından kurduğu yanıttır. RAG ile cevap, politika metninizden gelir; süreler, istisnalar ve koşullar sizin yazdığınız gibi aktarılır.
4. Ürün kataloğu
"Bu ceketin M bedeni var mı, su geçirir mi?" Teknik özellikler, ölçüler ve kullanım bilgileri katalogda duruyor. Asistan bu bilgileri bulur, müşteriye özetler. Katalog çok sayıda ürün içerse bile ilgili ürünün parçası getirilir; modelin hepsini aklında tutması gerekmez.
5. İç dokümanlar
RAG yalnızca müşteri tarafında değil, ekip içinde de çalışır. Yeni başlayan bir çalışan "Masraf formu nasıl doldurulur?" ya da "Müşteri şikayetinde hangi adımları izliyoruz?" diye sorar. Cevap, şirket el kitabından, prosedür belgelerinden gelir. Bilgiyi Slack'te ya da bir meslektaşın hafızasında aramak zorunda kalmazsınız.
Hangisiyle başlayacağınızı bilmiyorsanız, müşterilerinizin en sık sorduğu 10 soruya bakın. Büyük ihtimalle yanıtların çoğu zaten elinizdeki bir belgede yazıyordur.
İyi bir bilgi tabanı nasıl hazırlanır?
RAG'da sihir modelde değil bilgi tabanında (knowledge base) yatar. Bilgi tabanı, asistanın başvurduğu belgelerin toplamıdır. Çöp girerse çöp çıkar. Aşağıdaki altı ipucu, sonucu belirgin biçimde iyileştirir:
- Önce müşteri sorularından başlayın. Gelen mesajlara, e-postalara ve telefon notlarına bakıp en sık soruları listeleyin. Belgeleri bu sorulara cevap verecek şekilde düzenleyin.
- Tek konu, tek yer. İade koşulları üç farklı belgede üç farklı şekilde yazıyorsa asistan da kararsız kalır. Her konu için tek bir güncel kaynak bulundurun.
- Açık ve kısa yazın. "Ürünlerimizde belirli koşullarda değişim yapılabilir" yerine "Etiketi sökülmemiş ürünler 14 gün içinde değiştirilebilir" yazın. Net cümleler, net cevaplar üretir.
- Başlıklar kullanın. İyi başlıklı bir belge, bir duvar metninden çok daha kolay parçalanır ve aranır. Her bölümün neyi anlattığı başlıktan anlaşılsın.
- Tabloları metne çevirin ya da düzenli tutun. Karmaşık, birleştirilmiş hücrelerle dolu tablolar ve taranmış resim PDF'leri okunması zor kaynaklardır. Mümkünse metin olarak okunabilen dosyalar kullanın.
- Tarih ve geçerlilik ekleyin. "Kampanya 30 Haziran'a kadar geçerlidir" gibi ifadeler, hem müşteri hem de asistan için net bir sınır çizer.
Bir de küçük bir test önerisi: Bilgi tabanını hazırladıktan sonra asistana, müşterilerin gerçekten sorduğu 20 soruyu kendiniz sorun. Yanlış ya da eksik cevap aldığınız her soru, belgelerinizdeki bir boşluğu gösterir.
RAG'ın sınırları ve dikkat edilmesi gerekenler
RAG güçlü bir yöntem, ama sihirli değil. Başlıca sınırları şunlar:
Güncel olmayan belge. Asistan kitabı okuyor; kitap eskiyse cevap da eskir. Geçen yılın fiyat listesi hâlâ bilgi tabanındaysa asistan o fiyatı söyler, üstelik "kaynağa dayanarak". Belgelerinizi güncel tutmak RAG'ın en büyük operasyonel sorumluluğudur. Kampanya ve fiyat değişikliklerini bir iş akışına bağlayın: Fiyat güncellenince bilgi tabanı da güncellensin. AWS de aynı noktaya değiniyor: Dış veri eskirse belgelerin ve gömme temsillerinin de güncellenmesi gerekir.
Çelişen bilgi. İki belge aynı konuda farklı şey söylüyorsa asistan birini seçer, ya da ikisini karıştırır. Web sitenizde "iade süresi 14 gün", PDF broşürde "30 gün" yazıyorsa sorun yapay zekada değil, kaynaklarınızdadır. Bilgi tabanını yüklemeden önce çelişkileri tarayıp ayıklamak en ucuz önlemdir.
Aramanın kaçırması. Getirme adımı her zaman doğru parçayı bulamayabilir. Soru belirsizse ya da bilgi belgede dağınık yazılmışsa model eksik bağlamla cevap verebilir. Bu yüzden belgeleri düzenli yazmak ve test sorularıyla denemek önemlidir.
Belgede olmayan bilgi. Cevap bilgi tabanında yoksa iyi kurgulanmış bir asistan "bunu bilmiyorum, sizi ekibimize yönlendireyim" demelidir. Bu davranışı talimatlarla ve insana devir seçeneğiyle desteklemek gerekir.
Hassas bilgi. Bilgi tabanına koyduğunuz her şey, teoride müşteriye aktarılabilir. Müşteriye açık olmayan iç maliyet tabloları gibi belgeleri herkese açık bir asistanın bilgi tabanına yüklemeyin.
Özetle: RAG halüsinasyon riskini azaltır, ama doğruluk hâlâ içeriğinizin kalitesine bağlıdır. Bunu bilmek, beklentiyi doğru ayarlamanın en dürüst yoludur.
Kod yazmadan RAG: belge tabanlı chatbot
Gelelim en pratik soruya: Bunu kurmak için yazılımcı ekibi, vektör veritabanı ve haftalarca geliştirme mi gerekiyor? Kendi RAG hattınızı sıfırdan kurmak istiyorsanız evet, ciddi bir mühendislik işi. Ama işletme sahibi olarak amacınız RAG'ı kurmak değil, chatbotunuzun doğru yanıt vermesi.
Chatbu tam bu noktada devreye giriyor. Belgelerinizden bir bilgi tabanı oluşturup yanıtları bu içeriği esas alarak veren, kod yazmadan kullanabileceğiniz bir yapay zeka chatbot platformu. Pratikte şöyle çalışıyor:
- PDF, Word, düz metin ve web sitesi URL'leri ile chatbotunuzu eğitebilirsiniz. Özellikler sayfasında Excel ve CSV yükleme ile hazır soru-cevap girişi de yer alıyor.
- Chatbotunuz, kendi verilerinizle eğitim sonrasında markanızın dilinde ve sizin içeriğinizi esas alarak yanıt verir.
- Fiyatınız ya da kampanyanız değişirse içeriği düzenleyip dosyalarınızı yeniden işlemeniz yeterli; bot yeni bilgiyle yanıt vermeye başlar.
- Tek chatbotu web sitenize, WhatsApp, Instagram ve Messenger gibi kanallara bağlayabilirsiniz. Bot, ziyaretçinin yazdığı dili anlayıp o dilde yanıt verebilir.
- Yanıtlayamadığı ya da insan gerektiren konuşmayı ekibinize devredebilir.
Süreci adım adım merak ediyorsanız Chatbu nasıl çalışır sayfasında görebilirsiniz. Chatbotların temel mantığını baştan öğrenmek isterseniz chatbot nasıl çalışır yazımız iyi bir başlangıç.
Abartmadan söyleyelim: Chatbu size sihirli bir "hiç hata yapmayan" asistan sözü vermiyor. Yukarıda anlattığımız ilkeler burada da geçerli. Bilgi tabanınız ne kadar güncel, net ve tutarlıysa asistanınız o kadar iyi olur. Chatbu'nun getirdiği şey, bu hattı kurma işini ortadan kaldırması ve sizin sadece içeriğe odaklanmanızı sağlaması.
Belgelerinizi yükleyin, dakikalar içinde kendi verinizle konuşan bir asistanınız olsun. Chatbu'yu ücretsiz deneyin ve ilk chatbotunuzu menünüz, fiyat listeniz ya da iade politikanızla eğitin.
Sıkça Sorulan Sorular
RAG ingilizce ne demek?
RAG, "Retrieval-Augmented Generation" ifadesinin kısaltmasıdır. Türkçesi "geri getirmeyle zenginleştirilmiş üretim" ya da "geri çağırma destekli üretim" olarak kullanılır: Yapay zeka önce ilgili bilgiyi bulur, sonra o bilgiyle yanıt üretir.
RAG halüsinasyonu tamamen önler mi?
Hayır, ama riski belirgin biçimde azaltır. Model, kendi hafızası yerine getirilen belgelere dayanarak yanıt verir. Yine de belgeler eskiyse, çelişiyorsa ya da arama doğru parçayı bulamazsa yanlış yanıt çıkabilir. Bu yüzden bilgi tabanının güncel ve tutarlı olması şarttır.
RAG ile ince ayar (fine-tuning) arasındaki fark nedir?
RAG, modeli değiştirmeden cevap vermeden önce belgelerinizde arama yapar; belgeyi güncellediğinizde yanıt hemen değişir. İnce ayar ise modelin kendisini yeni örneklerle yeniden eğitir; daha pahalıdır ve her güncelleme için yeni bir eğitim turu gerektirir. Fiyat, politika ve katalog gibi bilgi soruları için genellikle RAG daha uygundur.
RAG kullanmak için kod yazmam gerekir mi?
Kendi RAG sisteminizi sıfırdan kuracaksanız evet, vektör veritabanı ve yazılım geliştirme gerekir. Ancak Chatbu gibi hazır platformlarda belgelerinizi (PDF, Word, metin) ya da web sitenizin URL'sini yükleyerek kod yazmadan belge tabanlı bir chatbot oluşturabilirsiniz.
RAG mimarisi hangi bileşenlerden oluşur?
Temelde üç parça vardır: belgelerin parçalanıp vektörlere dönüştürülerek saklandığı bir bilgi tabanı (vektör veritabanı), sorguya en uygun parçaları bulan bir getirme (retrieval) bileşeni ve bulunan bilgiyle yanıtı yazan bir büyük dil modeli. Bu bileşenler arasında bulunan içeriği soruyla birleştiren zenginleştirme adımı yer alır.
Büyük dil modeli (LLM) nedir?
Büyük dil modeli, çok büyük miktarda metinle eğitilmiş ve sıradaki kelimeyi tahmin ederek metin üreten bir yapay zeka modelidir. Soru yanıtlama, çeviri ve özetleme gibi işlerde başarılıdır, ancak sizin özel verilerinizi bilmez ve bilgisi eğitim tarihinde sabitlenmiştir.
