Büyük dil modelleri, eğitim sırasında öğrendikleri bilgilerle kapsamlı yanıtlar üretebilir. Ancak şirket içi belgeler, yeni yayımlanan raporlar veya güncellenen ürün bilgileri gibi kaynaklara kendiliğinden erişemezler.

Retrieval-Augmented Generation (RAG), yani bilgi erişimiyle desteklenen üretim, harici kaynaklardan getirilen içeriği yanıt oluşturma sürecine dahil eder. Böylece model, soruyu ilgili belgelerden yararlanarak cevaplayabilir. Bu yaklaşımın temelinde, dil modelinin öğrendiği bilgiler ile dışarıdan erişilen bilgilerin birlikte kullanılması bulunur. 

Bazı sorular için ilgili belgeyi bulmak yeterlidir. Bazılarında ise farklı kaynakları karşılaştırmak, eksik verileri tamamlamak ve araştırmanın yönünü değiştirmek gerekir. Agentic RAG, bilgi erişimini bu tür değişken ihtiyaçlara göre yönetmeyi amaçlar.

Agentic RAG Nedir?

Agentic RAG, RAG mimarisini yapay zekâ ajanlarının planlama, araç kullanma ve değerlendirme yetenekleriyle birleştiren bir yaklaşımdır.

Tek bir ürünün veya modelin adı değildir. Farklı yazılım altyapılarıyla kurulabilen sistemleri tanımlar. Bu sistemlerde ajan, kendisine tanınan araçlar ve yetkiler kapsamında bilgi toplama sürecini yönlendirebilir.

Örneğin soruyu alt başlıklara ayırabilir, uygun kaynakları seçebilir, sonuçlar yetersizse araştırmayı genişletebilir. Tasarıma bağlı olarak tek ajan veya birden fazla uzman ajan kullanılabilir. Planlama, öz değerlendirme ve çok ajanlı çalışma, bu alandaki araştırmalarda ele alınan başlıca yöntemler arasındadır. 

Klasik RAG ile Arasındaki Fark Nedir?

Basit bir RAG uygulamasında önce ilgili belgeler getirilir, ardından bu belgeler kullanılarak yanıt oluşturulur. Agentic RAG’de ise model, süreç içinde ne zaman ve nasıl bilgi arayacağına karar verebilir.

Ancak bütün RAG sistemlerini “yalnızca bir kez arama yapan sistemler” olarak tanımlamak doğru değildir. Ajan kullanmayan iş akışlarında da sorgu iyileştirme, birden fazla arama ve yanıt kontrolü bulunabilir.

Temel ayrım, arama sayısından çok iş akışının ne ölçüde dinamik yönetildiğidir. 

Agentic RAG Nasıl Çalışır?

Uygulamaya göre ayrıntılar değişse de örnek bir araştırma süreci beş aşamada düşünülebilir.

1. Sorunun kapsamı belirlenir. Kullanıcının hangi bilgiyi istediği, tarih aralığı ve karşılaştırma ölçütleri değerlendirilir. Belirsiz bir soru varsa açıklama istenebilir.

2. Kaynaklar ve araçlar seçilir. Belgeler, veritabanları veya web kaynakları arasından uygun olanlara başvurulur.

3. Bilgiler toplanır. Arama sonuçları incelenir; gerekli belge bölümleri ve kayıtlar alınır.

4. Eksikler değerlendirilir. Bulgular soruyu karşılamıyorsa yeni sorgular oluşturulabilir veya farklı bir kaynağa geçilebilir.

5. Yanıt hazırlanır. Elde edilen kanıtlar birleştirilir; desteklenen bulgular, yorumlar ve belirsizlikler ayrılarak sunulur.

Bu adımlar her soruda aynı uzunlukta uygulanmaz. Basit bir talep kısa sürede tamamlanabilirken kapsamlı bir araştırma birkaç arama turu gerektirebilir.

Bir Örnek: Satışlar Neden Düştü?

Bir şirket çalışanının şu soruyu sorduğunu düşünelim:

“Geçen çeyrekte satışlarımız neden azaldı? Ürün gruplarını karşılaştırarak açıkla.”

Bu örnek senaryoda Agentic RAG sistemi, önce hangi çeyreğin ve hangi satış ölçütünün kastedildiğini netleştirebilir. Ardından farklı kaynaklara başvurabilir:

• Satış veritabanından dönemsel gelir ve adet bilgilerini alabilir.
• Stok kayıtlarından ürünlerin bulunabilirliğini inceleyebilir.
• Kampanya belgelerinden indirim dönemlerini kontrol edebilir.
• Müşteri geri bildirimlerinden tekrar eden şikâyetleri derleyebilir.

Sayısal değişimler bir hesaplama aracıyla bulunurken kampanya açıklamaları belgelerden getirilebilir. Böylece her bilgi türü için uygun yöntem kullanılmış olur.

Sistem, satış düşüşü ile stok kesintisinin aynı döneme denk geldiğini belirleyebilir. Ancak bu bulgu tek başına kesin neden-sonuç ilişkisi kurmaya yetmez. Hazırlanan raporda, gözlenen ilişki ile kanıtlanmış nedenin ayrı ifade edilmesi gerekir.

Bu örnekte amaç, kullanıcının sorusunu farklı veri türlerini bir araya getirerek araştırmaktır.

Bilgiyi Doğrulamak Ne Anlama Geliyor?

Agentic RAG bağlamında doğrulama, farklı kontrolleri kapsayabilir. Bir yanıtın kaynaktaki bilgilerle tutarlı olması, soruyu karşılaması ve gerçekte doğru olması ayrı değerlendirme konularıdır.

Örneğin sistem eski bir kılavuzu doğru biçimde özetleyebilir. Yanıt belgeye sadık olsa bile güncel uygulamayı yansıtmayabilir. Benzer şekilde, kaynak gösterilen bir cümle belgeden çıkarılamayan bir yorum içerebilir.

Bu nedenle değerlendirmede şu sorular ayrılmalıdır:

• Getirilen belgeler soruyla ilgili mi?
• Yanıt sorunun önemli bölümlerini karşılıyor mu?
• İddialar belgeler tarafından destekleniyor mu?
• Sonuç, güvenilir referanslarla karşılaştırıldığında doğru mu?

RAG değerlendirme yöntemleri de yanıt doğruluğu, ilgililik, kaynaklara dayanma ve getirilen içeriğin niteliğini ayrı boyutlarda ele alır. Kaynak bulunması veya modelin kendi yanıtını onaylaması, tek başına doğruluk garantisi değildir. 

GraphRAG ile Agentic RAG Aynı mı?

GraphRAG, belgelerdeki varlıklar ve ilişkiler gibi yapılardan yararlanarak bilgi erişimini destekler. Microsoft’un GraphRAG yaklaşımında yerel arama, bilgi grafiğiyle belge parçalarını birlikte kullanabilir; genel arama ise belge koleksiyonunun bütünüyle ilgili sorular için topluluk özetlerinden yararlanır. 

Agentic RAG ise araştırmanın nasıl yönlendirileceğiyle ilgilenir. Bu nedenle iki yaklaşım birlikte kullanılabilir.

Örneğin bir ajan, şirketler arasındaki bağlantıları araştırırken grafik tabanlı aramayı; belirli bir sözleşme maddesini bulurken metin aramasını seçebilir. Burada GraphRAG, ajanın başvurabildiği bilgi erişim yöntemlerinden biri olur.

Hangi Alanlarda Kullanılabilir?

Agentic RAG araştırmaları; kurumsal belge işleme, eğitim, sağlık ve finans gibi farklı alanları ele alır. Uygunluğu, görevin ihtiyaçlarına ve kullanılan verilerin niteliğine bağlıdır. 

Kurumsal bilgi yönetiminde, çalışanların farklı departmanlara ait belgeler arasında araştırma yapmasına yardımcı olabilir. Örneğin bir prosedürün güncel sürümü ile geçmiş değişiklikleri birlikte incelenebilir.

Müşteri desteğinde, ürün kılavuzları ve müşterinin erişime izin verilen kayıtları bir araya getirilebilir. Böylece genel açıklamaların yanında durumla ilgili bilgiler de değerlendirilebilir.

Yazılım geliştirmede, teknik dokümantasyon, hata kayıtları ve kod örnekleri üzerinden araştırma yapılabilir. Bir hata mesajı, kullanılan yazılım sürümüne ait belgelerle karşılaştırılabilir.

Araştırma ve eğitimde, farklı yayınların ortak bulguları ve ayrıştıkları noktalar derlenebilir. Ortaya çıkan sentezin, özgün kaynakların kapsamını koruması gerekir.

Bunlar olası kullanım senaryolarıdır; her uygulamanın aynı başarıyı sağlayacağı anlamına gelmez.

Avantajları ve Karşılaşılan Zorluklar

Agentic RAG’nin başlıca avantajı, araştırmanın ara sonuçlara göre değişebilmesidir. İlk kaynak yetersizse başka bir kaynağa geçilebilir; kapsamlı bir soru daha küçük araştırma adımlarına ayrılabilir.

Bunun karşılığında ek model çağrıları, araç kullanımı ve değerlendirme adımları maliyeti ve bekleme süresini artırabilir. Yanlış seçilen bir araştırma yönü, sonraki adımları da etkileyebilir.

Bu nedenle sistemin ne zaman duracağı belirlenmelidir. Arama sayısı, süre veya işlem bütçesi sınırlandırılabilir. Yeterli kanıt bulunamıyorsa belirsizliğin kullanıcıya bildirilmesi gerekir.

Her uygulama bu esnekliğe ihtiyaç duymaz. Kapsamı belli bir dokümantasyon asistanında daha sade bir RAG akışı yeterli olabilir. Ajan tabanlı karmaşıklık, ölçülebilir bir fayda sağladığında anlam kazanır. 

Güvenlik Neden Önemlidir?

Harici belgeler yalnızca doğru bilgiler içermez; ajanı yanlış yönlendirmeyi amaçlayan talimatlar da barındırabilir. Bu nedenle getirilen içeriğin, sistemin yetkilerini değiştiren bir komut gibi değerlendirilmemesi gerekir.

Kurumsal uygulamalarda kullanıcıların erişim sınırları da korunmalıdır. Ajanın bir belgeyi bulabilmesi, o belgeyi herkese gösterebileceği anlamına gelmez.

Araçlara gerekli olan en dar yetkilerin verilmesi, yalnızca araştırma yapan bileşenlerde okuma erişiminin tercih edilmesi ve önemli işlemlerde uygun onay mekanizmalarının kullanılması riskleri azaltabilir. OWASP, aşırı araç yetkisi ve kontrolsüz özerkliği ajan sistemleri açısından önemli güvenlik sorunları arasında ele alır. 

Agentic RAG’nin Geleceği

Agentic RAG’nin gelişiminde araştırma kalitesi kadar maliyet, değerlendirme, bellek yönetimi ve koordinasyon da önem taşıyor. Bunlar alanın açık araştırma başlıkları arasında bulunuyor. 

Geleceğe yönelik makul beklenti, farklı görevler için farklı düzeylerde özerklik kullanılmasıdır. Basit sorular kısa bir bilgi erişim akışıyla yanıtlanırken karmaşık araştırmalar daha fazla planlama gerektirebilir.

Bu nedenle Agentic RAG’nin bütün RAG uygulamalarının yerini alacağını söylemek için yeterli dayanak yoktur. Yaygınlaşmasını, sağladığı kalite artışının ek maliyet ve karmaşıklığı ne ölçüde karşılayabildiği belirleyecektir.

Sık Sorulan Sorular

Agentic RAG bir yapay zekâ modeli mi?

Hayır. Dil modeli, bilgi kaynakları ve araçların birlikte çalışmasını düzenleyen bir mimari yaklaşımdır.

Birden fazla ajan kullanmak zorunlu mu?

Hayır. Tek bir ajan da kaynak seçebilir, bilgi arayabilir ve sonuçlara göre araştırmasını değiştirebilir.

Her zaman internete bağlanır mı?

Hayır. Yalnızca kurum içi belgeler ve veritabanlarıyla çalışan bir sistem kurulabilir.

Yanlış bilgi üretimini tamamen önler mi?

Hayır. Kaynaklarla destekleme ve değerlendirme hataları azaltmaya yardımcı olabilir; kaynak veya yorumlama hataları devam edebilir.

Her projede basit RAG’den daha iyi midir?

Hayır. Uygun seçim; soruların karmaşıklığına, kalite hedeflerine, yanıt süresine ve maliyet sınırlarına bağlıdır.

Kaynaklar: Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, Agentic Retrieval-Augmented Generation: A Survey on Agentic RAG, LangChain Retrieval Dokümantasyonu, LangSmith RAG Değerlendirme Dokümantasyonu, Microsoft GraphRAG Dokümantasyonu, Anthropic – Building Effective Agents, OWASP – Excessive Agency.

Editör Notu

Bu içerik yalnızca bilgilendirme amacıyla hazırlanmıştır. Agentic RAG sistemlerinin başarısı; kullanılan modelin, bilgi kaynaklarının ve değerlendirme yöntemlerinin niteliğine bağlıdır. Mimari yaklaşımlar hızla geliştiğinden güncel akademik araştırmaların ve resmî teknik dokümanların takip edilmesi önerilir.