Klasik RAG (Retrieval-Augmented Generation) sistemlerinde kullanıcıdan gelen soru aranır, ilgili belgeler bulunur ve bu bilgiler büyük dil modeline verilerek yanıt oluşturulur.

Bu yaklaşım özellikle doğrudan bilgi aramalarında oldukça kullanışlıdır. Ancak daha karmaşık görevlerde tek bir arama yeterli olmayabilir.

Örneğin kullanıcı, "Şirketimizin son iki yıldaki yapay zekâ yatırımlarını analiz et ve en önemli değişimleri açıkla." dediğinde sistemin birden fazla belgeyi incelemesi, farklı kaynaklara yönelmesi, sonuçları karşılaştırması ve gerektiğinde yeni aramalar yapması gerekebilir.

Agentic RAG, bu noktada devreye girer. Bu yaklaşımda yapay zekâ sistemi yalnızca bilgi getirmekle kalmaz; hangi bilginin aranacağına, hangi kaynağın kullanılacağına ve gerektiğinde başka bir aramanın yapılıp yapılmayacağına karar verebilir.

Güncel araştırmalar Agentic RAG'i planlama, araç kullanımı, yinelemeli retrieval ve çok adımlı görevlerle ilişkilendirirken, Microsoft'un Azure AI Search yaklaşımı da karmaşık sorguları alt sorgulara bölüp paralel şekilde arama yapabilen agentic retrieval mimarileri sunuyor.

Agentic RAG Nedir?

Agentic RAG, Retrieval-Augmented Generation mimarisini yapay zekâ ajanlarının planlama, araç kullanımı, dinamik bilgi erişimi ve yinelemeli karar verme yetenekleriyle birleştiren yaklaşımdır.

Klasik RAG'de arama akışı çoğunlukla önceden belirlenmişken Agentic RAG'de sistem, görevin gereksinimlerine göre retrieval sürecini dinamik olarak yönetebilir. Microsoft'un güncel mimarisinde de agent, retrieval'ı bir araç gibi çağırabilir, ara sonuçları değerlendirebilir ve yeterli bağlam oluşana kadar yeni retrieval adımları gerçekleştirebilir.

Bu sayede sistem;

• Birden fazla arama gerçekleştirebilir.
• Karmaşık soruları alt görevlere ayırabilir.
• Farklı veri kaynaklarını kullanabilir.
• İlk sonuçları değerlendirebilir.
• Gerektiğinde yeni sorgular oluşturabilir.
• Araçları kullanarak bilgi toplayabilir.
• Elde edilen bilgileri birleştirerek sonuca ulaşabilir.

Agentic RAG Nasıl Çalışır?

Genel süreç şu şekilde ilerleyebilir:

1. Kullanıcı Görev Verir

Örneğin:

"Son iki yıldaki yapay zekâ yatırımlarını analiz et ve önemli trendleri çıkar."

2. Agent Görevi Analiz Eder

Sistem sorunun tek bir aramayla çözülemeyeceğini belirleyebilir.

Görevi;

• yatırım verilerini bulma,
• şirketleri karşılaştırma,
• yıllara göre değişimi inceleme,
• sonuçları özetleme

gibi alt görevlere ayırabilir.

3. Retrieval Planı Oluşturulur

Hangi kaynakların ve hangi arama yöntemlerinin kullanılacağı belirlenir.

Kaynaklar arasında;

• Vector Database,
• keyword search,
• kurumsal veri tabanı,
• API,
• web araması

bulunabilir.

4. Bilgi Aranır

Agent gerekli retrieval araçlarını çağırır.

Bazı modern agentic retrieval sistemleri karmaşık sorguları birden fazla alt sorguya ayırıp bunları paralel olarak çalıştırabilir. Azure AI Search'in agentic retrieval mimarisi buna örnek olarak gösterilebilir.

5. Sonuçlar Değerlendirilir

Agent elde ettiği bilgilerin soruyu cevaplamak için yeterli olup olmadığını değerlendirebilir.

6. Gerekirse Yeni Arama Yapılır

Bilgi eksikse yeni bir sorgu oluşturulabilir veya farklı bir kaynağa başvurulabilir.

Bu yinelemeli yapı, Agentic RAG'in klasik tek sorgulu RAG'den temel farklılıklarından biridir.

7. Bilgiler Birleştirilir

Farklı kaynaklardan elde edilen bilgiler karşılaştırılır ve ortak bir bağlam oluşturulur.

8. Nihai Sonuç Üretilir

LLM, elde edilen bağlamı kullanarak kullanıcıya yanıt verir.

Agentic RAG Neden Önemlidir?

Klasik RAG çoğunlukla sabit bir akış izler:

Sorgu → Arama → Belgeler → LLM → Cevap

Agentic RAG ise daha dinamik bir yapı kullanabilir:

Sorgu → Planlama → Arama → Değerlendirme → Yeni Arama → Analiz → Cevap

Bu yapı özellikle sorunun cevabı tek bir belgede bulunmadığında önem kazanır.

Agentic retrieval sistemlerinin karmaşık soruları alt sorgulara ayırması, farklı kaynaklardan bilgi toplaması ve sonuçları yeniden birleştirmesi bu yaklaşımın temel avantajlarından biridir.

Agentic RAG'ın Temel Bileşenleri

AI Agent

Görevin nasıl yürütüleceğine karar veren temel bileşendir.

Planner

Karmaşık görevi alt adımlara ayırır ve retrieval stratejisini oluşturur.

Retriever

İlgili bilgi ve belgeleri bulur.

Tool Calling

Arama motoru, API, veritabanı veya diğer araçları kullanmayı sağlar.

Memory / Context

Önceki adımlardan elde edilen bilgilerin sonraki işlemlerde kullanılmasını sağlar.

Reasoning

Elde edilen bilgileri değerlendirerek sonraki adımın belirlenmesine yardımcı olur.

Large Language Model

Planlama, analiz ve nihai yanıt üretimi gibi süreçlerde görev alabilir.

Nerelerde Kullanılıyor?

Kurumsal Yapay Zekâ

Şirket içindeki farklı bilgi kaynaklarından veri toplamak için.

Hukuk

Birden fazla mevzuat, karar ve belgeyi karşılaştırmak için.

Finans

Piyasa verileri, şirket raporları ve finansal belgeleri birlikte analiz etmek için.

Sağlık

Farklı tıbbi kaynaklardan bilgi toplayan araştırma ve destek sistemlerinde.

Bilimsel Araştırma

Literatür taraması ve farklı araştırmaların karşılaştırılmasında.

AI Copilot

Kullanıcının karmaşık araştırma ve bilgi toplama görevlerini gerçekleştirmesine yardımcı olmak için.

Agentic RAG'ın Avantajları

Daha Akıllı Bilgi Toplama

Sistem tek bir sorguya bağlı kalmak yerine gerektiğinde yeni aramalar gerçekleştirebilir.

Çok Adımlı Görevler

Karmaşık sorular daha küçük araştırma adımlarına ayrılabilir.

Farklı Kaynakları Birleştirme

Birden fazla veri kaynağından gelen bilgiler aynı görev içerisinde kullanılabilir.

Dinamik Retrieval

Arama stratejisi elde edilen sonuçlara göre değiştirilebilir.

Daha Güçlü AI Agent'lar

Retrieval'ın bir araç olarak kullanılabilmesi, AI Agent'ların bilgiye dayalı daha karmaşık görevler gerçekleştirmesine yardımcı olabilir.

Karşılaşılan Zorluklar

Daha Karmaşık Mimari

Klasik RAG'e göre daha fazla bileşen ve karar mekanizması gerekir.

Daha Yüksek Maliyet

Birden fazla LLM çağrısı, arama ve araç kullanımı maliyeti artırabilir.

Gecikme

Birden fazla işlem ve retrieval döngüsü yanıt süresini uzatabilir.

Hatalı Planlama

Agent yanlış bir arama stratejisi oluşturursa doğru bilgiye ulaşmak zorlaşabilir.

Güvenlik

Agent'ın erişebildiği araçlar ve veri kaynakları dikkatli şekilde sınırlandırılmalıdır.

Değerlendirme

Sistemin yalnızca nihai cevabı değil, hangi kaynakları neden kullandığı ve kaç retrieval adımı gerçekleştirdiği de değerlendirilmelidir.

Agentic RAG ile Klasik RAG Arasındaki Fark

Klasik RAG

• Sorgu alınır.
• Arama yapılır.
• İlgili belgeler getirilir.
• LLM cevap oluşturur.

Agentic RAG

• Sorgu analiz edilir.
• Plan oluşturulur.
• Bir veya daha fazla retrieval işlemi gerçekleştirilir.
• Ara sonuçlar değerlendirilir.
• Gerekirse yeni aramalar yapılır.
• Farklı araçlar kullanılabilir.
• Nihai cevap oluşturulur.

Kısacası:

Klasik RAG → Sabit retrieval akışı

Agentic RAG → Dinamik retrieval ve karar döngüsü

Microsoft da klasik RAG'i daha basit ve hızlı sabit bir pipeline olarak, agentic retrieval'ı ise LLM destekli sorgu planlama ve çoklu retrieval içeren daha gelişmiş bir yaklaşım olarak konumlandırıyor.

Agentic RAG ile AI Agent Arasındaki Fark

AI Agent

Genel amaçlı karar verme ve görev yürütme sistemidir.

Agentic RAG

AI Agent'ın özellikle bilgi toplama, retrieval ve bilgiye dayalı karar verme süreçlerini güçlendiren mimari yaklaşımdır.

Dolayısıyla Agentic RAG ile AI Agent aynı kavram değildir.

Bir AI Agent'ın içinde Agentic RAG kullanılabilir; ancak her AI Agent'ın mutlaka Agentic RAG kullanması gerekmez.

Agentic RAG ile Agentic Retrieval Aynı mı?

Bu iki kavram çoğu zaman birbirine yakın anlamlarda kullanılsa da tamamen aynı değildir.

Agentic RAG, daha geniş bir mimari yaklaşımı ifade eder. Retrieval, planlama, araç kullanımı ve reasoning gibi bileşenleri bir AI Agent sistemi içinde birleştirebilir.

Agentic Retrieval ise özellikle bilgi erişim sürecinin LLM tarafından planlanması ve dinamik şekilde yürütülmesine odaklanır.

Örneğin Azure AI Search, agentic retrieval'ı karmaşık sorgular için LLM destekli query planning, alt sorgular ve paralel retrieval içeren bir RAG pipeline'ı olarak tanımlıyor.

Agentic RAG ile Graph RAG Arasındaki Fark

Graph RAG

Knowledge Graph ve varlıklar arasındaki ilişkileri retrieval sürecine dahil eder.

Agentic RAG

Retrieval sürecinin kendisini daha dinamik ve karar odaklı hâle getirir.

Bu iki yaklaşım birlikte de kullanılabilir.

Örneğin Agentic RAG kullanan bir sistem, bir soruya cevap ararken gerektiğinde Graph RAG üzerinden ilişkisel bilgi toplayabilir.

Gelecekte Agentic RAG

Agentic RAG özellikle karmaşık bilgi erişimi gerektiren sistemlerde gelişmeye devam ediyor.

Güncel uygulamalarda agentic retrieval'ın bilgi kaynaklarını birleştirme, sorguları parçalara ayırma, paralel arama yapma ve sonuçları yeniden sıralama gibi yetenekleri giderek daha fazla kullanılmaya başlanıyor.

Gelecekte;

• Kurumsal AI sistemlerinde daha fazla kullanılabilir.
• Çok adımlı araştırma görevlerinde yaygınlaşabilir.
• AI Copilot sistemlerinin bilgi erişim katmanlarından biri hâline gelebilir.
• MCP ve A2A gibi protokollerle daha fazla entegre olabilir.
• Graph RAG ve Hybrid Search ile birlikte kullanılabilir.
• AI Agent'ların daha karmaşık araştırma görevlerini gerçekleştirmesine yardımcı olabilir.

Ancak Agentic RAG'in her durumda klasik RAG'den daha iyi olduğu söylenemez. Basit ve doğrudan sorularda klasik RAG daha düşük maliyetli ve daha hızlı olabilir. Agentic yaklaşımın asıl avantajı, karmaşık, çok kaynaklı ve çok adımlı görevlerde ortaya çıkar.

Sık Sorulan Sorular

Agentic RAG nedir?

Retrieval-Augmented Generation sistemlerine planlama, araç kullanımı ve dinamik bilgi erişimi gibi agent özellikleri ekleyen gelişmiş RAG yaklaşımıdır.

Agentic RAG neden önemlidir?

Karmaşık görevlerde tek bir aramayla sınırlı kalmadan yeni sorgular oluşturabilir, farklı kaynaklardan bilgi toplayabilir ve sonuçları değerlendirebilir.

Klasik RAG ile aynı mı?

Hayır. Klasik RAG daha sabit bir retrieval akışı kullanırken Agentic RAG dinamik ve yinelemeli bir yaklaşım kullanabilir.

Agentic RAG ile AI Agent aynı mı?

Hayır. AI Agent genel bir görev yürütme sistemidir. Agentic RAG ise özellikle bilgi erişimi ve retrieval süreçlerini güçlendiren bir mimaridir.

Agentic RAG ile Agentic Retrieval aynı mı?

Tam olarak değil. Agentic Retrieval retrieval sürecindeki planlama ve dinamik aramaya odaklanırken Agentic RAG daha geniş bir agent + RAG mimarisini ifade eder.

Agentic RAG gelecekte daha yaygın olacak mı?

Özellikle kurumsal yapay zekâ, AI Copilot, araştırma sistemleri ve çok adımlı bilgi erişimi gerektiren uygulamalarda kullanımının artması beklenmektedir.

Kaynaklar

Microsoft Learn – Azure AI Search Agentic Retrieval, Microsoft Learn – Develop an Agentic RAG Solution on Azure, LangChain Documentation, LlamaIndex Documentation, IEEE Xplore Digital Library, arXiv – Agentic Retrieval-Augmented Generation: A Survey on Agentic RAG

Editör Notu

Bu içerik Bitcanlı Editörü tarafından hazırlanmıştır. İçerikte yer alan bilgiler yalnızca bilgilendirme amacı taşımaktadır. Agentic RAG, yapay zekâ sistemlerinin bilgi erişimini sabit bir arama sürecinin ötesine taşıyarak planlama, araç kullanımı ve yinelemeli retrieval gibi yeteneklerle daha karmaşık görevleri gerçekleştirmesine yardımcı olan gelişmiş bir mimari yaklaşımdır. Güncel teknik dokümantasyonun, akademik araştırmaların ve açık kaynak projelerin düzenli olarak takip edilmesi önerilir.