AI Memory (Yapay Zekâ Hafızası), geçmiş etkileşimlerden seçilen bilgilerin saklanmasını ve gerektiğinde yeniden kullanılmasını sağlayan mekanizmaların genel adıdır. Kullanıcı tercihlerini hatırlamak, devam eden işleri takip etmek ve görevler arasında süreklilik sağlamak için kullanılır.

AI Memory Nedir?

AI Memory, bir yapay zekâ uygulamasının konuşma geçmişi, kullanıcı tercihleri ve görev kayıtları gibi bilgileri yönetmesini sağlayan bellek yapısıdır.

Örneğin bir içerik asistanı, kullanıcının kısa paragrafları tercih ettiğini veya kaynakları düz yazı olarak istediğini kaydedebilir. Daha sonraki görevlerde bu bilgiler modele sunularak yanıtın tercihlere uygun hazırlanması sağlanabilir.

Bilginin belleğe kaydedilmesi, modelin yeniden eğitildiği anlamına gelmez. Yaygın uygulamalarda kayıtlar modelin dışında tutulur ve ihtiyaç duyulduğunda modele verilen bağlama eklenir. Microsoft AutoGen dokümantasyonu da bellek kullanımını, ilgili bilgilerin bulunup modelin bağlamına taşınması üzerinden açıklar.

AI Memory Nasıl Çalışır?

Uygulamaya göre ayrıntılar değişse de temel süreç şöyledir:

1. Bilgi oluşur: Bir konuşma, görev veya belge üzerinden yeni bilgiler elde edilir.

2. Bilgi seçilir: İleride yararlı olabilecek tercihler, kararlar veya görev sonuçları belirlenir.

3. Kayıt oluşturulur: Seçilen bilgiler uygun bir veri deposunda saklanır.

4. İlgili bilgi bulunur: Yeni bir istek geldiğinde geçmiş kayıtlar sorgulanır.

5. Yanıtta kullanılır: Bulunan bilgiler, mevcut istekle birlikte modele sunulur.

Her sistem bütün konuşmaları eksiksiz saklamaz. Bazıları son mesajları tutarken bazıları özetlerden veya seçilmiş bilgi kayıtlarından yararlanır.

AI Memory Türleri Nelerdir?

Bellek yapıları farklı ölçütlerle sınıflandırılabilir. Aşağıdaki kavramlar birbirini tamamen dışlayan kategoriler değildir.

Kısa Süreli Bellek

Kısa süreli bellek, mevcut konuşmaya veya görev akışına ait bilgileri kapsar. Önceki mesajlar ve o görevde elde edilen sonuçlar buna örnektir.

“Kısa süreli” ifadesi, bilgilerin uygulama kapanınca mutlaka silineceği anlamına gelmez. Konuşma durumu kaydedilerek daha sonra aynı göreve devam edilebilir.

Uzun Süreli Bellek

Uzun süreli bellek, farklı konuşmalarda yeniden kullanılabilecek bilgileri saklar. Kullanıcının yazım tercihleri, proje kuralları veya geçmiş görevlerden seçilen kayıtlar bu kapsamda değerlendirilebilir.

Çalışma Belleği

Çalışma belleği, bir görev sürerken kullanılan geçici durum bilgilerini anlatır. İş planı, tamamlanan adımlar ve araçlardan alınan ara sonuçlar buna örnek olabilir. Bu kavramın kapsamı kullanılan mimariye göre değişir.

Harici Bellek

Harici bellek, bilginin model dışında nerede tutulduğunu ifade eder. Veritabanları, dosyalar veya vektör tabanlı depolar bu amaçla kullanılabilir. Harici bir depo, hem kısa hem de uzun süreli belleği destekleyebilir.

AI Memory ile Context Window Arasındaki Fark Nedir?

Context window (bağlam penceresi), modelin tek bir işlem sırasında değerlendirebildiği içeriğin kapasitesidir. Kullanıcı mesajları, talimatlar ve getirilen belgeler bu kapasiteyi paylaşır.

AI Memory ise hangi bilgilerin saklanacağını ve gerektiğinde nasıl geri getirileceğini düzenler. Bellekte bulunan bütün kayıtların aynı anda modelin bağlamında yer alması gerekmez.

Konuşmanın saklanması ile modelin konuşmanın tamamını görebilmesi farklı konulardır. Uzun geçmişler, bağlama sığması için kısaltılabilir veya özetlenebilir.

AI Memory ile RAG Aynı Şey mi?

RAG, ilgili bilgilerin bir kaynaktan getirilip modelin yanıt üretirken bunlardan yararlanmasını sağlayan yöntemdir. AI Memory ise bilgilerin zaman içinde saklanması, güncellenmesi ve yeniden kullanılmasıyla ilgilidir.

Bu nedenle ikisi birlikte çalışabilir. Örneğin geçmiş konuşmalardan oluşturulan bellek kayıtları, RAG yaklaşımıyla aranıp modele sunulabilir. RAG yalnızca dış belgelerle, bellek de yalnızca kullanıcı tercihleriyle sınırlı değildir.

AI Memory Kullanılırken Nelere Dikkat Edilmeli?

Bellek tasarımında yalnızca bilgi saklamak değil, doğru bilgiyi doğru zamanda kullanmak önemlidir:

• Güncellik: Değişen tercihler ve proje kararları eski kayıtların yerini alabilmelidir.

• Doğruluk: Yanlış çıkarımlar kalıcı bilgi gibi kullanılmamalıdır.

• Gizlilik: Hassas bilgilerin saklanması ve erişimi kontrollü olmalıdır.

• Silme ve düzeltme: Kullanıcılar kayıtlarını yönetebilmelidir.

• İlgililik: Gereksiz geçmiş bilgiler yeni görevi zorlaştırmamalıdır.

İyi tasarlanmış bir yapay zekâ hafızasının değeri, her şeyi saklamasından çok gerekli bilgiyi seçip doğru bağlamda kullanabilmesidir. Bu yaklaşım, kişisel asistanlardan uzun süreli görevler yürüten AI Agent sistemlerine kadar daha tutarlı deneyimler geliştirmeye yardımcı olabilir.

Kaynaklar: LangChain ve LangGraph — Memory Overview, LangChain — Short-Term Memory, Microsoft AutoGen — Memory and RAG, LlamaIndex — Agent Memory dokümantasyonu.

Editör Notu

Bu içerik, kamuya açık yapay zekâ kaynakları ve resmî teknik dokümantasyonlardan yararlanılarak hazırlanmış bir araştırma ve değerlendirme yazısıdır. İçerikte yer alan değerlendirmeler editoryal yorum niteliğindedir. Bellek özellikleri kullanılan uygulamaya ve sistem mimarisine göre değişebilir.