Yapay zeka ajan hafızası nasıl çalışıyor, hangi bellek türleri öne çıkıyor

Yapay zeka ajanları konuşulurken hafıza çoğu zaman tek bir veritabanı ya da sürekli büyüyen bir istem penceresi sanılıyor. Oysa ajan hafızası, modelin anlık yanıtının ötesinde ihtiyaç duyduğu bilgiyi saklayan, düzenleyen ve geri getiren bir sistem. Görevin aktif durumunu, geçmiş deneyimleri, olguları ve öğrenilmiş çalışma biçimlerini tutuyor; ama ne tek bir veritabanı ne de modelin bağlam penceresiyle aynı şey.

Kısa vadeli bellek görevin anlık durumunu tutuyor

Çalışma belleği ya da kısa vadeli bellek, eldeki görevin aktif durumunu barındırır: hedef, güncel plan, son gözlemler, açık sorular, araç çıktıları ve tamamlanan adımlar. Bu bilgi kimi zaman konuşmanın içinde, kimi zaman ayrı bir durum nesnesinde tutulur. Bağlam sınırlı olduğu için uzun süren görevlerde eski olaylar özetlenir, kritik değişkenler ayrı saklanır ya da görevin yalnızca sıradaki ilgili bölümü yüklenir.

Olay belleği ise deneyimleri birer olay olarak kaydeder: ne oldu, ne zaman oldu, hangi koşulda gerçekleşti, hangi adımlar atıldı ve sonuç ne oldu. Bir ajan bu sayede belirli bir yapılandırma değişikliğinden sonra dağıtımın başarısız olduğunu ya da kullanıcının bir öneriyi hangi gerekçeyle reddettiğini hatırlayabiliyor.

Anlamsal bellek deneyimi bilgiye çeviriyor

Anlamsal bellek, olguları ve kavramları tek bir olaydan bağımsız olarak tutar. Kullanıcının tercih ettiği dil, bir iç metriğin tanımı veya ürünler arasındaki ilişki bunun tipik örnekleri. Buna prosedürel bellek de ekleniyor: tekrar kullanılabilir çalışma biçimleri. Bu katmanların hepsinin bir de karşılığı var; unutma. Eskimiş, hassas ya da değeri düşmüş durumun sınırlanması, sistemin sağlıklı kalması için kaydetmek kadar önemli.

Bellek hattının dört aşaması

İşleyen bir hafıza hattı dört adımdan oluşuyor. Yakalama: bir mesajı, eylemi, sonucu ya da ortam değişikliğini gözlemlemek. Seçme ve kodlama: bilginin saklanmaya değer olup olmadığına karar verip üst verisiyle birlikte bir kayda dönüştürmek. Saklama: kaydı erişim kontrolleri ve saklama politikası olan uygun bir sisteme yerleştirmek. Geri getirme: yeni bir görev geldiğinde ilgili kayıtları arayıp sıralamak ve küçük bir seçkiyi bağlama koymak. Bu yaklaşımın öncüllerinden Generative Agents araştırması, ajanların gözlemleri sakladığı, anıları ilgililik, yenilik ve önem üzerinden geri getirdiği, ardından daha üst düzey yansımalar oluşturduğu bir mimari tarif ediyordu.

Ajan hafızası ile RAG arasındaki ayrım da burada netleşiyor. RAG, ajanın dışında duran düzenlenmiş bir bilgi tabanından arama yapar. Hafıza sisteminde ise ajanın kendi etkileşimlerinden doğan kayıtlar bulunur; sistem yalnızca neyi okuyacağına değil, neyi yazacağına da karar vermek zorundadır.

En sık görülen hafıza hataları

Güvenilir hafıza zaman damgası ve kaynak bilgisini korur, hangi sistemin yetkili olduğunu tanımlar ve çelişkileri sessizce ilk sıradaki kaydı seçerek değil açıkça gösterir. Buna rağmen üç hata tekrar ediyor: eski bir olgunun güncel kayıt değerini ezdiği bayat hafıza, modelin ürettiği bir çıkarımın doğrulanmış gibi saklandığı yanlış hafıza ve benzer ama alakasız kayıtların modeli yanılttığı geri getirme gürültüsü.

Hafıza, modelin öğrenmesi anlamına gelmiyor

Çoğu durumda model ağırlıkları değişmiyor. Ajan hafızası büyük ölçüde dışarıda tutulan bilginin çalışma anında bağlama taşınması demek. Bu davranışı ciddi biçimde değiştirebilir, ancak alttaki modeli eğitmek ya da ince ayar yapmaktan farklı bir iş. Ajan hafızasını doğru kurmak isteyen ekipler için özet net: hafıza, modelin etrafına kurulan bir geri getirme ve yönetişim mimarisi.

Kaynak: Unite.AI