Haberlere dön

KAEL Haberleri

Yapay Zekâ Ajanlarında Hafıza Nasıl Çalışır?

Yayınlandı 5.642 görüntülenme

Büyük dil modelleri son derece akıcı ve ikna edici yanıtlar üretebilir. Ancak bir hafıza sistemiyle desteklenmediklerinde her yeni etkileşime kullanıcıyla ilk kez karşılaşıyormuş gibi başlayabilirler. Model, kullanıcının dün ne istediğini, daha önce hangi çözümün başarısız olduğunu veya yarım kalan bir görevin sürdürülmesi gerektiğini kendiliğinden bilemez.

Yapay zekâ ajanı hafızası bu sorunu çözerek önemli bilgilerin korunmasını ve geçmiş deneyimlerin gelecekteki kararlarda kullanılmasını sağlar. Böylece ajan, yalnızca mevcut komuta yanıt veren bir sistem olmaktan çıkarak bağlamı sürdürebilen bir dijital iş ortağına dönüşür.

Ajan hafızası, modelin eğitim verileriyle aynı şey değildir. Eğitim verileri modele genel bilgi ve dil yeteneği kazandırır. Hafıza ise gerçek kullanım sırasında oluşan kullanıcı tercihlerini, geçmiş eylemleri, görev sonuçlarını, iş kurallarını ve önceki kararları saklar. Model anlama ve akıl yürütme işlevini yerine getirirken hafıza sistemi ihtiyaç duyulan bağlamı sağlar.

## Yapay Zekâ Ajanı Hafızasının Dört Temel Türü

Pratik bir ajan mimarisi genellikle dört farklı hafıza türünü bir arada kullanır. Her biri akıllı davranışın farklı bir yönünü destekler.

### Çalışma Hafızası

Çalışma hafızası, ajanın o anda kullandığı bilgileri içerir. Mevcut konuşma, geçici bir plan, bir araçtan alınan sonuçlar veya işlem hâlindeki veriler bu alanda tutulabilir.

Bu hafızaya hızlı biçimde erişilebilir, ancak kapasitesi sınırlıdır. Bir dil modelinin bağlam penceresine benzeyen çalışma hafızasındaki bilgiler, önemli bölümler kalıcı bir sisteme aktarılmadığı sürece oturum sona erdiğinde kaybolabilir.

### Anlamsal Hafıza

Anlamsal hafıza, gerçekleri ve görece kalıcı bilgileri saklar. Kullanıcının görevi, iletişim tercihleri, kurum içinde kullanılan terimler, ürün bilgileri ve iş gereksinimleri buna örnek gösterilebilir.

Bu hafıza, ajanın belirli bir ortamda nelerin doğru ve önemli olduğunu anlamasına yardımcı olur. Böylece herkese aynı genel yanıtı vermek yerine çıktısını kullanıcıya ve kurumsal bağlama göre uyarlayabilir.

### Olaysal Hafıza

Olaysal hafıza, geçmiş etkileşimlerde yaşananları kaydeder. Hangi işlemlerin gerçekleştirildiği, adımların hangi sırayla uygulandığı, hangi yaklaşımın seçildiği ve sonucun başarılı olup olmadığı burada tutulabilir.

Uzun süreli ve çok aşamalı iş akışlarında bu hafıza kritik öneme sahiptir. Ajan, kullanıcının daha önce belirli bir çözümü denediğini ve bu çözümün neden başarısız olduğunu hatırlayabilir. Böylece aynı öneriyi tekrarlamak yerine farklı bir yaklaşım geliştirebilir ve kullanıcıdan bütün süreci yeniden açıklamasını istemeden göreve devam edebilir.

### Prosedürel Hafıza

Prosedürel hafıza, ajanın nasıl davranması gerektiğini belirler. İş akışları, iletişim standartları, onay gereksinimleri, güvenlik kısıtlamaları, yetki sınırları ve gerektiğinde insan uzmanlara yönlendirme kuralları bu hafızanın parçasıdır.

Akıllı olmak tek başına uygun davranış için yeterli değildir. Özellikle kurumsal ortamlarda ajan, hangi süreci izlemesi ve hangi sınırları aşmaması gerektiğini de bilmelidir.

## Hafıza Süreci Nasıl İşler?

Bir veri tabanı oluşturmak, ajana otomatik olarak yararlı bir hafıza kazandırmaz. Bilgilerin çıkarma, depolama, birleştirme ve geri getirme olmak üzere dört bağlantılı aşamadan geçmesi gerekir.

### 1. Bilginin Çıkarılması

İlk aşamada hangi bilgilerin hatırlanmaya değer olduğu belirlenir. Bir konuşmadaki her cümlenin gelecekte kullanılabilecek bir değeri yoktur. Ajan her şeyi kaydederse hafıza deposu kısa sürede tekrarlar, geçici yorumlar ve ilgisiz ayrıntılarla dolar.

Etkili bir çıkarma sistemi önemli gerçekleri, tercihleri, kararları, taahhütleri ve sonuçları seçer. Ayrıca yalnızca mevcut görev için gerekli olan geçici bilgilerle gelecekteki etkileşimleri geliştirebilecek kalıcı bilgileri birbirinden ayırır.

### 2. Depolama

Seçilen bilgiler kalıcı bir sisteme yazılır. Vektör veri tabanları, tam kelime eşleşmesi yerine anlam benzerliğine göre arama yapabildikleri için sıkça kullanılır. Kullanıcı aynı düşünceyi farklı ifadelerle anlatsa bile ajan ilgili hafızayı bulabilir.

Bilgiler arasındaki ilişkilerin karmaşık olduğu durumlarda bilgi grafikleri de kullanılabilir. Bu yapılar kullanıcılar, işlemler, politikalar, görevler ve diğer iş varlıkları arasındaki bağlantıları temsil edebilir.

### 3. Birleştirme ve Güncelleme

Koşullar değiştikçe hafızanın da güncellenmesi gerekir. Kullanıcı farklı bir tercih benimseyebilir, kurum eski bir politikanın yerine yenisini getirebilir veya açık görünen bir görev tamamlanabilir.

Birleştirme aşamasında yeni bilgiler mevcut kayıtlarla karşılaştırılır. Sistem, yeni bir hafıza oluşturulmasına mı, eski kaydın güncellenmesine mi, benzer kayıtların birleştirilmesine mi yoksa geçersiz bilginin silinmesine mi karar verir. Bu süreç olmadan çelişkili ve eski veriler birikir, ajanın güvenilirliği zamanla azalır.

### 4. İlgili Hafızanın Geri Getirilmesi

Ajan yanıt vermeden veya eyleme geçmeden önce mevcut durumla ilgili hafızaları arar. Seçilen bilgiler çalışma bağlamına eklenir ve model bunları planlama ile akıl yürütme sırasında kullanır.

Çok az bilgi getirilmesi ajanın eksik bağlamla hareket etmesine neden olur. Gereğinden fazla bilgi ise bağlamı gürültüyle doldurabilir, maliyeti artırabilir ve modeli asıl hedeften uzaklaştırabilir. Başarılı bir hafıza sistemi yalnızca çok miktarda veri saklamaz; doğru bilgiyi doğru zamanda bulur.

## Ajan Hafızası ile RAG Arasındaki Fark

Ajan hafızası, erişim destekli üretim olarak bilinen RAG ile sıkça karıştırılır. Her iki yaklaşım da modele harici bilgi sağlasa da farklı ihtiyaçlara hizmet eder.

RAG genellikle ortak bir bilgi tabanından ürün belgeleri, şirket politikaları, araştırmalar veya sektör bilgileri getirir. Ajan hafızası ise etkileşimler sonucunda değişir ve belirli bir kullanıcıya ya da göreve ait bilgileri okuyup yazabilir.

Basit bir ifadeyle RAG, ajanın kurumun ne bildiğini anlamasına yardımcı olur. Hafıza ise ajanın geçmişte ne yaşadığını ve mevcut kullanıcı hakkında ne öğrendiğini gösterir. Gelişmiş kurumsal sistemler çoğunlukla ikisini birlikte kullanır: RAG ortak bilgiyi, kalıcı hafıza ise devamlılığı ve kişiselleştirmeyi sağlar.

## Hafıza Yönetişimi Neden Önemlidir?

Bir ajan daha fazla bilgi hatırladıkça veri yönetişimi daha önemli hâle gelir. Kuruluşların hangi bilgilerin saklanabileceğini, kayıtların ne kadar süre tutulacağını, kimlerin bunlara erişebileceğini ve kullanıcıların verileri nasıl düzeltebileceğini veya sildirebileceğini belirlemesi gerekir.

Bu kontroller çok ajanlı sistemlerde özellikle önemlidir. Bir müşteri hizmetleri ajanının sipariş geçmişine erişmesi gerekebilir, ancak bu yetki ona ilgisiz insan kaynakları veya finans verilerini görme hakkı vermemelidir.

Her hafıza kaydı kaynak, oluşturulma zamanı, güven düzeyi, erişim kapsamı ve saklama süresi gibi bilgilerle yönetilmelidir. Bu mimari kararları yakından izleyen ekipler, KAEL AI’ın kapsamlı değerlendirmelerine [Facebook topluluğu](https://www.facebook.com/profile.php?id=61594050729769) üzerinden ulaşabilir; ajan mimarisi ve sorumlu yapay zekâ hakkındaki kısa güncellemeleri ise [KAEL AI’ın X hesabından](https://x.com/KAELAI001) takip edebilir.

## Bağlamsız Bir Araçtan Uzun Vadeli İş Ortağına

Hafıza, yapay zekâ ajanını tek seferlik yanıt üreten bir araçtan bağlamı koruyabilen, görevleri sürdürebilen ve kullanıcıya uyum sağlayabilen bir sisteme dönüştürür. Ancak amaç her şeyi kaydetmek değildir.

Güvenilir bir ajan, bilgiyi dikkatle seçmeli, doğru biçimde geri getirmeli, güncelliğini yitiren kayıtları kaldırmalı ve açık gizlilik sınırlarına uymalıdır. Bu unsurlar birlikte çalıştığında hafıza, ajanın güvenilirliğini kaybetmeden zaman içinde daha yararlı hâle gelmesini sağlayan temel mimariye dönüşür.