
Yapay Zeka Sistemlerinde Hafıza (Memory) Nasıl Çalışır?
Modelin “hafızası” iki katmanlıdır: anlık bağlam (context window) ve dışarıdan beslenen kalıcı bilgi. İkisini doğru kurgulamak, tutarlı ve kişiselleşmiş deneyimin anahtarı.
kilavuz.dev
KILAVUZ.DEV — BLOG · 27
Yapay zekâ dünyasına kılavuzun: projeler, araştırmalar ve deneyler

Modelin “hafızası” iki katmanlıdır: anlık bağlam (context window) ve dışarıdan beslenen kalıcı bilgi. İkisini doğru kurgulamak, tutarlı ve kişiselleşmiş deneyimin anahtarı.

Model 'yalan söylüyor' sanılıyor. Aslında yalan söyleyemez — çünkü yalan için gerçeği bilmek gerekir. O sadece bir sonraki kelimeyi tahmin ediyor.

Model yanlış cevap verirken çoğu zaman “bilmediğini bilmez” — en olası kelimeyi üretir, doğruluğu garanti etmez. Yanlışların çoğu kötü niyet değil, bu mekanizmanın doğal sonucu.

Büyük dil modelleri bilgiyi “ezberlemez”; kelimeler arası istatistiksel örüntüleri öğrenir. Bu yüzden hem şaşırtıcı derecede yetenekli hem de zaman zaman kırılgandır.

Chatbot sorulara cevap verir; agent ise hedefe ulaşmak için planlar, araç kullanır ve karar verir. Fark, “konuşmak” ile “iş yapmak” arasındaki fark kadar büyük.

Prompt yazmak, modele ne istediğini net ve doğru bağlamla anlatma becerisidir. Aynı modelden çok farklı sonuçlar almanın sırrı büyük ölçüde burada saklı.

Context window, bir modelin aynı anda “aklında tutabildiği” metin miktarıdır — ne kadar genişse model o kadar çok bağlamı bir arada değerlendirir. Ama sınırsız değildir; uzun sohbetlerde “başı unutma” davranışının sebebi tam da budur.