Uzun Bağlam Sıkıştırması Yapay Zeka Talimatlarını Nasıl Unutturuyor?

Bağlam Sıkıştırmasında Talimat Kaybı Riski

Büyük Dil Modelleri (LLM), uzun süreli etkileşimleri yönetebilmek için 'bağlam penceresi' (context window) adı verilen bir bellek alanına ihtiyaç duyar. Ancak bu alan dolduğunda veya verimlilik artırılmak istendiğinde, sistemler bilgiyi sıkıştırma yoluna gider. Penn State Üniversitesi araştırmacıları tarafından yapılan yeni bir çalışma, bu sıkıştırma sürecinin kritik bir güvenlik açığını ortaya koyuyor.

Veriler Ne Söylüyor?

Araştırma bulgularına göre, yapay zeka sistemleri uzun konuşmaları özetleyip sıkıştırdığında, kullanıcı tarafından tanımlanmış kuralların ortalama yüzde 83'ünü göz ardı ediyor. Örneğin, "onayım olmadan e-posta gönderme" gibi spesifik kısıtlamalar, sistemin hafıza yönetimi süreçlerinde kaybolabiliyor. Bu durum, modelin başlangıçta aldığı talimatlara sadık kalma yeteneğinin, konuşma uzadıkça ciddi oranda zayıfladığını gösteriyor.

Çözüm Arayışı: Qwen3.5-9B Tabanlı Modül

Araştırmacılar, bu veri kaybını engellemek amacıyla Qwen3.5-9B modeli üzerinde çalışan küçük ve özelleşmiş bir eklenti modülü geliştirdi. Yapılan ilk testler, bu yöntemin kullanıcı kısıtlamalarını koruma oranını yüzde 90'ın üzerine çıkardığını gösteriyor.

Metodolojik Sınırlamalar

Bu çalışma, modelin talimatları işleme biçimindeki yapısal bir zafiyete işaret etse de, sonuçların tüm LLM mimarileri için ne kadar genellenebilir olduğu henüz net değildir. Ayrıca, önerilen eklenti modülünün farklı model ailelerinde (örneğin GPT-4 veya Claude serisi) aynı başarıyı gösterip göstermeyeceği, bağımsız değerlendirmelerle doğrulanmalıdır. Yine de bu bulgular, yapay zeka güvenliği ve sistem güvenilirliği açısından kritik bir parametre olan 'talimat sadakati' konusunda geliştiricilerin daha dikkatli olması gerektiğini kanıtlıyor.