Araştırma

Pekiştirmeli Öğrenme & Karar Sistemleri

Değişen koşullara uyum sağlayan karar politikaları, ödül tasarımı, simülasyonda eğitim ve sahaya güvenli aktarım.

Ne üzerinde çalışıyoruz

01Ödül tasarımı ve ödül manipülasyonunun (reward hacking) tespiti
02Simülasyonda eğitip sahaya aktarma; simülasyon–gerçeklik farkının kapatılması
03Dil modelleriyle birlikte çalışan karar politikaları
04Güvenli keşif: sistemin öğrenirken geri alınamaz bir hata yapmasının önlenmesi
05Çok adımlı kararlarda başarının nasıl ölçüleceği ve politika regresyonunun yakalanması

Neden bu alanda çalışıyoruz

Bazı problemlerde doğru cevap sabit değil: karşı taraf da davranışını değiştiriyor. Statik bir kural seti ya da bir kez eğitilmiş bir sınıflandırıcı bu durumda öngörülebilir hale geliyor, öngörülebilir olan da aşılıyor.

Pekiştirmeli öğrenme bu problem sınıfına yanıt veriyor, ama kendi zorluklarını getiriyor: ödül yanlış tasarlandığında sistem istediğiniz şeyi değil ödülü optimize ediyor. Çalışmalarımızın ağırlığı bu yüzden ödül tasarımı ve güvenli keşif üzerinde.

Araştırma projelerimizden

Bu alandaki iki destekli projemiz de aynı fikirden çıkıyor: koruma stratejisi sabit kaldığında öngörülebilir oluyor. Hem yazılım koruma hem tehdit tespiti sistemlerimiz, karşılaştıkları duruma göre stratejilerini pekiştirmeli öğrenmeyle güncelliyor.