Araştırma
Yapay Zeka Güvenliği & Mahremiyet
Çekişmeli saldırılara dayanıklılık, komut enjeksiyonu savunması, veriyi paylaşmadan öğrenme ve model gizliliği.
Ne üzerinde çalışıyoruz
- 01Çekişmeli (adversarial) örneklere karşı dayanıklılık ve saldırı altında performans ölçümü
- 02Dil modellerinde komut enjeksiyonu ve veri sızdırma savunmaları
- 03Federe öğrenme ve veriyi merkezde toplamadan model eğitimi
- 04Diferansiyel mahremiyet ve eğitim verisinin modelden geri çıkarılmasının önlenmesi
- 05Model çalma ve tersine mühendisliğe karşı koruma
Neden bu alanda çalışıyoruz
Bir modelin üretime girmesi, saldırı yüzeyinin de üretime girmesi demek. Görsel modeller gözle görülmeyen bozulmalarla yanıltılabiliyor, dil modelleri kendilerine verilen metinle yönlendirilebiliyor. Bunlar teorik değil, sahada karşılaştığımız şeyler.
İkinci mesele veriyi hiç dışarı çıkarmadan öğrenmek. Veri güvenliği gerekçesiyle model geliştiremeyen kurumlar, sorunun modelde değil mimaride olduğunu çoğu zaman geç fark ediyor.
Araştırma projelerimizden
Yürüttüğümüz tehdit tespiti ve veri koruma projesi bu alanla doğrudan kesişiyor: bilinen imzalara dayanmayan, davranış temelli ve kendini yeni saldırı biçimlerine uyarlayan bir savunma yaklaşımı.
Uygulandığı sektörler
İlgili yazılar
Yeni Makine Yönetmeliği ve makine öğrenmesi: emniyet işlevinde yapay zeka kullanan üreticiler için
20 Ocak 2027'de uygulanmaya başlayan AB ve Türkiye makine yönetmeliklerinin makine öğrenmesine getirdiği kurallar: hangi bileşen kapsamda, uygunluk değerlendirmesi, kayıt ve sınır gereklilikleri, model güncellemeleri.
AB Yapay Zeka Yasası'nın güncel takvimi: Türk üreticiler ne zaman neye hazır olmalı
Omnibus düzenlemesiyle değişen tarihler, yasanın AB dışındaki şirketlere hangi yoldan dokunduğu, sanayide hangi sistemlerin yüksek riskli sayıldığı ve bunun mühendislik tarafındaki karşılığı.
Diğer araştırma alanları
Üretken Yapay Zeka & LLM
RAG mimarileri, alan uyarlaması ve ince ayar, küçük modellere damıtma, Türkçe değerlendirme setleri ve şirket içi kurulum.
Bilgisayarlı Görü
Nesne tespiti ve takip, video anlama, görsel-dil modelleri, belge zekası ve OCR, uç cihazda gerçek zamanlı çalıştırma.
Yapay Zeka Ajanları
Araç kullanımı, çok adımlı planlama ve çoklu ajan orkestrasyonu; MCP entegrasyonu, insan onaylı iş akışları ve güvenlik bariyerleri.
MLOps & Model Operasyonları
Değerlendirme altyapısı, gözlemlenebilirlik, halüsinasyon ve regresyon takibi, sürekli yeniden eğitim.
Pekiştirmeli Öğrenme & Karar Sistemleri
Değişen koşullara uyum sağlayan karar politikaları, ödül tasarımı, simülasyonda eğitim ve sahaya güvenli aktarım.
Yapay zeka projeniz için teknik değerlendirme
Projenizin fizibilitesi, riskleri ve takvimi teknik görüşmede değerlendirilir.