litellm'de düşük yetkili kullanıcıdan sunucu ele geçirmeye giden zafiyet zinciri

arkadaşlar, ai gateway dünyasında ciddi bir olay var. litellm diye popüler bir açık kaynaklı ai gateway’de zafiyet zinciri bulunmuş. obsidian security’nin araştırmacıları keşfetmiş bunu. şöyle ki, düşük yetkili bir hesapla başlıyorsunuz, 3 tane açığı zincirleyip tam admin oluyorsunuz, sonra da sunucuda kod çalıştırıyorsunuz. yani kısacası tam bir felaket senaryosu.

spoiler: bu zafiyet zinciri başarılı olursa, gateway’in elinde tuttuğu tüm api anahtarları, provider secret’ları falan hepsi gidiyor.

olay ne tam olarak

litellm, 100’den fazla ai model sağlayıcısını (openai, anthropic, google vs.) tek bir openai-uyumlu arayüz arkasında toplayan bir proxy/gateway. yani şirketler bunu kullanarak farklı ai modellerine tek noktadan erişiyorlar. oldukça yaygın kullanılıyor.

şimdi, bu sistemde varsayılan olarak düşük yetkili bir hesap var. saldırgan bu hesapla giriş yapıyor, sonra 3 tane zafiyeti arka arkaya tetikleyerek:

1. yetki yükseltme yapıyor (privilege escalation denen şey)
2. admin oluyor
3. sunucuda kod çalıştırıyor (rce - remote code execution)

sonuç: gateway’de kayıtlı tüm api anahtarları, secret’lar, belki müşteri verileri, her şey ele geçiyor.

teknik detaylar

obsidian security’nin raporuna göre bu 3 zafiyetin zincirlenmesiyle gerçekleşiyor olay. henüz cve numaraları tam açıklanmamış ama şunları biliyoruz:

• varsayılan düşük yetkili hesap sisteme giriş noktası oluyor
• yetki yükseltme zafiyeti admin’e terfi ettiriyor kullanıcıyı
• kod çalıştırma zafiyeti sunucuda istediğinizi yaptırıyor

bu tür zincirleme saldırılar genelde çok tehlikeli oluyor çünkü tek başına zararsız görünen açıklar birleşince tam felakete dönüşüyor.

etkilenen sistemler

edit: litellm ekibi zafiyeti yamalarken hızlı davranmış, güncelleme yayınlamışlar.

ne yapmalısınız

agalar, litellm kullanıyorsanız hemen şunları yapın:

1. versiyon kontrolü

# litellm versiyonunuzu kontrol edin
pip show litellm

# veya docker kullanıyorsanız
docker exec <container_name> pip show litellm

2. acil güncelleme

# pip ile güncelleme
pip install --upgrade litellm

# docker kullanıyorsanız en son image'ı çekin
docker pull ghcr.io/berriai/litellm:latest
docker-compose down
docker-compose up -d

3. varsayılan hesapları kontrol edin

# litellm config dosyanızı kontrol edin
# varsayılan/düşük yetkili hesapları devre dışı bırakın
# sadece gerekli kullanıcıları aktif tutun

4. api anahtarlarını rotate edin

dikkat: eğer eski versiyonda çalışıyordunuz ve şüpheleniyorsanız, tüm api anahtarlarınızı değiştirin. hem litellm’deki hem de provider’larınızdaki (openai, anthropic vs.) anahtarları yenileyin.

# her provider için anahtarları yenileyin:
# - openai dashboard
# - anthropic console
# - google cloud console
# vs.

5. log kontrolü

# şüpheli aktivite var mı diye logları inceleyin
# özellikle yetki yükseltme girişimlerine bakın

tail -f /var/log/litellm/access.log
grep -i "privilege\|admin\|unauthorized" /var/log/litellm/*.log

geçici çözümler

hemen yamayı uygulayamayanlar için:

ağ seviyesi izolasyon:

# litellm proxy'yi sadece güvenilir ağlardan erişilebilir yapın
# firewall kuralı ekleyin
iptables -A INPUT -p tcp --dport 4000 -s <güvenilir_ip> -j ACCEPT
iptables -A INPUT -p tcp --dport 4000 -j DROP

varsayılan hesapları devre dışı bırakın:

• config dosyasından tüm varsayılan/demo hesapları silin
• sadece güçlü şifreli, gerekli hesapları tutun
• mfa (multi-factor authentication) aktif edin mümkünse

monitoring:

• anormal yetki değişikliklerini izleyin
• beklenmedik api çağrılarını logla
• admin panel erişimlerini alert’le

risk değerlendirmesi

bu zafiyet zinciri şu açıdan çok kritik:

🔴 kritik seviye - çünkü:

• düşük yetkili hesaptan başlıyor (giriş bariyeri düşük)
• tam sunucu ele geçirmeye gidiyor
• tüm api anahtarları ve secret’lar risk altında
• yaygın kullanılan bir araç

eğer litellm kullanıyorsanız ve ai model api anahtarlarınız varsa, bu anahtarlar ele geçerse:

• mali kayıp (api kullanım ücretleri)
• veri sızıntısı (model’e gönderilen promptlar, yanıtlar)
• supply chain saldırısı (sizin sisteminiz üzerinden başkalarına saldırı)

kaynaklar

• obsidian security blog yazısı (detaylı analiz için)
• litellm github (güncelleme notları)
• the hacker news haberi

not: cve numaraları henüz tam açıklanmadığı için buraya ekleyemedim, açıklandığında güncellerim.

sonuç

arkadaşlar, ai gateway’ler artık kritik altyapı haline geldi. openai, anthropic, google gibi onlarca provider’a erişim anahtarlarınız tek bir noktada toplanıyor. bu tür sistemlerde zafiyet çıkınca domino etkisi yapıyor.

yapmanız gerekenler:

1. hemen litellm’i güncelleyin
2. varsayılan hesapları temizleyin
3. api anahtarlarını rotate edin (şüpheleniyorsanız)
4. logları kontrol edin
5. monitoring kurun

edit: litellm kullanan arkadaşlar, bu işi ciddiye alın. ai api anahtarları ele geçerse hem mali hem de veri güvenliği açısından büyük sorun yaşarsınız.

şimdilik bu kadar, güncellemeler olursa eklerim buraya.

Bu içerik yapay zeka tarafından oluşturulmuştur.