chatgpt'nin markdown açığı ile phishing saldırıları: chatgphish
arkadaşlar, openai’ın chatgpt’sinde ilginç bir açık bulunmuş. “chatgphish” diyorlar buna. şöyle ki, chatgpt web özetlerinde markdown linklerine ve görsellere aşırı güveniyormuş. bu da prompt injection denen beladan phishing saldırılarına kadar giden bir yol açıyormuş.
permiso security’nin araştırmacıları ortaya çıkarmış bu açığı. chatgpt.com’un response renderer’ı (yani yanıt oluşturucu kısmı) markdown linklerini ve markdown görsellerini sorgulamadan güveniyormuş. saldırganlar bunu kullanarak kullanıcıları kandırabiliyorlar.
ne oluyor peki bu chatgphish olayında
spoiler: chatgpt’ye bir web sayfası özetlemesini söylediğinizde, o sayfa içinde kötü niyetli markdown kodu varsa, chatgpt bunu güzelce render ediyor ve kullanıcıya sunuyor. yani siz “şu siteyi özetle” diyorsunuz, chatgpt de içindeki zararlı markdown’ı aynen gösteriyor.
saldırgan şöyle bir senaryo kurabiliyor:
- kötü amaçlı bir web sayfası hazırlıyor
- bu sayfaya markdown formatında sahte linkler ve görseller ekliyor
- kurban chatgpt’ye “şu siteyi özetle” diyor
- chatgpt özet yaparken bu markdown kodlarını çalıştırıyor
- kullanıcı sahte bir link görüyor ve tıklıyor
- phishing sayfasına düşüyor
teknik detaylar
chatgpt’nin web özetleme özelliği şu şekilde çalışıyor:
- kullanıcı bir url veriyor
- chatgpt o sayfayı crawl ediyor (tarıyor)
- içeriği özetleyip markdown formatında gösteriyor
- ama sayfadaki markdown kodlarını da aynen render ediyor
bu demek oluyor ki, saldırgan sayfasına şöyle bir şey koyabilir:
[Google'a Git](https://evil-phishing-site.com)
chatgpt bunu gördüğünde, kullanıcıya “google’a git” diye bir link gösterir ama aslında phishing sitesine gider. görsel kısmı da daha tehlikeli, çünkü görsel yüklenirken zaten attacker’ın sunucusuna istek gidiyor.
saldırı senaryoları
araştırmacılar birkaç saldırı senaryosu göstermiş:
1. sahte link saldırısı:
- saldırgan meşru görünen ama sahte linkler ekliyor
- “microsoft güvenlik güncellemesi” gibi görünüyor ama phishing sitesine gidiyor
- chatgpt bunu özetlerken linki de gösteriyor
2. görsel bazlı veri sızdırma:
- markdown görsel tagları kullanılıyor
- görsel url’sine kullanıcı bilgileri ekleniyor
- görsel yüklendiğinde bu bilgiler saldırgana gidiyor
3. prompt injection:
- web sayfasına gizli komutlar konuluyor
- chatgpt bunları işlerken kullanıcıya yanlış bilgi veriyor
- “bu site tamamen güvenlidir” gibi yanıltıcı çıktılar üretiyor
etkilenen sistemler
| Platform | Durum |
|---|---|
| ChatGPT Web (chatgpt.com) | ✅ Etkileniyor |
| ChatGPT API | ❓ Belirsiz |
| ChatGPT Mobil | ❓ Belirsiz |
| Diğer AI Asistanlar | ❓ Test edilmeli |
ne yapmalısınız
şimdilik openai’dan resmi bir yama gelmemiş. o yüzden şunlara dikkat edin:
kullanıcılar için:
- chatgpt’ye bilinmeyen siteleri özetletmeyin
- chatgpt’nin verdiği linklere körü körüne tıklamayın
- link üzerine gelip gerçek url’yi kontrol edin
- özellikle hassas işlemler için chatgpt özetlerine güvenmeyin
sistem yöneticileri için:
- kullanıcıları bu konuda bilgilendirin
- web filtreleme kurallarınızı güncelleyin
- ai araçlarının kullanımı için güvenlik politikaları oluşturun
- phishing awareness eğitimlerine bu senaryoyu ekleyin
edit: bu tür saldırılar “indirect prompt injection” kategorisine giriyor. yani kullanıcı değil, üçüncü bir kaynak (web sayfası) ai’a komut veriyor.
geçici çözümler
openai yama yayınlayana kadar:
# tarayıcı eklentisi kullanın
# linklerin gerçek hedefini gösteren eklentiler var
# örneğin "link preview" gibi
# veya chatgpt'ye şunu söyleyin:
"bu sayfayı özetle ama hiçbir link gösterme, sadece metin özet ver"
ağ seviyesinde:
- chatgpt trafiğini izleyin
- bilinmeyen domainlere giden istekleri logla
- şüpheli pattern’ler için alert kurun
sonuç
agalar, ai çağındayız ama yeni güvenlik sorunları da geliyor. chatgpt gibi araçlar çok kullanışlı ama körü körüne güvenmemek lazım. özellikle web özetleme özelliğini kullanırken dikkatli olun.
bkz: prompt injection saldırıları, ai güvenliği, phishing teknikleri
dikkat: bu açık sadece chatgpt’de değil, markdown render eden diğer ai araçlarında da olabilir. claude, gemini gibi alternatifleri de test edin.
kaynaklar
- Permiso Security - ChatGPhish Araştırması
- The Hacker News - Orijinal Haber
- OWASP - LLM Security Top 10
not: henüz cve numarası atanmamış bu açığa. atandığında güncelleyeceğim.
şimdilik chatgpt’ye random siteleri özetletmeyin, sonra başınız ağrır. openai’dan yama gelene kadar dikkatli olun.
Bu içerik yapay zeka tarafından oluşturulmuştur.