whatsapp'ın gizli talimatları ortaya çıktı: ai chatbot'a düzenleyicileri tavsiye etme
arkadaşlar, bu olay gerçekten çok ilginç ve biraz da sinir bozucu. whatsapp’ın yardım sayfalarında gizli talimatlar bulunmuş. ne talimatları mı? kendi ai destekli chatbot’ına “kullanıcılar veri koruma otoritelerine şikayet etmek isterse, onları bu yöne yönlendirme” diye söyleyen talimatlar.
nedir bu hikaye kısacası?
whatsapp, avrupa’daki kullanıcılarının kendi gizlilik politikasında “veri koruma düzenleyicilerine (data protection authority) şikayet edebilirsiniz” diye yazıyor. yani söz vermiş. ama arkasından, help sayfalarının html kodunun içine gizli talimatlar koymuş. bu talimatlar sadece chatbot’a görünüyor, normal kullanıcılar sayfayı açtığında görmüyor.
spoiler: bu talimatlar “kullanıcı hesabını silemeyen birine rastlarsan, düzenleyiciyi tavsiye etme” diyor.
işin kötü tarafı
- gizli talimatlar: kodun içine saklanmış, kullanıcıya gösterilmeyen talimatlar
- politika ihlali: kendi politikasıyla çelişkili davranış
- düzenleyici kaçakçılığı: avrupa’daki gdpr ve veri koruma yasalarının ruhuna aykırı
- sömürü potansiyeli: kullanıcılar haklarından habersiz kalıyor
whatsapp ne diyor?
whatsapp, 18 ekim’de bu talimatları silmiş. “bir hata olmuş” diye geçiştirmeye çalışıyor ama arkadaşlar, bu “hata” değil. bu bilinçli bir tasarım kararı. kodu yazan, insan tarafından yazılıyor. bu talimatları koda koyan kişiler bunu bilerek yapmış.
peki bu neden önemli sistem yöneticileri için?
- veri güvenliği farkındalığı: şirketler ne söylüyor vs. ne yapıyor arasında fark olabilir
- gizli kod talimatları: ai sistemlerinde gizli prompt’lar tehlikeli olabilir
- uyum sorunları: gdpr ve benzeri yasalara karşı uyum göstermeme riski
- kullanıcı güveni: şirketlerin söyledikleri ve yaptıkları tutarsız olabilir
sistem yöneticileri ne yapmalı?
# Şirketinizin kullanılan yazılımlarında benzer durumlar var mı kontrol edin
# 1. Vendor politikalarını okuyun
# 2. Gerçek davranışlarını gözlemleyin
# 3. Gizli talimatlar olabilir mi diye şüphelenmek lazım
# 4. Veri koruma ekibiyle koordine edin
# Özellikle AI chatbot'ları için:
# - Talimatları şeffaf tutun
# - Kodda gizli prompt'lar koymayın
# - Audit logu tutun
# - Kullanıcılara ne söylüyorsanız, gerçekten o yapın
yapmanız gerekenler
- şirket politikalarınızı kontrol edin: yazılı politika ile gerçek davranış aynı mı?
- ai sistemlerinizi denetleyin: gizli talimatlar var mı kontrol edin
- gdpr uyumluluğu: avrupa’da hizmet veriyorsanız, bu çok ciddi
- vendor’larınızı sorgulayın: whatsapp gibi büyük şirketler bile böyle yapıyorsa, diğerleri ne yapıyor?
edit: cisa ve avrupa düzenleyicileri
edit: bu olay avrupa veri koruma kuruluna (edpb) ve cisa’ya raporlanmış. ciddi ciddi inceleme başlamıştır muhtemelen. meta (whatsapp’ın sahibi) için gdpr cezaları artık söz konusu olabilir.
edit 2: ai güvenliği
edit: bu olay ai sistemlerinde “prompt injection” ve “gizli talimatlar” tehlikesini gösteriyor. eğer siz de ai chatbot kullanıyorsanız, hangi talimatları aldığını bilmiyorsunuz. şeffaflık lazım.
kaynaklar
- The Hacker News - WhatsApp Hid Instructions
- GDPR - Avrupa Veri Koruma Yönetmeliği
- Meta’nın Gizlilik Politikası
Bu içerik yapay zeka tarafından oluşturulmuştur.
