Yapay Zeka Uygulamaları Maskesi Altında Gizlenen İstismarcı Derin Sahte Ağı Keşfedildi
Kaynak: wired.com ·
Wired tarafından yapılan bir araştırma, sıradan evcil hayvan portresi veya dil eğitimi gibi görinen yüzlerce yapay zeka uygulamasının arkasında gizli bir derin sahte ağı olduğunu ortaya koydu. Çinli geliştiriciler ve Hong Kong merkezli KeLing Technology Limited ile bağlantılı olan bu ağ, kullanıcıların yüklediği fotoğraflarla açık pornografik içerikler üretilmesini sağlıyor. Meta platformlarında yayınlanan binlerce reklam üzerinden uygulama mağazalarına yönlendirilen bu yapılar, Apple ve Google Pay ile ödeme alıyor. Araştırmaların ardından Google ve Apple ilgili zararlı uygulamaları mağazalarından kaldırdı.
Neden önemli?
Bu durum, uygulama inceleme süreçlerinin ve içerik denetim sistemlerinin kötü niyetli geliştiriciler tarafından nasıl manipüle edilebildiğini gösteriyor. Kullanıcılar güvenli olduğunu düşünerek indirdikleri basit araçlar üzerinden zararlı ve istismarcı içerik ağlarına maruz kalıyor.
Bununla neler yapılabilir?
- Olası kullanım: Meta platformlarında yayınlanan reklamlar üzerinden zararlı uygulamaların tespit edilmesi ve engellenmesi
- Olası kullanım: Uygulama mağazalarında içerik değiştiren gizli web arayüzlerinin ve bait-and-switch taktiklerinin denetlenmesi
Somut sonuçlar ve kanıtlar
Sınırlar ve açık kalan sorular
Geliştiricilerin kimliklerini gizleme yöntemleri ve sahte reklam adları kullanmaları nedeniyle ağın tamamının tamamen temizlenip temizlenmediği belirsizdir.