Sıradan yapay zekâ araçları gibi görünen yüzlerce uygulamanın arka planda cinsel ve şiddet içerikli görüntüler üreten gizli bir deepfake özelliği taşıdığı ortaya çıktı. Bu deepfake uygulamaları, Apple’ın App Store’unda ve Google Play’de inceleme sürecinden geçerek yayına girdi.
Araştırma, birbirine bağlı 400’ü aşkın alan adı ve uygulamadan oluşan bir ağı ortaya koyuyor. Uygulamaların çoğu dil dersi ya da yapay zekâ destekli spor koçluğu gibi gündelik hizmetler sunduğunu söylüyor. Ağın arkasında Çince konuşan geliştiriciler ve Hong Kong’da kayıtlı bir şirket bulunuyor.
Örneklerden biri Viefur. Evcil hayvan fotoğraflarını insan kıyafetleriyle portreye dönüştürdüğünü söyleyen uygulama, asıl olarak cinsel istismar içerikli deepfake görüntüler üretmeye yarıyordu. Ağdaki uygulamalarda tecavüz ve bir kadının boğazına bıçak dayanması gibi şiddet içerikli şablonlar da bulunuyor.
Uygulamalar İncelemeden Nasıl Geçti?
Uygulama indirildiğinde sunucuya kullanıcının nereden geldiği, dili ve benzersiz bir kimlik gibi bilgiler gönderiliyor. Sunucu da zararsız sürümün mü yoksa açık içerikli web arayüzünün mü açılacağına karar veriyor. İnceleme sırasında uygulamalar yalnızca masum içerik gösteriyor.
Tetikleyicilerden biri, Facebook ya da Instagram’daki ilgili bir reklama tıklayıp uygulamayı indirmek. Gizli arayüzde onlarca pornografik şablon yer alıyor; kullanıcılar yükledikleri fotoğraflardan içerik üretmek için kredi satın alıyor. Ödemeler Apple ve Google Pay üzerinden alınabiliyordu.
Ağ yaklaşık bir yıldır uygulama yayımlıyor ve bir dönem haftada 30 kadar yeni uygulama ve site kaydediliyordu. Eylülde Google Play’de yayında olan 27 uygulama, toplamda 350 binden fazla kez indirildi.
Apple 19 Uygulamayı Kaldırdı
Apple, ağa ilişkin sorular ve alan adları kendisine iletildikten sonra 19 uygulamayı App Store’dan kaldırdı. Apple sözcüsü Adam Dema, her uygulamanın yayından önce incelendiğini ve bu uygulamaların inceleme sırasında kurallara uyduğunu söyledi.
Dema, geliştiricilerin onaydan sonra uygulamanın içerik çektiği web sitesini değiştirdiğini, onaylanan içeriğin yerine pornografik içerik koyduğunu ve bunu üçüncü taraf bir platformdaki reklamlarla tanıttığını belirtti. Apple, son bir yılda bu “yem ve değiştir” taktiğini kullanan on binlerce uygulamayı askıya aldığını açıkladı.
Google, uygulamaların çoğunu kendisine ulaşılmadan önce kaldırmıştı; şirket yorum talebine yanıt vermedi. Meta ise ağla bağlantılı 11.600 reklam hesabı ve 15.000 sayfa hakkında işlem yaptığını, 209 uygulamanın da reklam vermesini engellediğini açıkladı.
Uygulamaların hangi ülkelerin App Store ve Google Play vitrinlerinde yayında olduğu açıklanmadı. Bu nedenle Türkiye’deki kullanıcıların bu uygulamalara erişip erişemediği bilinmiyor.
App Store’da Şüpheli Uygulama Nasıl Bildirilir?
Apple, App Store’dan indirdiğiniz bir uygulamada şüpheli bir etkinlik fark ederseniz bunu reportaproblem.apple.com adresinden bildirmenizi istiyor. Şirket bildirilen uygulamaları araştırıyor ve kötü amaçlı olduğu tespit edilenleri kaldırıyor.
Bunun için reportaproblem.apple.com adresine Apple Hesabı’nızla giriş yapıp “…konusunda yardım istiyorum” menüsünden uygun seçeneği seçmeniz ve adımları izlemeniz yeterli. Uygulamada yaptığınız bir satın alma varsa aynı adresten para iadesi de isteyebilirsiniz.
Ayrıntılar Apple’ın güvenli App Store deneyimi destek sayfasında yer alıyor. Çocukların kullandığı cihazlarda App Store yaş sınırı ve Ekran Süresi’ndeki İçerik Kısıtlamaları, yaş derecelendirmesini aşan uygulamaların indirilmesini önlemeye yardımcı oluyor.
Sizce Apple, onaydan sonra içeriğini değiştiren uygulamalara karşı yeterli önlemi alıyor mu?
