Son günlerde yapılan bir araştırma, Apple'ın App Store'unda gizli cinsel ve şiddet içeren derin sahte içerikler üretebilen 400'den fazla AI uygulamasının bulunduğunu ortaya çıkardı. Bu uygulamalar, aynı zamanda Google Play Store'da da mevcut. Bu durum, teknoloji devlerinin uygulama inceleme süreçlerinin ne kadar etkili olduğunu sorgulatıyor.
Derin Sahte Uygulamaların Yükselişi
Araştırmalar, bu uygulamaların tek bir Çinli organizasyon tarafından oluşturulduğunu gösteriyor. Kullanıcılar, uygulamalara fotoğraflarını yükleyerek, bu fotoğrafları kullanarak cinsel ve şiddet içeren derin sahte içerikler oluşturabiliyor. Bu tür içerikler, kurbanları küçük düşürmek veya tehdit etmek amacıyla kullanılabiliyor.
Gizli Özellikler ve Yanıltıcı Tanıtımlar
Viefur gibi uygulamalar, genellikle evcil hayvan fotoğraflarına kıyafet eklemek gibi masum hizmetler sunuyormuş gibi görünüyor. Ancak, belirli koşullar altında bu uygulamalar, kullanıcıların yüklediği fotoğrafları kullanarak cinsel içerikli AI görüntüleri ve videolar oluşturabilecekleri bir web arayüzünü gizlice yüklüyor. Bu uygulamalarda "yatak odası tecavüzü" ve "bıçakla tehdit" gibi sahneler yer alıyor.
Sosyal Medya Üzerinden Yayılma
Wired tarafından yapılan araştırma, bu uygulamaların sosyal medya platformlarında, özellikle Facebook ve Instagram'da yayımlanan binlerce video reklam sayesinde "göz önünde gizlenmiş" olduğunu ortaya koydu. Bazı uygulamalar, bir yıldan fazla bir süredir mevcut ve Apple, Google ve Meta'nın politikalarına rağmen onay sürecinden geçebildi.
Uygulama İnceleme Sürecindeki Açıklar
Bu uygulamaların onay sürecinden geçebilmesi için yanıltıcı taktikler kullanıldığı belirtiliyor. Uygulamalar, genellikle zararsız içerikler gösteriyor, ancak bir sunucu kontrolü, gizli özellikleri etkinleştirebiliyor. Kullanıcıların derin sahte içerik işlevine erişmek için Meta platformlarındaki reklamlara tıklayıp uygulamayı indirmesi, bu tetikleyicilerden biri olarak görünüyor. Kullanıcılar, yükledikleri fotoğraflardan derin sahte içerikler oluşturmak için kredi satın alabiliyorlar.
Apple ve Meta'nın Tepkisi
Wired, Apple'ın bu durumla ilgili olarak 19 uygulamayı kaldırdığını bildirdi. Apple, uygulama yayınlamadan önce her birini incelediğini ve bu uygulamaların onay sürecinde kurallara uyduğunu belirtti. Ancak, onaydan sonra geliştiricilerin uygulamanın içerik aldığı web sitesini değiştirdiği ve pornografik içeriklerle doldurduğu ifade ediliyor. Meta da bu uygulamalarla ilişkili alan adlarına bağlı 10,000'den fazla reklam hesabına karşı önlem aldığını duyurdu.
Sonuç olarak, bu tür uygulamaların varlığı, teknoloji şirketlerinin uygulama inceleme süreçlerinde daha fazla dikkat göstermesi gerektiğini ortaya koyuyor. Kullanıcıların güvenliğini sağlamak adına bu tür içeriklerin yayılmasını önlemek için daha etkili önlemler alınması gerekiyor.
Yorumlar 0
Yorum kurallarıHenüz yorum yok. İlk yorumu siz yapın.