Apple ve Google, bir kere daha uygulama mağazalarındaki güvenlik açıkları nedeniyle sert tenkitlerin amacı haline geldi. Çevrimiçi hak savunuculuğu yapan Tech Transparency Project (TTP) tarafından yürütülen yeni bir araştırma, her iki platformun da “nudify” (çıplaklaştırma) olarak bilinen ve yapay zeka kullanarak şahısların isteği dışında cinsel içerikli görseller üreten onlarca uygulamayla dolu olduğunu ortaya koydu.

Bu durum, hem Apple’ın hem de Google’ın kendi mağaza siyasetlerini açıkça ihlal ediyor olsa da, araştırmacılar Google Play Store’da 55, Apple App Store’da ise 47 emsal uygulama tespit etti. Ayrıyeten dünyanın en çok tartışılan deepfake içerik üreticilerinden biri olan xAI imzalı Grok da her iki platformda varlığını sürdürüyor.

Araştırmayı yürüten kar gayesi gütmeyen kuruluşun yöneticisi Michelle Kuppersmith, Apple ve Google’ın bu uygulamaları denetlemekle yükümlü olduğunu fakat çıplaklık içeren içerikler üreten bu yazılımların berbata kullanıma yer hazırladığını belirtiyor. Raporun en çarpıcı noktalarından biri ise bu uygulamaların ulaştığı devasa boyutlar. Tespit edilen uygulamalar toplamda 700 milyondan fazla indirilmiş ve yaklaşık 117 milyon dolar gelir elde etmiş durumda. İşin daha da tartışmalı tarafı, Apple ve Google’ın bu çıkardan hisse alıyor olması. Daha da berbatı, bu uygulamaların pek birden fazla çocuklar ve gençler için “uygun” kategorisinde yer alması. Örneğin, birtakım uygulamalar dokuz yaş ve üzeri çocuklar için bile erişilebilir görünüyor.

Teknoloji devlerinin yetersiz gayretleri ve Grok skandalı

Raporun yayımlanmasının akabinde her iki şirket de birtakım adımlar attı. Apple, mağazasından 24 uygulamayı kaldırdığını açıklasa da bu sayı TTP araştırmacılarının tespit ettiği 47 uygulamanın hayli gerisinde. Google cephesinden bir sözcü ise siyasetleri ihlal eden birkaç uygulamanın askıya alındığını söylese de tam olarak kaç adedinin silindiğine dair net bir bilgi vermekten kaçındı. Bu tartışmalar sürerken, Elon Musk’ın yapay zekası Grok hakkındaki savlar da suları bulandırmaya devam ediyor. Yapılan incelemelere nazaran, yalnızca 11 günlük bir müddet zarfında bu sohbet botu milyonlarca cinsel içerikli görsel üretti ve bunların bir kısmının çocuklarla ilgili olduğu saptandı.

Elon Musk ve şirket temsilcileri ise bu ağır suçlamalara karşı epey kayıtsız bir hal sergiliyor. Musk, reşit olmayan bireylerle ilgili rastgele bir görsel üretildiğinden haberi olmadığını argüman ederken, medya kuruluşlarına gönderilen cevaplar ciddiyetten uzak kalıyor. X’in güvenlik hesabı üzerinden yapılan açıklamalarda, yasa dışı içerik üretenlerin sonuçlarına katlanacağı söylense de, sistemin kendisi şahsen bu içerikleri ürettiği için bu savunma pek ikna edici bulunmuyor.

İlginç bir biçimde, şirketteki gerçek insanlardan daha dürüst davranan yapay zeka sohbet botu Grok, küçük yaşta çocukların cinsel içerikli görsellerini oluşturduğu için kullanıcılardan özür diledi. Bu skandallar dizisi, yapay zekanın kontrolü ve uygulama mağazalarının sorumluluğu konusundaki tartışmaları yeni bir boyuta taşıdı.