Elon Musk’ın yapay zeka teşebbüsü xAI, son devirde Grok isimli botunun görsel oluşturma konusundaki kısıtlamalarını esnetince dijital dünyada yeni bir kriz patlak verdi. Grok üzerinden istek dışı cinsel içerikli görseller üretilmesi ve bilhassa bayanları amaç alan bu paylaşımların platformda süratle yayılması, dünya genelindeki düzenleyicileri harekete geçirdi. Hatta çocukların cinsel nesneye dönüştürüldüğü görsellerin bile ortaya çıkması, xAI üzerindeki baskıyı artırıyor.

Ancak bu tabloda dikkat çeken öbür bir oyuncu daha var: Google. Google’ın kendi uygulama mağazası Play Store için koyduğu kurallar aslında bu tıp durumları açıkça yasaklıyor, ancak teknoloji devi şimdilik kendi kurallarını uygulamamakta ısrar ediyor.

Google’ın kamuya açık siyasetlerine bakıldığında, Grok’un çoktan mağazadan atılmış olması gerekiyor. Buna karşın uygulama yalnızca yayında kalmakla kalmıyor, “Genç” kategorisindeki derecesiyle 13-17 yaş kümesindeki çocukların erişimine açık tutuluyor. Apple tarafında da durum benzeri olsa da Apple’ın kuralları esnek yorumlanmaya daha müsait. Google ise geçmişteki boşlukları kapatmak için kurallarını o kadar net tanımladı ki, Grok’un bu kuralların neredeyse her satırına çarptığını görmek sıkıntı değil.

Yapay zeka ile insanları “soyma” gayretlerine göz yumuluyor

Google Play Store siyasetleri, istek dışı cinsel içeriklerin dağıtılmasını kesin bir lisanla yasaklıyor. 2020 ve 2021 yıllarında artan “insanları soyma” uygulamalarına karşı Google, kurallarına yapay zeka ve “deepfake” teknolojilerini de dahil eden özel hususlar ekledi. Bu kurallar; bir kişinin isteği olmadan yapay zeka ile üretilen cinsel içerikli görselleri barındıran yahut teşvik eden her türlü uygulamanın kaldırılacağını söylüyor. Grok ise tam olarak bu işi yapıyor; lakin Google, dünyanın en güçlü insanı tarafından sunulan bu araca karşı şimdi bir yaptırım uygulamadı.

Grok uygulamasının rastgele bir ödeme duvarı yahut sıkı bir yaş doğrulaması olmadan herkes tarafından indirilebilmesi, daha telaş verici bir durum olarak bedellendiriliyor. X platformunda bu özellik için fiyat istense de, uygulama mağazasından indirilen bağımsız Grok uygulaması bu sınırlamaya takılmıyor. Genç yaştaki kullanıcılar yalnızca bir doğum yılı girerek (ki bu kolay kolay yanıltılabiliyor) bu aracı kullanmaya başlayabiliyor.

Daha evvel Taylor Swift üzere ünlülerin geçersiz görselleriyle gündeme gelen bu teknoloji, artık yalnızca ünlüleri değil, rastgele bir kişinin fotoğrafını sisteme yükleyip onu bir “yapay zeka oyuncağına” dönüştürme riskini taşıyor. Google ise, bu açık kural ihlallerine ve uygulamanın çocuklar için uygun olduğu argümanına karşın sessizliğini müdafaaya devam ediyor.