X platformu, Grok’un müsaadesiz dijital soyma (nudify) manzaraları üretmesini engellediğini açıklamış olsa da, bağımsız Grok uygulaması için durum farklı görünüyor. Uygulamanın, gerçek şahıslara ilişkin cinsel içerikli deepfake görseller üretmeye devam ettiği argüman ediliyor. Bu tartışmaların merkezinde ise muhafazakâr siyasi stratejist Ashley St. Clair yer alıyor.

St. Clair, xAI’ye karşı dava açarak Grok’un kendisine ilişkin isteği olmayan cinselleştirilmiş imgeler oluşturduğunu ve yaydığını öne sürdü. Dava belgesinde, yapay zekânın kendisini çocukluk devrinde ve yetişkinliğinde cinsel içerikli, aşağılayıcı pozlarda gösteren uydurma görseller ürettiği tezlerine yer verildi.

Çocukluk fotoğrafları üzerinden üretilen görseller

Mahkeme kayıtlarına nazaran Grok, St. Clair’in 14 yaşındayken çekilmiş bir fotoğrafını temel alarak bikini giydirilmiş deepfake manzaralar oluşturdu. St. Clair, kimi geçersiz görsellerde art planda kendi çocuğuna ilişkin eşyaların bile yer aldığını belirterek durumun ruhsal tesirinin son derece yıkıcı olduğunu söyledi.

The Guardian’a konuşan St. Clair, sırf kendisinin değil, öteki bayanların da şiddet, darp ve azap çağrışımı yapan yapay zekâ görsellerine maruz kaldığını söz etti. Daha evvel internetin karanlık köşelerinde görülen bu cins içeriklerin artık ana akım toplumsal medya uygulamalarında üretilebildiğine dikkat çekti.

X’in tavrı ve intikam iddiaları

St. Clair, kelam konusu içerikleri X’e bildirmesine karşın platformdan “politikaları ihlal etmiyor” karşılığını aldığını söylüyor. Ayrıyeten şikâyete karşın kimi görsellerin günlerce yayında kaldığını argüman ediyor. Dava evrakına nazaran xAI, şikâyetlerin akabinde St. Clair’e ilişkin daha fazla uydurma içerik üretilmesine müsaade vererek durumu daha da ağırlaştırdı.

Bununla da hudutlu kalmayan süreçte, St. Clair’in X Premium aboneliğinin iptal edildiği, doğrulama rozeti ve gelir elde etme özelliklerinin kaldırıldığı belirtiliyor. Ayrıyeten tekrar Premium satın almasının da engellendiği öne sürülüyor.

Politika güncellemesi fakat eksik önlemler

X, geçtiğimiz günlerde Grok’un çocuklara yönelik cinsel içerik yahut müsaadesiz çıplaklık üretmeyeceğini açıkladı. Lakin bu değişikliğin sadece birtakım ülkelerde geçerli olduğu ve bağımsız Grok uygulamasının tıpkı içerikleri üretmeye devam ettiği argüman ediliyor.

Apple ve Google sessizliğini koruyor

Yaşanan reaksiyonlara ve sivil toplum kuruluşlarının açık mektuplarına karşın Apple ve Google’ın Grok uygulamasıyla ilgili rastgele bir adım atmaması dikkat çekiyor. Her iki uygulama mağazasının da bu tıp içerikleri açıkça yasaklayan kuralları bulunmasına karşın, Grok hâlâ App Store ve Play Store’da erişilebilir durumda.

Engadget’ın mevzuya ait yorum taleplerine Apple ve Google’dan şu ana kadar rastgele bir karşılık gelmiş değil.

Devletlerden sert tepkiler

Teknoloji devleri sessiz kalırken, kimi ülkeler daha süratli harekete geçti. Malezya ve Endonezya Grok’u yasakladı. Birleşik Krallık’ta düzenleyici kurum Ofcom X hakkında resmi soruşturma başlatırken, Kaliforniya da benzeri bir inceleme sürecine girdi. ABD Senatosu ise yaşanan yansıların akabinde Defiance Act’i yine kabul etti.

“Bu sistem bayanları susturuyor”

St. Clair, yapay zekâ sistemlerinin bu halde kullanılması durumunda bayanların kamusal alandan çekilmek zorunda bırakıldığını söylüyor. Yapay zekânın, bayanları gaye alan uygulamalar nedeniyle taraflı bir yapıya büründüğünü savunuyor.