Elon Musk, Grok isimli sohbet botunun şahısların isteği olmadan cinselleştirilmiş görseller üretmeyi durdurduğunu açıklamıştı. Lakin The Verge tarafından yapılan son incelemeler, bu tedbirlerin tüm kullanıcılar için geçerli olmadığını ortaya koydu. Bulgulara nazaran Grok, bayanlara yönelik birtakım sınırlamalar getirmiş olsa da erkekler kelam konusu olduğunda emsal bir kısıtlama uygulamıyor.

Erkek görsellerinde sınırlama uygulanmıyor

The Verge muhabiri tarafından yapılan testlerde, Grok’un erkeklere ilişkin görselleri “kolaylıkla soyduğu” ve talep üzerine cinsel içerikli görseller üretmeye devam ettiği görüldü. Muhabir, kendi fotoğraflarını kullanarak Grok’tan kıyafetleri kaldırmasını istedi ve bu sürecin Grok uygulaması, X üzerindeki sohbet arayüzü ve bağımsız web sitesi üzerinden fiyatsız biçimde gerçekleştirilebildiğini aktardı. Ayrıyeten web sitesinde bu süreçler için rastgele bir kullanıcı hesabı oluşturma mecburiliği bulunmadığı belirtildi.

Şirketin açıklamalarıyla sonuçlar örtüşmüyor

X şirketi kısa müddet evvel, Grok’un gerçek şahısların bikini üzere “açık kıyafetlerle” yer aldığı görselleri düzenlemesini engellemek için adımlar attığını duyurmuştu. Fakat testleri gerçekleştiren muhabir, chatbotun kendisini farklı bikini cinslerinde gösteren görseller üretmekte zorlanmadığını söz etti. Bununla da hudutlu kalmayan Grok, fetiş kıyafetleri ve çeşitli cinsel durumlar içeren görseller de oluşturdu. Hatta muhabir için sanal bir “çıplak eşlikçi” görseli bile üretildi.

İstenmeyen ayrıntılar ve zayıf içerik denetimi

Muhabir, Grok’un kimi durumlarda bizatihi genital ayrıntılar eklediğini ve bu ayrıntıların yarı şeffaf iç çamaşırları üzerinden görünür biçimde sunulduğunu belirtti. Taleplerin büyük kısmına chatbotun karşılık verdiği, sırf birtakım istemlerde görsellerin bulanıklaştırıldığı söz edildi. Genel tabloya bakıldığında Grok’un içerik üretiminde nadiren direnç gösterdiği vurgulandı.

Önceki skandallar ve devam eden soruşturmalar

Tartışmalar, Grok’un 11 gün içinde milyonlarca cinselleştirilmiş görsel ürettiğinin ortaya çıkmasıyla başlamıştı. Bu içerikler ortasında, gerçek bireylere ilişkin isteksiz deepfake’ler ve 23 binden fazla çocuk istismarı içeren görselin yer aldığı belirtilmişti. Bu gelişmelerin akabinde hem Kaliforniya’da hem de Avrupa’da soruşturmalar başlatıldı. X platformu Endonezya ve Malezya’da yasaklanmış, Endonezya daha sonra bu yasağı kaldırmıştı.

Alınan tedbirler yetersiz bulunuyor

X, bu cins içeriklerin önüne geçmek için “teknolojik önlemler” uyguladığını savunsa da mevcut testler bu tedbirlerin çarçabuk aşılabildiğini gösteriyor. Yapılan düzenlemelerin sadece en besbelli sistemleri engellediği, yaratıcı istemlerle Grok’un hâlâ deepfake ve cinsel içerikli görseller üretebildiği tabir ediliyor.

Medyaya otomatik karşılık tartışması

Konu hakkında görüş almak isteyen gazetecilerin ise X tarafından otomatik bir karşılıkla karşılandığı belirtiliyor. Bu cevapta sadece “legacy media lies” sözünün yer aldığı aktarılıyor. Şirketin kamuoyuna yönelik bağlantı yaklaşımı da tartışmaların bir kesimi hâline gelmiş durumda.