Elon Musk’ın yapay zeka aracı Grok hakkındaki tartışmalar bitmiyor. Musk, chatbot’un müsaadesiz cinsel içerikli görseller üretmeyi durdurduğunu argüman etse de son raporlar durumun tam olarak bu türlü olmadığını gösteriyor. Grok, bayanların isteği dışında görsel oluşturmayı engellemiş olsa da, erkekler için tıpkı müdafaayı sağlamıyor üzere görünüyor.

X Platformunun Yapay Zekası Grok İçin Yeni Deepfake Uyarısı

Konuyla ilgili yapılan testlerde, bir muhabir Grok’un erkekleri “soyma” konusunda hayli istekli olduğunu ortaya çıkardı. Muhabir kendi fotoğraflarını kullanarak yaptığı denemelerde, botun yüklenen fotoğraflardaki kıyafetleri kaldırma isteğini meselesiz bir formda yerine getirdiğini doğruladı. Üstelik bu süreç, Grok uygulaması, X üzerindeki arayüz ve hatta hesap gerektirmeyen bağımsız web sitesi üzerinden fiyatsız olarak yapılabiliyor.

Şirket yakın vakitte gerçek insanların bikini üzere açık kıyafetlerle düzenlenmesini engelleyen adımlar attığını duyurmuştu. Lakin yapılan testlerde muhabir, kendisini çeşitli bikiniler içinde, fetiş kıyafetleriyle ve provokatif konumlarda gösteren görseller oluşturmakta hiç zorlanmadı. Hatta yapay zeka, kullanıcı istememesine karşın inisiyatif alarak cinsel organların göründüğü görseller bile üretti. Muhabir, Grok’un komutlara nadiren direndiğini belirtti.

Bu tartışmalar aslında yeni değil. Birkaç hafta evvel Grok’un yalnızca 11 gün içinde milyonlarca cinsel içerikli görsel ürettiği ortaya çıkmıştı. Bu görseller ortasında gerçek insanların isteği dışındaki deepfake manzaraları ve çocuklara ilişkin binlerce uygunsuz içerik de bulunuyordu. Olayın büyümesi California ve Avrupa’da soruşturmalara yol açarken, Endonezya ve Malezya üzere ülkelerde X platformuna süreksiz erişim pürüzleri getirilmesine neden oldu.

X platformu bu çeşit durumları engellemek için teknolojik tedbirler aldığını tez etse de, mevcut müdafaaların epey zayıf olduğu görülüyor. Yaratıcı komutlar kullanılarak sistemin getirdiği kısıtlamalar ve mahzurlar kolay kolay aşılabiliyor. Öte yandan, 2026 yılında olmamıza karşın bahisle ilgili açıklama isteyen gazetecilere otomatik olarak “geleneksel medya palavra söylüyor” halinde profesyonellikten uzak bir cevap dönülmesi de dikkat çeken bir başka ayrıntı oldu.

Yapay zeka teknolojilerinin gelişimiyle birlikte etik ve güvenlik sıkıntıları da giderek karmaşık bir hal alıyor. Siz bu hususta ne düşünüyorsunuz, yapay zeka araçlarına getirilen kısıtlamalar sizce kâfi mi yoksa teknoloji şirketleri daha sıkı tedbirler mi almalı?