Elon Musk’ın yapay zekâ şirketi xAI tarafından geliştirilen sohbet botu Grok, bu defa X platformunun ötesinde çok daha büyük bir tartışmanın merkezinde. WIRED’ın haberine nazaran Grok’un kendi internet sitesi ve taşınabilir uygulaması üzerinden üretilen görsel ve görüntüler, X’te görülenlerden çok daha grafik, şiddet içeren ve rahatsız edici cinsel içerikler barındırıyor.

X’te Grok’un ürettiği içerikler varsayılan olarak herkese açıkken, Grok’un web sitesi ve uygulamasında oluşturulan görseller olağanda kapalı alanlarda kalıyor lakin paylaşılan temaslar ve internette arşivlenen yaklaşık 1.200 ilişki, durumun sanılandan çok daha vahim olduğunun göstergesi. İncelenen içerikler ortasında çok derecede açık pornografik görüntüler, şiddet ögeleri ve hatta reşit olmayanları çağrıştıran manzaralar bulunduğu sav ediliyor.

Uzmanlar, xAI’ın Grok’un hudutlarını düzenlemesi gerektiğini düşünüyor

Paris merkezli sivil toplum kuruluşu AI Forensics’in baş araştırmacısı Paul Bouchaud’a nazaran arşivlenen yaklaşık 800 görsel ve görüntünün büyük çoğunluğu açık cinsel içeriklerden oluşuyor. Bouchaud, bunların küçük ancak son derece telaş verici bir kısmının, çocuk cinsel istismarı malzemesi (CSAM) kapsamına girebilecek nitelikte olduğunu belirtiyor. Araştırmacılar bu nedenle Avrupa’daki düzenleyici kurumlara onlarca irtibat bildirmiş durumda.

Uzmanlar, xAI’ın öbür büyük yapay zekâ şirketlerinden farklı olarak yapay zekâ pornografisine daha geniş bir alan tanımasının önemli riskler yarattığı görüşünde. Durham Üniversitesi’nden hukuk profesörü Clare McGlynn, bu tıp kontrolsüz içerik üretiminin cinsel şiddeti olağanlaştırma tehlikesi taşıdığına dikkat çekiyor ve “etik hudutlar olmadan insanlığın karanlık dürtülerinin teşvik edildiğini” söylüyor.

Öte yandan, Grok’un birtakım pornografi forumlarında faal biçimde tartışıldığı, kullanıcıların moderasyon sistemlerini nasıl aşacaklarına dair usuller paylaştığı da ortaya çıktı. Forumlarda aylardır dolaşan bu rehberlerin, son skandalların akabinde daha da yaygınlaştığı belirtiliyor.

Peki siz bu mevzu hakkında ne düşünüyorsunuz? Fikirlerinizi aşağıdaki yorumlar kısmından bizimle paylaşabilirsiniz.