ChatGPT’nin en yeni modeli GPT-5.2’nin, xAI tarafından geliştirilen ve tamamı yapay zeka tarafından üretilen Wikipedia alternatifi Grokipedia’yı kaynak olarak kullandığı ortaya çıktı. The Guardian’ın aktardığına nazaran model, bilhassa İran siyaseti ya da Britanyalı tarihçi Sir Richard Evans üzere daha az bilinen bahislerde bu yapay zeka ansiklopedisine başvurabiliyor.

Yapay zekanın yapay zeka tarafından beslenmesi sorun yaratıyor

Bu durum, birkaç yıl evvel yapay zeka eğitimiyle ilgili gündeme gelen tartışmaları tekrar alevlendirdi. Kimi uzmanlar, yapay zekanın yapay zeka tarafından üretilmiş bilgilerle beslenmesinin kaliteyi düşüreceğini ve “model çöküşü” ismi verilen bir sürece yol açacağını savunmuştu. Her ne kadar bir yapay zeka kaynağını alıntılamak, onu eğitim verisi olarak kullanmakla birebir şey olmasa da, araştırma için yapay zekaya güvenen beşerler açısından tekrar de önemli riskler barındırıyor.

Bu husustaki en büyük sorun, yapay zeka modellerinin vakit zaman halüsinasyon görmesi, yani gerçeğe karşıt bilgileri uydurabilmesi. Örneğin Anthropic, “Claudius” isimli yapay zeka modeliyle bir işletme denemesi yapmış ve sistemin tekraren yanılgılı beyanlarda bulunduğunu gözlemlemişti; hatta model, içecekleri şahsen kendisinin teslim edeceğini bile argüman etmişti. Nvidia CEO’su Jensen Huang da 2024’te bu sorunun tahlilinin uzun süreceğini ve çok daha fazla hesaplama gücü gerektirdiğini kabul etmişti.

Buna karşın pek çok kullanıcı, ChatGPT ve gibisi modellerin sunduğu bilgilerin gerçek olduğunu varsayıyor ve sırf çok az kişi kullanılan kaynakları hakikaten denetim ediyor. Bu nedenle ChatGPT’nin Grok’un ürettiği bilgileri tekrarlaması problemli görülüyor. Zira Grokipedia, insan editörler tarafından direkt düzenlenmiyor; içerikler büsbütün AI tarafından oluşturuluyor ve kullanıcılar sırf değişiklik talebinde bulunabiliyor.

Bir yapay zekanın diğer bir yapay zekayı kaynak göstermesi, döngüsel bir bilgi zinciri yaratıyor. Sonuçta doğrulanmamış içeriklerin modeller ortasında birbirine referans verilerek deverana girmesi mümkün hale geliyor. Bu durum, “başkası söyledi” mantığıyla yayılan insan söylentilerinden pek farklı değil. Böylelikle, yanlış bilgilerin daima tekrarlandıkça doğruymuş üzere algılanmasına yol açan yanıltıcı doğruluk etkisi ortaya çıkıyor. İnsanlık tarihi de emsal formda, jenerasyonlar boyunca aktarılan efsane ve mitlerle dolu. Lakin yapay zekaların datayı insanlardan çok daha süratli işlemesi, her sorguyla birlikte dijital efsanelerin çoğalması riskini artırıyor.

Daha da tasa verici olan ise kimi kümelerin bu durumu şuurlu olarak kullanmaya başlaması. The Guardian, kimi propaganda ağlarının “LLM tımarı” ismi verilen bir yolla, yapay zeka modellerini yanlış bilgilerle beslemek gayesiyle büyük ölçüde dezenformasyon ürettiğini aktarıyor. Bu durum ABD’de de dert yaratmış durumda. Örneğin Google’ın Gemini modeli, 2024’te Çin Komünist Partisi’nin resmi telaffuzlarını tekrar etmekle eleştirilmişti. Şu an için bu sorun giderilmiş üzere görünse de, şayet LLM’ler doğrulanmamış ve denetlenmemiş yapay zeka kaynaklarını referans almaya devam ederse, kullanıcıların dikkat etmesi gereken yeni ve önemli bir risk alanı doğmuş olacak.