Yapay zeka teknolojisi süratle gelişirken, bu sistemlerin bazen gerçek dışı yahut yanlış bilgiler üretmesi değerli bir sorun haline gelmiştir. Bu duruma “hallucination” denir. Çağdaş yapay zeka sistemleri milyarlarca parametre ile eğitilse de insan zekası üzere mantıksal doğrulama düzeneklerine sahip değildir. Bu durum, günlük hayatta sıkça kullanılan chatbot’lar, içerik üreticileri, karar dayanak sistemlerinde önemli güvenilirlik problemleri yaratabilir.

İş dünyasından eğitime, sağlıktan araştırmaya kadar pek çok alanda yapay zeka kullanan profesyoneller, bu fenomeni anlamak ve önlemek zorundadır. Hallucination’ın farkında olmak, yapay zeka teknolojilerinden azamî yarar sağlarken potansiyel riskleri minimize etmenin birinci adımıdır.

Yapay zeka hallucination nedir?

Yapay zeka hallucination, yapay zeka modellerinin gerçek olmayan, yanlış yahut mantıksız bilgiler üretmesi durumudur. Bu fenomen ile bilhassa büyük lisan modelleri ve üretken yapay zeka sistemlerinde sıkça karşılaşılır.

Hallucination, yapay zekanın eğitim bilgilerinde bulunmayan bilgileri güya gerçekmiş üzere sunması yahut mevcut bilgileri yanlış yorumlaması formunda ortaya çıkar. Bu durum, yapay zekanın insan üzere düşünmediği, yalnızca istatistiksel kalıplar, olasılıklar üzerinden çalıştığı gerçeğinden kaynaklanır. Model en beklenen görünen yanıtı üretirken, bu yanıtın doğruluğunu her vakit garanti edemez.

Hallucination terimi, tıp alanından yapay zeka dünyasına uyarlanmıştır. Tıpta hallüsinasyon, kişinin var olmayan şeyleri görmesi yahut duyması manasına gelirken, yapay zekada da misal biçimde sistemin var olmayan bilgileri “görerek” bunları gerçekmiş üzere sunması durumunu tabir eder. Bu durum, yapay zeka sistemlerinin deterministik olmayan yapısından kaynaklanır.

Modern yapay zeka sistemleri, milyarlarca parametre içeren karmaşık ağlardır. Bu parametreler eğitim sürecinde optimize edilir. Lakin bu optimizasyon süreci, modelin bazen eğitim bilgilerinde görülmeyen senaryolarda varsayımlarda bulunmasına yol açar. Günlük hayattan bir örnekle açıklamak gerekirse bir kişinin hiç görmediği bir yemek tanımını büsbütün uydurarak anlatması üzeredir. Model, bilinen gereçler ve yollardan yola çıkarak mantıklı görünen lakin gerçekte var olmayan bir tanım oluşturur.

Bu fenomen, yapay zeka teknolojisinin hem güçlü hem de sonlu olduğunu gösterir. Yaratıcılık ve yenilik açısından pahalı olabilirken, doğruluk gerektiren uygulamalarda önemli problemlere yol açabilir.

Hallucination neden oluşur?

Yapay zeka hallucination’ının ortaya çıkmasının birden fazla nedeni bulunur. Bu nedenler, hem teknik hem de yapısal faktörlerden kaynaklanır. Sistemin tabiatında bulunan sınırlamalarla direkt bağlıdır. Yapay zekada hallucination nedenleri şöyle sıralanabilir:

• Eğitim datalarının yetersizliği yahut kalite sorunları: Modelin öğrendiği bilgiler eksik yahut yanlışlı olduğunda yanlış çıkarımlar yapar.
• Modelin çok öğrenmesi (overfitting) durumu: Eğitim datalarına fazla odaklanarak genel durumları yorumlayamaması.
• Belirsizlik durumlarında kestirim yapma zaruriliği: Bilmediği hususlarda bile karşılık verme baskısı altında kalması.
• Kontekst penceresinin hudutlu olması: Uzun metinlerde evvelki bilgileri unutarak tutarsızlıklar yaratması.
• Modelin inanç skorlarının yanlış kalibrasyonu: Kendi doğruluğunu yanlış kıymetlendirerek kesin tabirler kullanması.

ChatGPT neden yanlış bilgi üretir?

ChatGPT, internette arama yapan yahut bilgiyi gerçek vakitli doğrulayan sistem üzere çalışmaz. Cevaplarını öğrendiği lisan örüntüleri ile olasılıklara nazaran üretir. Bu nedenle bazen kulağa mantıklı gelen lakin gerçekte yanılgılı olabilen bilgiler sunabilir.

Özellikle yenilik, mutlaklık, bağlam gerektiren hususlarda bu durum daha besbelli hale gelir. ChatGPT ve gibisi lisan modellerinin yanlış bilgi üretmesinin spesifik nedenleri şöyle sıralanabilir:

• Eğitim bilgilerindeki yanlış yahut şimdiki olmayan bilgiler
• Farklı kaynaklardan gelen çelişkili bilgilerin karışması
• Belirli mevzularda kâfi eğitim verisi bulunmaması
• Modelin yaratıcılık, doğruluk ortasındaki dengeyi kuramaması
• Kullanıcı taleplerini karşılama baskısı altında iddia yapması
• Zaman kısıtlamaları nedeniyle yeni bilgilere erişememesi
• Modelin belirsizlik durumlarında kestirim yapmaya zorlanması
• Eğitim sürecinde önyargılı yahut manipülatif içeriklere maruz kalması
• Dil modelinin gerçek mana kavramından fazla istatistiksel kalıplara dayanması
• Farklı lisanlardaki çeviri kusurlarının modele yansıması

Bu sorunlar bilhassa ChatGPT’nin daima karşılık üretme eğiliminden kaynaklanır. Model, “bilmiyorum” demek yerine eldeki datalarla en mantıklı görünen yanıtı oluşturmaya çalışır.

Örneğin, 2023 sonrası gelişmeler hakkında soru sorduğunuzda, model eski bilgileri temel alarak aktüel üzere görünen lakin yanlış yanıtlar verebilir. Ayrıyeten, modelin eğitim bilgilerinde internet kaynaklarının da bulunması, doğrulanmamış bilgilerin sistem tarafından öğrenilmesine neden olur.

Hallucination nasıl önlenir?

Yapay zeka hallucination’ını önlemek için hem kullanıcılar hem de geliştiriciler çeşitli stratejiler uygulayabilir. Kullanıcı tarafında alınabilecek tedbirler hayli pratik, uygulanabilir niteliktedir. Günlük hayattan bir örnek vermek gerekirse, bir restoran önerisi aldığınızda o restoranın hakikaten var olup olmadığını, açılış saatlerini, menü bilgilerini farklı kaynaklardan denetim etmek mantıklı bir yaklaşımdır. Hallucination’ı önlemek için yapabilecekleriniz şöyledir:

• Çoklu kaynak doğrulaması yaparak bilgileri teyit etmek
• Kritik bahislerde yapay zekaya körü körüne güvenmemek
• Spesifik, net sorular sorarak belirsizlikleri azaltmak
• Yapay zekanın verdiği karşılıkları uzman kaynaklarla karşılaştırmak
• Model çıktılarına inanç skorları ekleyerek belirsizlikleri belirtmek
• Düzenli model güncellemeleri, iyileştirmeler yapmak
• Retrieval-augmented generation (RAG) sistemlerini kullanmak
• Prompt mühendisliği teknikleri uygulayarak daha hakikat sonuçlar almak
• Yapay zeka karşılıklarını adım adım denetim ederek doğruluk oranını artırmak

Teknik açıdan bakıldığında, geliştiriciler model eğitimi sırasında daha kaliteli data setleri kullanarak hallucination oranını düşürebilir. Ayrıyeten kullanıcıların aldıkları karşılıkların güvenilirlik seviyesini görebilmeleri için sistemlere şeffaflık özellikleri eklemek de tesirli bir yaklaşımdır.

AI hallucination örnekleri nelerdir?

Bir yapay zekanın gerçekte var olmayan bilgileri varmış üzere sunması, yanlış kaynaklar uydurması yahut gerçekleşmemiş olayları kesin sözlerle aktarması hallucination örnekleri ortasında yer alır. Örneğin hiç yayımlanmamış akademik makaleye atıf yapması, olmayan eser özelliğini gerçekmiş üzere anlatması ya da hayali yasa hususunu doğruymuş üzere açıklaması bu duruma dahildir.

Günlük kullanımda ise bir restoranın menüsünde bulunmayan yemeği varmış üzere tanım etmesi yahut kişinin söylemediği bir kelamı ona atfetmesi sık karşılaşılan hallucination örnekleri olarak gösterilebilir. Yapay zeka hallucination’ının günlük hayattan örnekleri şu haldedir:

• Var olmayan kitaplar, makaleler yahut müellifler hakkında ayrıntılı bilgi vermesi
• Gerçekte yaşanmamış tarihî olayları anlatması yahut tarihleri karıştırması
• İlaç dozajları üzere kritik medikal bilgilerde yanlış tekliflerde bulunması
• Finansal hesaplamalarda matematiksel yanılgılar yapması
• Şirketler hakkında şimdiki olmayan yahut yanlış bilgiler paylaşması
• Coğrafi bilgilerde yanılgılı lokasyon yahut aralık bilgileri vermesi
• Kişisel bilgiler konusunda büsbütün uydurma ayrıntılar sunması
• Akademik atıflar yaparken gerçekte var olmayan mecmua isimleri yahut yayın tarihleri oluşturması
• Yasal mevzularda mevcut olmayan kanun hususları yahut yargı kararları hakkında bilgi vermesi
• Ünlü bireyler hakkında yanlış biyografik bilgiler yahut geçersiz muvaffakiyetler paylaşması

Bu hallucination örnekleri bilhassa profesyonel ortamlarda önemli problemlere yol açabilir. Örneğin, bir öğrenci akademik çalışmasında yapay zekanın önerdiği geçersiz kaynakları kullanırsa, çalışmasının güvenilirliği sorgulanabilir. Emsal biçimde, sıhhat alanında çalışan bir profesyonel yanlış dozaj bilgisine güvenirse, hasta güvenliği risk altına girebilir.

Sizce yapay zeka hallucination’ı gelecekte büsbütün çözülebilir bir sorun mi, yoksa her vakit dikkatli olmamız gereken bir durum mu? Niyetlerinizi yorumlarda paylaşabilirsiniz.

Yapay zekada “hallucination” hakkında sıkça sorulan sorular (SSS)

Yapay zeka her vakit hakikat bilgi verir mi?

Hayır, yapay zeka sistemleri kusursuz değildir. Bazen yanlış yahut aldatıcı bilgiler üretebilir. Bu nedenle değerli kararlar alırken kesinlikle doğrulama yapmalısınız. Yapay zeka modelleri, eğitim bilgilerindeki kalıpları takip ederek karşılık üretir, lakin bu süreçte gerçek dışı bilgiler de ortaya çıkabilir.

Hallucination büsbütün ortadan kaldırılabilir mi?

Şu anki teknoloji ile hallucination’ı büsbütün ortadan kaldırmak mümkün değildir, fakat çeşitli tekniklerle değerli ölçüde azaltılabilir. Geliştiriciler, model mimarilerini güzelleştirerek, daha kaliteli eğitim bilgileri kullanarak, itimat skorları ekleyerek bu sorunu minimize etmeye çalışır. RAG sistemleri, fact-checking sistemleri ve çoklu model doğrulaması üzere teknikler hallucination oranını düşürür.

Hangi alanlarda yapay zeka hallucination’ı daha risklidir?

Sağlık, finans, hukuk, güvenlik üzere kritik alanlarda yapay zeka hallucination’ı daha büyük riskler oluşturur. Bu alanlarda ekstra dikkatli olmak gerekir. Tıbbi tanı-tedavi tekliflerinde yapılan yanlışlar hasta sıhhatini tehdit edebilir, finansal tavsiyelerdeki yanlışlıklar ekonomik kayıplara neden olabilir. Eğitim alanında da dikkatli olmak gerekir. Zira öğrencilere yanlış bilgi transferi uzun vadeli sonuçlar doğurur.