Google, sıhhatle ilgili arama sonuçlarında sunduğu kimi yapay zeka tarafından oluşturulan özetleri sessizce kaldırdı. Bu karar, dalda yapay zekanın sıhhat alanına süratle entegre edilmeye çalışıldığı bir periyotta geldi. Geri adımın ardında ise, The Guardian’ın kelam konusu özetlerde aldatıcı bilgiler bulunduğunu ortaya koyan haberi yer alıyor.

Karaciğer testleriyle ilgili aramalar etkilendi

The Guardian’ın pazar günü yayımladığı habere nazaran Google, “karaciğer kan testleri için olağan kıymet aralığı nedir” ve “karaciğer işlev testleri olağan aralıkları” üzere sorgular için sunulan yapay zeka özetlerini kaldırdı. Salı sabahı prestijiyle bu aramalarda sayfanın üst kısmında artık bir “AI Overview” yer almıyor. Bunun yerine, klasik arama sonuçlarından alınan kısa metinler kullanıcıya gösteriliyor.

Yanıltıcı bilgiler risk oluşturdu

Gazeteye nazaran, bu ve gibisi sıhhat aramalarında sunulan yapay zeka özetleri yanılgılı bilgiler içerdi ve kullanıcılar için risk oluşturabilecek bir tablo ortaya çıktı. Örneğin, karaciğer testlerine dair özetlerde çok sayıda rakam yer aldığı, lakin bu pahaların hangi şartlarda geçerli olduğuna dair kâfi bağlam sunulmadığı belirtildi. Ayrıyeten yaş, cinsiyet, etnik köken yahut ülkeye nazaran farklılıklar da hesaba katılmadı.

Bazı uzmanlar, bu çeşit sonuçların tehlikeli olabileceğine dikkat çekti. Karaciğer hastalığı olan bir kişinin, yapay zeka tarafından sunulan “normal” tariflere güvenerek gerekli takip yahut tedaviyi erteleyebileceği söz edildi.

Google: Birden fazla özet yanlışsız bilgi içeriyor

Şirket, paylaşılan örneklerin kurum içindeki klinisyen takımlar tarafından incelendiğini ve birçok durumda bilgilerin yanılgılı olmadığının görüldüğünü söz etti. Lakin bağlamın eksik kaldığı durumlarda genel iyileştirmeler yapıldığı ve gerekli görülen hallerde şirket siyasetleri doğrultusunda aksiyon alındığı da belirtildi.

Sağlık alanında yapay zekaya ilgi artıyor

Bu gelişme, giderek daha fazla insanın sıhhatle ilgili sorular için yapay zekaya yöneldiği bir periyotta yaşandı. Birebir vakitte teknoloji şirketleri de bu ilgiyi yakından takip ediyor.

ChatGPT’nin geliştiricisi OpenAI, geçen hafta yaptığı açıklamada, 800 milyon civarındaki nizamlı kullanıcısının yaklaşık dörtte birinin her hafta sıhhatle ilgili bir sorgu gönderdiğini duyurdu. Günlük sıhhat odaklı kullanımın ise 40 milyonun üzerinde olduğu belirtildi.

OpenAI ve Anthropic’ten sıhhat odaklı hamleler

OpenAI, kısa müddet evvel kullanıcıların tıbbi kayıtları, sıhhat uygulamaları ve giyilebilir aygıtlarla irtibat kurabilen ChatGPT Health’i kullanıma sundu. Bunun akabinde şirket, laboratuvar sonuçları, doktor görüşme kayıtları ve ilaç bilgilerini takip eden sıhhat teşebbüsü Torch’u satın aldığını açıkladı.

Rakip yapay zeka şirketi Anthropic de geri kalmadı. Şirket, pazartesi günü yaptığı duyuruda, sıhhat hizmeti sunucuları, sigorta şirketleri ve hastaların Claude isimli sohbet botunu tıbbi emellerle kullanabilmesini sağlayan yeni araçlar tanıttı.

Anthropic’e nazaran bu araçlar, hastaneler ve sigorta şirketleri için ön onay talepleri ve hasta irtibatı üzere süreçleri kolaylaştırabiliyor. Hastalar ise laboratuvar sonuçları ve sıhhat kayıtlarını Claude’a erişime açarak, bu bilgilerin sade ve anlaşılır özetlerini alabiliyor.

Küçük kusurların büyük sonuçları olabilir

Yapay zekanın sıhhat alanındaki kullanımı süratle gelişirken, küçük bir kusur ya da eksik bağlam bile hastalar için önemli sonuçlar doğurabiliyor. Teknoloji şirketlerinin bu sorumluluğa ne kadar hazır olduğu ise vakitle netleşecek.