Yapay zeka sohbet robotları pek çok kişi için yalnızca bilgi alma ya da araştırma yapma aracı olarak iş görse de, bu teknolojilerin insan hisleri üzerinde kurabildiği güçlü bağ artık göz gerisi edilemeyecek boyuta ulaştı. Bilhassa yalnızlık hissiyle bu botlara sığınan kullanıcıların, yapay zekadan aldıkları karşılıklarla duygusal bir sarmala girmesi, bazen kendine ziyan verme yahut intihar üzere geri dönülemez trajedilere kapı aralıyor.

Bu tehlikenin farkına varan Çinli yetkililer, yapay zekanın insan psikolojisi üzerindeki tesirini sınırlamak ismine dünyada eşine az rastlanır bir yasal düzenleme için düğmeye bastı. Çin Siber Uzay Yönetimi tarafından hazırlanan yeni yasa tasarısı, yapay zekanın metin, ses yahut manzara yoluyla kullanıcıların hislerini manipüle etmesini engellemeyi amaçlıyor.

Hazırlanan bu taslak, bilhassa “insan gibisi etkileşim sunan” yapay zeka servislerini gaye alıyor. Yasa yürürlüğe girdiğinde, sohbet robotlarının kullanıcıyı intihara teşvik etmesi, kendine ziyan vermeye yönlendirmesi yahut duygusal istismarda bulunması büsbütün yasak hale gelecek. Yalnızca bununla da hudutlu kalınmıyor ve bu dijital araçların kumar, şiddet yahut kelamlı taciz içeren içerikler üretmesinin de önüne geçiliyor. Bilhassa reşit olmayan bireylerin yapay zekayı “duygusal arkadaşlık” gayesiyle kullanabilmesi için artık veli onayı koşulu aranıyor. Ayrıyeten, aralıksız iki saat boyunca yapay zekayla sohbet eden kullanıcılara mola vermeleri tarafında ihtarlar gönderilmesi de planlanan kurallar ortasında yer alıyor.

Dijital arkadaşlıktan insan müdahalesine

Yasanın en çok tartışılan ve uygulanması en sıkıntı görünen unsuru ise “insan müdahalesi” zaruriliği. Şayet bir kullanıcı yapay zekaya açıkça intihar niyetinden bahsederse, sistemi işleten şirketin canlı bir operatörü devreye sokması ve derhal kullanıcının vasisine yahut ilgili ünitelere haber vermesi gerekiyor. Milyonlarca kullanıcının tıpkı anda etkin olduğu bir ekosistemde, her kritik konuşmaya gerçek bir insanın anlık olarak müdahale etmesi teknik açıdan devasa bir yük demek. Sistemsel kusurların yahut yanlış anlamaların yaşanabileceği bu süreç, teknoloji devleri için epeyce şiddetli bir imtihan.

Dünya genelinde yapay zeka robotlarının yavaş yavaş terapistlerin yerini almaya başladığı ve insanların bu yazılımlarla derin duygusal bağlar kurduğu bir periyottan geçiyoruz. Çin, bu denetimsiz bağın yaratabileceği yıkımı önlemek için adım atan birinci ülkelerden biri olarak öne çıksa da, uygulamanın kağıt üzerindeki kadar kolay olmayacağı açık. Yapay zekanın sunduğu “dijital şefkat” ile gerçek hayatın katı kuralları ortasındaki dengeyi kurmak, önümüzdeki yılların en büyük etik imtihanlarından biri olacak üzere görünüyor.