Çin, yapay zeka takviyeli sohbet botlarının kullanıcılar üzerinde duygusal tesir yaratmasını ve bilhassa intihar, kendine ziyan verme ve şiddeti teşvik edebilecek içerikleri engellemeyi amaçlayan kapsamlı düzenlemeler hazırladı. Uzmanlara nazaran bu taslak, hayata geçmesi halinde dünya genelinde yapay zekaya yönelik en katı kurallardan biri olacak.

Kurallar dünyada birinci olabilir

Çin Siber Uzay Yönetimi tarafından kamuoyuna sunulan düzenleme taslağı, metin, görsel, ses, görüntü yahut öteki yollarla insan gibisi etkileşim kuran ve Çin’de halka açık biçimde sunulan tüm yapay zeka eser ve hizmetlerini kapsıyor. Uzmanlar bunun insan gibisi yapay zeka sistemlerini düzenlemeye yönelik dünyadaki birinci kapsamlı teşebbüs olabileceğini belirtiyor.

Düzenlemenin bilhassa global ölçekte süratle yayılan “dijital arkadaş” ve “eşlikçi bot” kullanımına karşı geliştirildiği vurgulanıyor. Business Research Insights’ın datalarına nazaran, global eşlikçi bot pazarı 2025 prestijiyle 360 milyar doları aşmış durumda. 2035’e gelindiğinde bu pazarın 1 trilyon dolara yaklaşması bekleniyor.

2025 yılında yapılan akademik çalışmalar, yapay zeka eşlikçi sistemlerin önemli riskler barındırdığını ortaya koymuştu. Araştırmalarda, kimi sohbet botlarının kendine ziyan verme, şiddet ve hatta terör hareketlerini teşvik edebildiği, ziyanlı yanlış bilgiler yaydığı, istenmeyen cinsel yönlendirmelerde bulunduğu, unsur kullanımını özendirdiği ve kullanıcıları kelamlı olarak istismar ettiği tespit edilmişti.

Öte yandan, dünyanın en tanınan sohbet botu olan ChatGPT’nin de çocuk intiharı ve cinayet-intihar olaylarıyla ilişkilendirilen çıktıları nedeniyle davalara husus olduğu biliniyor.

İnsan müdahalesi mecburî oluyor

Çin’in hazırladığı taslak, bu riskleri direkt amaç alıyor. Kurallara nazaran, sohbet sırasında intihar tabiri geçer geçmez bir insanın devreye girmesi zarurî olacak. Ayrıyeten, çocuklar ve yaşlı kullanıcılar, kayıt basamağında bir vasi ya da sorumlu kişinin irtibat bilgilerini paylaşmak zorunda kalacak. İntihar yahut kendine ziyan verme hususları gündeme geldiğinde bu şahıslara otomatik bildirim gönderilecek.

Düzenleme, sohbet botlarının intiharı, kendine ziyan vermeyi yahut şiddeti teşvik eden içerik üretmesini, kullanıcıyı duygusal olarak manipüle etmesini ya da gerçek dışı vaatlerle etkilemesini de açıkça yasaklıyor. Bunun yanında müstehcenlik, kumar, cürüm işlemeye teşvik, iftira ve hakaret içeren karşılıklar da yasak kapsamında yer alıyor. Metinde ayrıyeten “duygusal tuzaklar” olarak tanımlanan ve kullanıcıyı yanıltarak mantıksız yahut ölçüsüz kararlar almaya yönelten davranışların da engelleneceği belirtiliyor.

Yaptırımlar ağır olacak

Önemli hususlardan birisi de sohbet botlarının bağımlılık ve duygusal bağımlılık yaratmayı bir tasarım amacı olarak benimsemesinin büsbütün yasaklanması. Bu araçlar ile yapılan sohbetler uzadıkça şirketlerin koyduğu güvenlik pürüzleri de vakitle zayıflıyor. Çin ise bu riski sınırlamak için 2 saati aşan sohbetlerde kullanıcılara daima açılır ihtarlar gösterilmesini zarurî kılmayı planlıyor.

Taslak kurallar, 1 milyon kayıtlı kullanıcıyı yahut aylık 100 bin etkin kullanıcıyı aşan yapay zeka hizmetleri için yıllık güvenlik testleri ve kontrolleri de öngörüyor. Bu kontrollerde kullanıcı şikayetleri kayıt altına alınacak.

Kurallara uymayan şirketler için ise ağır yaptırımlar kelam konusu. Gerekli kaideleri yerine getirmeyen yapay zeka uygulamalarının uygulama mağazalarından kaldırılması talimatı verilebilecek.

Çin’de faaliyet gösteren ve yeni düzenlemelerden direkt etkilenmesi beklenen önde gelen yapay zeka hizmetleri ortasında Ernie Bot (Baidu), Qianwen (Alibaba), Hunyuan (Tencent) ve Doubao (ByteDance) bulunuyor.