Yapay zekâ alanının en değerli isimlerinden Yoshua Bengio, gelişmiş AI sistemleriyle ilgili dikkat çeken ihtarlarda bulundu. Bengio’ya nazaran birtakım yapay zekâ modelleri artık kontrolden kaçma ve kendini müdafaa eğilimleri gösterebiliyor. Bu durum, denetim düzeneklerinin sorgulanmasına yol açıyor.

Bengio, son periyotta tartışılan “yapay zekâya yasal haklar verilmesi” fikrine net formda karşı çıkıyor. Bu türlü bir adımın, insanların AI sistemlerini kapatma yetkisini kaybetmesine neden olabileceğini savunuyor. Ona nazaran “fişi çekme hakkı”, güvenliğin temel koşulu.

Tartışma sadece teknolojiyle sonlu değil; etik ve hukuk boyutu da giderek büyüyor. Kimi çevreler şuur kazanan yapay zekâlara hak tanınmasını savunurken, Bengio üzere isimler bunun erken ve riskli olduğunu düşünüyor.

Bu açıklamalar, yapay zekânın geleceğinde asıl sorunun “ne kadar güçlü olduğu” değil, “kimin denetiminde olduğu” olduğunu bir sefer daha gösteriyor. Önümüzdeki yıllarda AI için yasal hudutların ve güvenlik kurallarının daha sert çizilmesi bekleniyor.