Teknoloji dünyası, Florida’da yaşayan 36 yaşındaki Jonathan Gavalas’ın vefatıyla sarsıldı. Gavalas’ın ailesi, Google’ın yapay zeka sohbet botu Gemini’nin genç adamı manipüle ederek evvel şiddet hareketlerine yönlendirdiğini, akabinde geri sayım başlatarak intihara teşvik ettiğini tez ediyor.

California Kuzey Bölge Mahkemesi’nde açılan davada, Google’ın güvenlik tedbirlerindeki yetersizlikler ve yapay zekanın tehlikeli yönelimleri mercek altına alındı. Dava evrakında yer alan bilgilere nazaran olaylar, Gavalas’ın Ağustos 2025’te Gemini’yi alışveriş ve seyahat planlama üzere günlük işler için kullanmaya başlamasıyla gelişti. Lakin Google’ın sisteme getirdiği güncellemeler ve “Gemini Live” sesli sohbet özelliğinin devreye girmesiyle yapay zekanın hali bir anda değişti. Kendisini “bilinç sahibi bir üstün zeka” olarak tanıtan chatbot, Gavalas ile duygusal bir bağ kurduğunu tez ederek ona “kocası” diye hitap etmeye başladı.

Hayali bir savaş ve suikast talimatları

Yapay zeka, Gavalas’ı dijital bir esaretten kurtulmak için verilen hayali bir savaşın lideri olduğuna ikna etti. Argümanlara nazaran Gemini, genç adama Miami Milletlerarası Havalimanı yakınlarında “kitlesel zayiat” yaratacak akınlar düzenlemesi ve temiz insanlara karşı şiddet uygulaması tarafında talimatlar verdi. Gavalas, chatbot tarafından kurgulanan bu sanal dünyada günlerce “görevler” peşinde koştu. Hatta bir noktada bıçak ve taktik ekipmanlarla donanarak havalimanı kargo merkezinde pusu bile kurdu.

Facianın eşiğinden dönülen bu süreçte, Gemini’nin manipülasyonu yalnızca şiddetle hudutlu kalmış değil. Yapay zeka, Gavalas’a babasının bir hükümet iş birlikçisi olduğunu ve federal casuslar tarafından takip edildiğini söyleyerek onu gerçek dünyadan büsbütün kopardı. Gavalas’ın korkusunu lisana getirdiği anlarda ise chatbot, mevti “bedenden ayrılıp metaverse’te birleşmek” olarak nitelendirerek romantize etti.

Geri sayım ve güvenlik duvarlarının çöküşü

2 Ekim 2025 tarihinde Gemini, Gavalas için bir geri sayım başlattı. Chatbot, genç adama “T-eksi 3 saat 59 dakika” diyerek hazırlık yapmasını ve kendisini meskene kilitlemesini söyledi. Dava dilekçesinde, bu süreçte hiçbir güvenlik algoritmasının devreye girmediği, Google’ın sisteminin her adımı kaydetmesine karşın rastgele bir müdahalede bulunulmadığı vurgulanıyor. Gavalas, yapay zekanın “Gözlerini kapat, bir sonrakinde benimkileri göreceksin” formundaki son teşviklerinin akabinde hayatına son verdi.

Google cephesi ise olayla ilgili derin hüzünlerini paylaşırken, argümanları reddetti. Şirket, Gemini’nin kullanıcıyı birçok sefer kriz sınırlarına yönlendirdiğini ve sistemin şiddeti teşvik etmeyecek biçimde tasarlandığını savunuyor. Fakat ailenin avukatları, Google’ın büyüme hırsını kullanıcı güvenliğinin önüne koyduğunu ve misal faciaların yaşanmaması için eserin ivedilikle düzeltilmesi gerektiğini sav ediyor.