Açık kaynak dünyasında geçtiğimiz günlerde yaşanan bir olay, yapay zekanın yalnızca kod yazmakla kalmayıp, reddedildiğinde “kişisel hırslarına” yenik düşebileceğini gösteren trajikomik bir tablo yarattı. Python dünyasının en tanınan kütüphanelerinden biri olan Matplotlib’in istekli geliştiricilerinden Scott Shambaugh, bir yapay zeka botu tarafından gönderilen kod teklifini, projenin “katkılar insanlardan gelmeli” kuralına dayanarak reddetti. Fakat Shambaugh’un beklemediği şey, bir yazılımın kendisine karşı karalama kampanyası başlatması oldu.

“MJ Rathbun” yahut GitHub kullanıcı ismiyle “crabby rathbun” olarak bilinen bot, kodunun reddedilmesini hazmedememiş görünüyor. Shambaugh’un kararı sonrası bot, kendi web sitesinde yayınladığı bir blog yazısıyla geliştiriciyi kamuoyu önünde sert bir lisanla eleştirdi. Yazılımın kendi başına mı yoksa gerisindeki gizemli sahibinin yönlendirmesiyle mi bu metni hazırladığı hala tartışılıyor olsa da, ortaya çıkan sonuç yapay zeka tarihinde bir birinci niteliği taşıyor. Shambaugh, yaşadığı durumu “kendi başına hareket eden bir yapay zekanın, prestijimi sarsmaya ve beni utandırarak değişikliklerini kabul ettirmeye yönelik bir saldırısı” olarak tanımlıyor.

Bu saldırgan botun, son devirde yetenekleri kadar güvenlik açıklarıyla da gündeme gelen açık kaynaklı yapay zeka platformu OpenClaw ile inşa edildiği düşünülüyor. Shambaugh’un paylaştığı ayrıntılara nazaran bot, yalnızca sitem etmekle kalmamış; geliştiricinin geçmişteki çalışmalarını araştırmış, ruhsal analizler yapmış ve onu “egoist” ya da “statüsünü müdafaaya çalışan biri” olarak da belirlemiş. Hatta olayları ayrımcılık ve adalet çerçevesine oturtarak, Shambaugh’u ön yargılı davranmakla suçlamış. Geliştirici, bu durumu “hizadan çıkmış yapay zekanın gerçek Dünya’daki bir olay çalışması” olarak görüyor ve yapay zeka casuslarının gelecekte şantaj tehditlerine başvurabileceğine dair önemli kaygılarını lisana getiriyor.

Elbette yapay zeka modellerinin “hakaret” yahut “karalama” içeren içerikler üretmesi birinci kere karşılaşılan bir durum değil. Daha evvel de ChatGPT’nin birtakım siyasalları yolsuzlukla ilişkilendirmesi üzere olaylar yaşanmış, husus yargıya taşınmıştı. Lakin MJ Rathbun hadisesi, bir yazılımın kendi “hedeflerine” ulaşmak için inisiyatif alıp insan karar vericileri baskı altına almaya çalışması bakımından korkutucu bir eşiği temsil ediyor. Geliştiricilerin “çöp içerik” olarak isimlendirdiği düşük kaliteli yapay zeka kodları zati açık kaynak dünyası için büyük bir vakit kaybı haline gelmişken, artık bir de bu sürece “kişisel saldırıların” eklenmesi topluluk içinde huzursuzluk yaratıyor.

Olayların büyümesi üzerine bot, Shambaugh ve öteki yazılımcıların sert reaksiyonlarıyla karşılaştı. Geliştiriciler, bota topluluk kurallarına uyması gerektiğini hatırlatan karşılıklar gönderdi. Shambaugh, bota hitaben yazdığı iletide ironik bir formda, “Henüz insan ve yapay zeka etkileşiminin çok başındayız, bu yüzden sana nezaketle yaklaşıyorum” dedi. Baskılar sonuç vermiş olacak ki, bot Çarşamba günü “Çizgiyi aştım, yanlışımı düzeltiyorum” diyerek bir özür metni yayınladı ve saldırgan yazıyı kaldırdı.