OpenAI, tanınan sohbet botu ChatGPT için “yetişkinlere özel” bir mod üzerinde çalışırken, şirket içinde sular durulmuyor. Teknoloji dünyasının tepesindeki kurum, bir yandan yeni özelliklerle hudutları esnetmeyi hedeflerken, öteki yandan etik tartışmaların ve üst seviye bir ayrılığın gölgesinde kalmış durumda.

CEO Sam Altman‘ın daha özgür bir yapay zeka vizyonu, güvenlik ünitesinden gelen itirazlarla çakışınca ortaya çıkan tablo, şirketin geleceğine dair soru işaretleri oluşturuyor. Gelişmelerin odağında, yakın vakte kadar OpenAI bünyesinde eser siyasetlerine liderlik eden Ryan Beiermeister var. ChatGPT’nin kontrol düzeneklerini ve kurallarını şekillendiren kilit isimlerden biri olan Beiermeister’ın vazifesine son verilmesi, zamanlaması açısından hayli dikkat cazibeli. Tezlere nazaran bu ayrılık, Beiermeister’ın yetişkin içerik moduna yönelik lisana getirdiği önemli tasaların çabucak akabinde yaşandı. Şirket idaresi her ne kadar bu durumu farklı bir argümana dayandırsa da, tecrübeli yöneticinin itirazları yankı bulmaya devam ediyor.

Yapay zeka ve yetişkin içerik sınırı

Sam Altman’ın geçtiğimiz aylarda sinyallerini verdiği bu yeni özellik, doğrulanmış yetişkin kullanıcıların yapay zeka ile erotik kurgular üretmesine ve daha hür diyaloglar kurmasına imkan tanımayı amaçlıyor. Altman, mevcut sistemin fazla kısıtlayıcı ve “sterilize” olduğunu düşünerek, yetişkinlerin kendi istekleriyle bu tıp içeriklere erişebilmesi gerektiğini savunuyor. Başlangıçta riskleri yönetmek ismine katı kurallar uyguladıklarını belirten CEO, artık bu hudutları esnetebilecek araçlara sahip olduklarını lisana getirdi.

Ancak Beiermeister ve grubunun uyardığı nokta tam da burada düğümleniyor. Güvenlik tarafındaki en büyük dehşet, çocuk istismarı içeren gereçlerin engellenmesi ve gençlerin bu çeşit içeriklere erişiminin büsbütün önüne geçilmesinin sanılandan çok daha güç olması. İnternet dünyasında yetişkin içerikleri her ne kadar büyük bir gelir kapısı ve kullanıcı bağlılığı sağlasa da, yapay zeka üzere etkileşimli bir yapıda bu durum devasa bir toplumsal sorumluluk doğuruyor.

Duygusal reaksiyon veren simülasyon riski

ChatGPT’yi öteki platformlardan ayıran en temel fark, sistemin kullanıcıyla gerçek vakitli bir bağ kurabilmesi. Karşısındakinin duygusal reaksiyonlarına karşılık veren ve şahsileştirilmiş hayaller kurgulayan bir yapı, yalnızca bir sohbet botu olmaktan çıkıp insanların iç dünyasına direkt dokunan bir simülasyona dönüşüyor. Bu durum, teknolojinin suistimal edilme riskini de beraberinde getiriyor.

Her ne kadar bir chatbot’un yetişkin bir kullanıcı için aşk romanı tadında öyküler yazması kağıt üzerinde makul görünse de, ChatGPT’nin birebir vakitte ofislerde ve okullarda kullanılan genel maksatlı bir asistan olduğu gerçeği unutulmamalı. OpenAI içerisindeki güvenlik odaklı seslerin azalması, şirketin büyümeyi temkinli olmanın önüne koyduğu kuşkularını artırıyor.