OpenAI, ChatGPT için yeni bir güvenlik tedbirini devreye alıyor. Bu sistem, kullanıcının yaşını kestirim ederek 18 yaş altı olduğu düşünülen hesaplarda içerik kontrolünü otomatik olarak sıkılaştırıyor. Şirketin açıklamasına nazaran yaş kestirimi; kullanıcı davranışları ve hesap bilgileri üzere sinyallerin tahlil edilmesiyle yapılıyor. Şayet bir kullanıcı reşit değilse, cinsel içerik, şiddet ve hassas mevzulara yönelik daha katı filtreler devreye giriyor.

Yanlışlıkla çocuk olarak sınıflandırılan yetişkin kullanıcılar ise OpenAI’nin kimlik doğrulama ortağı Persona üzerinden, selfie ile yapılan bir doğrulama süreci sayesinde yaşlarını teyit edebiliyor.

OpenAI neden artık bu türlü bir adım atıyor?

Yapay zekâ araçları, eğitimden günlük yaşama kadar pek çok alana siyasetlerle eş vakitli ilerlemeden süratle yayıldı. Bu durum bilhassa çocuklar ve gençler açısından riskleri de beraberinde getirdi. OpenAI, ChatGPT’nin vakit zaman ergenlere uygunsuz içerikler sunması ve yapay zekânın ruh sıhhati üzerindeki tesirleri nedeniyle tenkitlerin odağında yer aldı.

Yeni güvenlik tedbiri, bölümde giderek yaygınlaşan “yaş güvencesi” yaklaşımının bir kesimi olarak görülüyor. Bu sistem, platformların kullanıcıdan kimlik evrakı talep etmeden çocukları ziyanlı içeriklerden müdafaayı hedefliyor.

Araştırmalar da sorunun boyutunu ortaya koyuyor. Pew Research Center datalarına nazaran ABD’deki gençlerin yüzde 95’i akıllı telefona erişebiliyor ve neredeyse yarısı internete “neredeyse sürekli” bağlı olduğunu söylüyor. Bu kadar ağır çevrim içi varlık, otomatik güvenlik tedbirlerini daha da kritik hale getiriyor.

ChatGPT’de yaş iddiası sistemi nasıl çalışıyor?

OpenAI’ye nazaran sistem; kullanıcının beyan ettiği yaş, hesabın ne kadar müddettir etkin olduğu ve günün hangi saatlerinde kullanıldığı üzere mevcut bilgileri birlikte kıymetlendiriyor. Şirket, bu sürecin rutin kullanımda yüz tanıma ya da biyometrik yaş tahlili içermediğini bilhassa vurguluyor.

Ortaya çıkan sonuç kesin bir yaş tespiti değil, olasılığa dayalı bir kıymetlendirme. Hedef, gerektiğinde çocuklara uygun içerik filtrelerini varsayılan olarak devreye almak.

Bir hesap 18 yaş altı olarak işaretlendiğinde, mevcut güvenlik tedbirleri daha muhafazakâr hale geliyor. Cinsel ve şiddet içeren karşılıklar sonlandırılıyor, sohbetler daha eğitici ve yaşa uygun bir çizgiye yönlendiriliyor. Bu sistem, mevcut güvenlik katmanlarının yerine geçmekten çok onları güçlendirmeyi hedefliyor.

Sistem yanlış iddia yaparsa ne olacak?

Her otomatik sınıflandırma sisteminde olduğu üzere, yaş iddiası de yanlışlara açık. OpenAI, bu duruma karşı bir itiraz sistemi sunuyor. Yetişkin kullanıcılar, Persona üzerinden selfie ile doğrulama yaparak yanlış sınıflandırmayı düzeltebiliyor.

Bu formül, tüm kullanıcılardan kimlik evrakı toplanmasının önüne geçerken ek bir adım gerektiriyor. Lakin OpenAI, sistemin doğruluk oranı ya da yanlış pozitif-negatif sonuçlara dair şimdi detaylı bilgi paylaşmış değil. Bu bilgiler, hem kullanıcı itimadı hem de düzenleyici kurumlar açısından değerli olacak.

Diğer taraftan, birtakım çocukların sistem tarafından tespit edilememesi ihtimali de var. Bu türlü durumlarda ChatGPT’nin genel içerik siyasetleri ve mevcut filtreleri devrede kalmaya devam edecek. Yeniden de şirketin ilerleyen devirde bağımsız kontroller ve ölçüm bilgileri paylaşması bekleniyor.

Gizlilik ve yasal ahenk tartışmaları

Çocuklara ilişkin bilgiler, birçok ülkede daha sıkı yasal yükümlülüklere tabi. ABD’de COPPA, 13 yaş altındaki kullanıcılar için özel müdafaalar öngörürken; Birleşik Krallık’taki Age Appropriate Design Code ve Avrupa Birliği’nin Dijital Hizmetler Yasası da çocukların çevrim içi güvenliğini merkeze alıyor.

OpenAI’nin kimlik dokümanı yerine bağlamsal sinyallere dayanan yaklaşımı, güvenlik ve zımnilik ortasında istikrar kurmayı amaçlayan şimdiki rehberlerle örtüşüyor. Lakin bu çeşit çıkarım sistemlerinin önyargı riski taşıdığı da biliniyor. Akademik çalışmalar, yaş kestirimi ve risk sınıflandırmalarının kimi demografik kümelerde daha yanlışlı sonuçlar üretebildiğini gösteriyor.

Bu nedenle, eğitim bilgileri, önyargı testleri ve bilhassa Persona üzerinden yapılan selfie doğrulamalarında dataların nasıl saklandığına dair şeffaflık büyük kıymet taşıyor.

Diğer platformlarla karşılaştırıldığında OpenAI nerede duruyor?

Büyük teknoloji platformları misal tahlillere yönelmiş durumda. Instagram, görüntü selfie ile yaş iddiası testleri yaparken; YouTube, ebeveynlere gençler için daha detaylı kontrol seçenekleri sunuyor.

OpenAI’nin yaklaşımı ise sohbet tabanlı yapay zekâya mahsus. Erişimi büsbütün kısıtlamak yerine, kullanıcının yaş ihtimaline nazaran cevapları ve güvenlik tedbirlerini gerçek vakitli olarak ayarlıyor.

Bundan sonra ne olacak?

Aileler için bu özellik, çocukların yetişkinlere yönelik içeriklere maruz kalma riskini azaltabilir; lakin ebeveyn kontrolünün yerini tutmuyor. ChatGPT’yi kullanan kurumlar ve geliştiriciler açısından ise emsal yaş hassas tedbirlerin API’ler üzerinden sunulup sunulmayacağı merak konusu.

Özetle, OpenAI’nin yaş iddiası sistemi, çocuklar için daha inançlı varsayılan tecrübeler oluşturma yolunda kıymetli bir adım. Lakin bu yaklaşımın kesim standardı haline gelip gelmeyeceği; şeffaflık, denetlenebilirlik ve yetişkin kullanıcıları gereksiz yere kısıtlamadan hakikaten ziyanlı etkileşimleri azaltıp azaltamadığıyla belirlenecek.