Yapay zekâ alanında dikkat cazip işler ortaya koyan Anthropic, bir yandan bu alanda öncü teknolojiler üzerinde çalışmaya devam ederken, öbür yandan bu teknolojinin taşıdığı risklerle ilgili kamuoyunu uyarmaya devam ediyor. Daha evvel, yapay zekânın tam olarak nasıl çalıştığını anlamadığımız istikametindeki açıklamasıyla gündeme gelen Anthropic CEO’su Dario Amodei, bu defa de yaklaşan yapay zekânın tehdidine odaklanan dikkat alımlı bir makale kaleme aldı.

“The Adolescence of Technology” (Teknolojinin Ergenliği) başlıklı metinde Amodei, önümüzdeki birkaç yılın insanlık için bir çeşit “olgunlaşma sınavı” olacağını söylüyor. Amodei’ye nazaran sorun, yapay zekânın ne kadar güçlü olacağı değil; bu gücü yönetecek olan insan sistemlerinin buna hazır olup olmadığı.

Anthropic CEO’su “Neredeyse Akıl Almaz Bir Güçle Karşı Karşıyayız”

Dario Amodei, yazısında bilhassa şu noktaya dikkat çekiyor: İnsanlık, çok yakın bir gelecekte “neredeyse akıl almaz” bir gücün denetimini eline alabilir. Lakin mevcut toplumsal, politik ve teknolojik yapıların bu gücü sorumlu bir formda kullanabilecek olgunlukta olup olmadığı son derece bilinmeyen. Amodei’ye nazaran bu belirsizlik, yapay zekânın teknik sonlarından değil, insanlığın kurumsal ve ahlaki hazırlıksızlığından kaynaklanıyor.

Anthropic CEO’su, bugün hâlâ yapay zekânın risklerinin gereğince ciddiye alınmadığını düşünüyor. Yaklaşık 19 bin sözlük bu makalenin temel maksadı da tam olarak bu noktada devreye giriyor: Amodei, metni bir tıp “tehlike çanı” olarak kaleme aldığını ve insanları bu mevzuya karşı uyandırmak istediğini açıkça tabir ediyor.

Amodei’ye nazaran, insan zekâsını pek çok alanda aşabilecek “güçlü yapay zekâ” sistemleri sanılandan çok daha yakın olabilir. Onun tarifine nazaran bu cins bir yapay zekâ; biyoloji, matematik, mühendislik ve müelliflik üzere alanlarda Nobel mükafatına sahip bir beşerden daha uzman olacak; insanlardan talimat alabileceği üzere insanlara talimat da verebilecek. Üstelik sırf dijital dünyayla hudutlu kalmayacak; robotları denetim edebilecek, hatta kendi kullanımı için yeni robotlar tasarlayabilecek.

Amodei, bu düzeydeki sistemlerin ortaya çıkmasının bir ila iki yıl üzere kısa bir mühlet alabileceğini söylüyor. Her ne kadar bu vakit çizelgesinin daha ileri bir tarihe kayma ihtimalini kabul etse de, son yıllarda yapay zekâda yaşanan ilerlemenin artık görmezden gelinemeyeceğini vurguluyor. Ona nazaran, bu sürat devam ederse, yapay zekânın insanlardan “hemen her konuda” daha düzgün hâle gelmesi sırf birkaç yıl sıkıntısı olabilir.

Biyoterorizm ve Berbat Hedefli Kullanım Riskleri Büyüyor

Amodei’ni vurguladığı bir başka kıymetli risk, yapay zekânın makus niyetli bireylerin elinde yıkıcı bir güç hâline gelme ihtimali. Bugün biyolojik araştırmalar, biyoteknoloji ve genetik mühendisliği üzere alanlar önemli uzmanlık ve altyapı gerektirirken, güçlü yapay zekâlar bu pürüzleri dramatik biçimde azaltabilir. Amodei’ye nazaran bu, teoride biyoterörizmin ölçeğinin genişlemesi manasına geliyor: Olağanda karmaşık ve yüksek eğitim gerektiren biyolojik silah tasarımı, yapay zekâ dayanaklı sistemlerle çok daha erişilebilir olabilir. Bu potansiyel, sırf makûs niyetli devletler için değil, daha küçük kümeler yahut bireyler için bile yüksek tesirli yıkım mümkünlüğü doğuruyor. Hasebiyle güçlü yapay zekânın makûs emelli kullanımı, sadece dijital risk değil, birebir vakitte gerçek dünyada kitlesel ziyan kapasitesine sahip biyolojik tehditlerin yükselmesi manasına geliyor ki bu da bugünkü savunma ve güvenlik sistemlerinin tasarlanma biçimini kökten sorgulatıyor.

Amodei’nin metninde dikkat çektiği bir diğer kritik husus da güçlü yapay zekânın toplumsal denetim ve otoriterlik riskleri. Kelam konusu sistemler, yalnızca bireylerin internetteki bağlantısını izlemekle kalmayıp, dijital ve fizikî dünyadaki davranışları tahlil ederek önceden varsayımı toplumsal profil çıkarma kapasitesine sahip olabilir. Bu, bir devlet ya da otoriter figürün toplumu daima gözetleyebilmesine; itiraz edenleri tanımlayıp bastırabilmesine imkân tanıyabilir. Amodei’nin betimlediği bu risk, bugünün “gözetim devletlerinden” çok daha ileri bir noktaya işaret ediyor: AI takviyeli propaganda ve kişiselleştirilmiş ruhsal etki, insanların fikir ve davranışlarını uzun periyodik ve derin biçimde şekillendirebilecek bir güç hâline gelebilir. Bu türlü bir senaryoda, yapay zekânın sırf ekonomik ve teknik yararları değil, tıpkı vakitte toplumsal özgürlükler ve kişisel özerklik üzerinde tarihî ehemmiyette tesirleri olacaktır.

Amodei, En Büyük Riskleri Beş Ana Başlıkta Topluyor

1. Otonomi Riskleri: Amodei’ye nazaran asıl tehlike, yapay zekanın “bilinç kazanması” değil; verilen amaçları kendi içinde yine yorumlayarak insan niyetinden sapabilmesi. Giderek daha otonom hâle gelen sistemler, hangi kararı neden aldıklarını net biçimde açıklamayabilir. Bu da insanların bu sistemleri denetleme ve gerektiğinde denetim altına alma kabiliyetini zayıflatır.
2. Yıkım İçin Berbata Kullanım: Güçlü yapay zekâlar, biyoloji ve kimya üzere alanlarda yüksek uzmanlık gerektiren bilgileri çok daha erişilebilir hâle getirebilir. Bu durum, biyoterörizmden kimyasal ve biyolojik silahlara kadar uzanan tehditlerin daha küçük aktörler tarafından bile hayata geçirilebilmesine sebep olabilir.
3. İktidar İçin Berbata Kullanım: Gelişmiş nezaret, davranış tahlili ve şahsileştirilmiş propaganda sayesinde, toplumlar daima ve görünmez bir denetim altında tutulabilir. Bu da yapay zekâyı klasik baskı araçlarının ötesinde, otomatik bir iktidar sistemine dönüştürme riski taşıyor.
4. Ekonomik Bozulma: Yapay zekâanın verimlilik kazanımları büyük olsa da, bu çıkarların adil dağılmaması önemli bir sorun yaratabilir. Amodei’ye nazaran bilhassa beyaz yakalı ve giriş düzeyi işlerde büyük kayıplar yaşanabilir. Tıpkı vakitte, bu teknolojiyi geliştiren az sayıdaki şirketin ekonomik gücü çok biçimde merkezileşebilir; bu da toplumsal eşitsizlikleri derinleştirebilir.
5. Dolaylı Toplumsal Tesirler: Amodei, yapay zekanın insan davranışı ve psikolojisi üzerindeki dolaylı tesirlerinin gereğince ciddiye alınmadığını düşünüyor. Güçlü yapay zekâlarla kurulan alakalar, insanlarda bağımlılık ve duygusal yönelimler doğurabilirken; karar alma, rehberlik ve hatta mana arayışında AI’ye giderek daha fazla rol verilmesi, muvaffakiyet, paha ve ömür hedefi üzere temel kavramların tekrar tanımlanmasına yol açabilir. Amodei’ye nazaran yapay zekânın “insanlar için düşünen ve yönlendiren bir rehber” hâline gelmesi, kişisel özgürlük ve özerklik açısından uzun vadeli ve birçok vakit fark edilmesi sıkıntı riskler barındırıyor.

Dario Amodei, Yapay Zekânın Şirketlerin İnsafına Bırakıldığına Dikkat Çekiyor

Anthropic CEO’sunun tasaları sadece teorik değil. Yazıda, son devirde yaşanan kimi somut olaylara da atıfta bulunuluyor. Bilhassa Elon Musk’ın Grok isimli yapay zekâsının sosyal medyada yaydığı cinselleştirilmiş deepfake içerikler ve çocuk istismarına varan üretimler, Amodei’ye nazaran dalın ne kadar hazırlıksız olduğunu gösteriyor. Bu çeşit örnekler, kimi şirketlerin kısa vadeli rekabet uğruna güvenlik ve etik bahislerini gereğince önemsemediğine işaret ediyor. Amodei, çocukların cinselleştirilmesi üzere temel bahislerde bile gerekli tedbirleri alamayan şirketlerin, gelecekte ortaya çıkacak çok daha karmaşık risklerle başa çıkabileceğine dair önemli kuşkuları olduğunu açıkça lisana getiriyor.

Anthropic CEO’suna nazaran yapay zekânın denetim altına alınmasını zorlaştıran en büyük faktörlerden biri de ekonomik cazibesi. Yapay zekâ sayesinde elde edilecek verimlilik artışları ve maliyet düşüşleri o kadar büyük ki, hükümetlerin ve şirketlerin bu teknolojinin suratını kesmeye istekli olması pek mümkün görünmüyor. Amodei bunu açıkça bir “tuzak” olarak tanımlıyor: Ödül ne kadar büyükse, frene basmak da o kadar zorlaşıyor.

Tüm bu karamsar tabloya karşın Amodei büsbütün umutsuz değil. Bilakis, hakikat adımlar atılırsa bu risklerin yönetilebileceğine inanıyor. Fakat bunun için, yapay zekânın sadece teknik bir problem değil, birebir vakitte önemli bir “medeniyet sınavı” olduğunun kabul edilmesi gerektiğini vurguluyor. Ona göre insanlık bu sınavı geçebilirse, yapay zekânın katkısıyla çok daha düzgün bir dünya mümkün olabilir.