Yapay zekâ şirketi Anthropic, Claude isimli sohbet botunun yeteneklerinin müsaadesiz biçimde kopyalandığını öne sürerek dala açık bir ikazda bulundu. Şirket, internet sitesinde yayımladığı açıklamada, üç farklı yapay zekâ firmasının Claude’un kapasitesini kendi modellerini geliştirmek için sistematik halde çıkarmaya çalıştığını argüman etti.

Anthropic’e nazaran bu firmalar ortasında DeepSeek, Moonshot ve MiniMax yer alıyor. Şirket, kelam konusu teşebbüslerin “endüstriyel ölçekte” yürütüldüğünü ve Claude’un yeteneklerinin yasa dışı yollarla çıkarılmaya çalışıldığını savundu.

Distillation nedir, neden tartışma konusu?

Yapay zekâ dünyasında “distillation” (damıtma), daha gelişmiş modellerin verdiği karşılıkların daha küçük yahut daha az yetenekli modelleri eğitmek için kullanılması manasına geliyor. Bu metot, yanlışsız ve etik çerçevede uygulandığında yaygın bir teknik olarak kabul ediliyor.

Ancak Anthropic, bu sürecin berbata kullanılabileceğini belirtiyor. Şirkete nazaran kelam konusu firmalar, Claude’u bir “kısayol” olarak kullanarak kendi modellerini süratle geliştirmeye çalıştı. Bu durumun sırf rekabet avantajı sağlamadığı, birebir vakitte birtakım güvenlik tedbirlerinin de dolaylı biçimde aşılmasına yol açabileceği söz ediliyor.

Anthropic’in tezine nazaran üç şirket, yaklaşık 24 bin geçersiz hesap üzerinden Claude ile 16 milyondan fazla etkileşim gerçekleştirdi.

İddiaların desteği ne?

Anthropic, bu faaliyetleri ilgili şirketlerle “yüksek güven” seviyesinde ilişkilendirdiğini belirtiyor. Açıklamaya nazaran IP adresi eşleşmeleri, meta bilgi talepleri ve altyapı göstergeleri üzere teknik bulgular tahlil edildi. Ayrıyeten kesimde benzeri davranışları gözlemleyen öteki yapay zekâ şirketleriyle de bilgi paylaşımı yapıldığı aktarıldı.

Şirket, bu cins taarruzları hem daha güç gerçekleştirilebilir hem de daha kolay tespit edilebilir hale getirmek için sistemlerini güncelleyeceğini duyurdu.

OpenAI de misal adım atmıştı

Anthropic’in açıklaması, geçen yıl yaşanan misal bir gelişmeyi akıllara getirdi. OpenAI, rakip firmaların modellerini damıtma prosedürüyle kopyalamaya çalıştığını öne sürmüş ve kuşkulu hesapları yasakladığını açıklamıştı.

Yapay zekâ alanında model güvenliği ve fikri mülkiyet tartışmaları giderek daha görünür hale gelirken, şirketlerin teknik tedbirleri artırması bekleniyor.

Anthropic’e yönelik telif davası

Öte yandan Anthropic de tüzel baskılarla karşı karşıya. Birtakım müzik yayıncıları, şirketin Claude modelini eğitirken müziklerin müsaadesiz kopyalarını kullandığını tez ederek dava açtı. Bu gelişme, yapay zekâ modellerinin eğitim süreçlerinde kullanılan bilgilerin kaynağına ait tartışmaları tekrar gündeme taşıdı.