Yapay zekâ (AI) araçları rutin işleri otomatikleştirmek, araştırmaları hızlandırmak ve bağlantısı kolaylaştırmak için geliştirildi. Lakin bu sistemlerin performansı, verilen komutlar ve kullanım maksadıyla direkt irtibatlı. Kullanıcılar üretkenliği artıracak komutlar üzerine ağırlaşırken, siber saldırganlar yapay zekâyı çok daha farklı emellerle kullanmaya başladı.

Giderek daha fazla hacker, AI dayanaklı araçları parola çalmak, finansal bilgilere ulaşmak yahut kullanıcıları hassas bilgilerini paylaşmaya ikna etmek için kullanıyor.

Google tehdit aktörlerinin sistemlerini açıkladı

Google Threat Intelligence Group (GTIG) tarafından yayımlanan bir blog yazısı, makûs niyetli aktörlerin çeşitli yapay zekâ sistemlerini — Google’ın kendi AI platformu da dahil — nasıl istismar ettiğini ortaya koydu. Rapora nazaran yapay zekâ; fikri mülkiyet hırsızlığı, nezaret faaliyetleri ve yeni jenerasyon ziyanlı yazılımların geliştirilmesinde kullanılabiliyor.

GTIG, AI araçlarını makus maksatlarla kullanmaya çalışan çok sayıda “tehdit aktörü” belirlediğini ve bunların faaliyetlerinin engellendiğini açıkladı. Buna karşın araştırma takımı, bu teşebbüslerin gelecekte siber güvenliğin nasıl şekillenebileceğine dair değerli ipuçları sunduğunu vurguluyor.

Yapay zekâ maksat tespitini hızlandırıyor

Yapay zekânın en dikkat cazip yeteneklerinden biri, internet üzerindeki bilgileri son derece süratli tahlil edebilmesi. Nasıl ki bir AI sistemi kısa müddette bilgisayar modülleri araştırabiliyorsa, misal formda potansiyel hücum maksatlarını de belirleyebiliyor.

GTIG’ye nazaran yapay zekâ, gayelerin çalıştığı bölümleri, tertip içindeki rollerini ve kurum yapısındaki pozisyonlarını süratle tahlil edebiliyor. Bu sayede hacker’lar klasik keşif sistemlerine nazaran çok daha süratli akın planı oluşturabiliyor ve olağanda düşünmeyecekleri sistemleri keşfedebiliyor.

Raporda verilen örneklerden birinde “UNC6418” isimli saldırganın, savunma kesiminde çalışan şahıslara yönelik kimlik avı teşebbüsü için hassas bilgiler toplamak maksadıyla AI kullandığı belirtiliyor.

Daha gerçekçi kimlik avı hücumları mümkün hale geliyor

Yapay zekâ sırf amaç belirlemekle kalmıyor, dolandırıcılık içeriklerinin hazırlanmasında da kullanılıyor. AI tarafından oluşturulan kimlik avı iletileri, lisan bilgisi yanılgıları ve yazım yanlışları üzere klasik ihtar işaretlerini ortadan kaldırarak çok daha ikna edici hale geliyor.

GTIG’ye nazaran kimi AI sistemleri, maksatlarla birebir irtibat kurarak insan davranışını taklit edebiliyor ve vakitle itimat alakası kurabiliyor. Bu durum dolandırıcılık teşebbüslerinin muvaffakiyet ihtimalini kıymetli ölçüde artırıyor.

Raporda ayrıyeten Kuzey Kore ile kontaklı olduğu belirtilen “UNC2970” isimli aktörün, siber güvenlik uzmanlarını maksat almak için kendisini işe alım vazifelisi üzere tanıttığı tabir ediliyor. Bunun yanında “COINBAIT” isimli bir kimlik avı aracı da ortaya çıkarıldı. Bu araç, kripto para yatırımcılarının giriş bilgilerini ele geçirmek için tasarlanmıştı ve herkese açık bir yapay zekâ uygulaması üzerinde geliştirildi.

Zararlı yazılım geliştirme sürecinde AI etkisi

Yapay zekâ tabanlı programlama araçları geliştiricilerin işini kolaylaştırmak için tasarlanmış olsa da birtakım kullanıcılar bu sistemleri manipüle ederek ziyanlı kod üretmenin yollarını arıyor.

GTIG’ye nazaran saldırganlar, “agentic AI” olarak tanımlanan ve asgarî insan müdahalesiyle çok adımlı süreçler gerçekleştirebilen otonom sistemlerden yararlanmaya çalışıyor. Örneğin “UNC795” isimli aktörün, AI dayanaklı bir kod kontrol sistemi oluşturmak için yapay zekâyı kullanmaya çalıştığı tespit edildi.

Araştırmada incelenen örneklerin birçok şimdi büyük ölçekli siber hücumlarla sonuçlanmadı. Lakin tekrar de uzmanlar, ziyanlı yazılım ailelerinde yeni yeteneklerin ortaya çıktığını belirtiyor.

Yeni jenerasyon art kapı trojan örneği: HONESTCUE

GTIG tarafından tahlil edilen dikkat cazip örneklerden biri “HONESTCUE” isimli ziyanlı yazılım. Bu yazılım, çok katmanlı gizleme teknikleri kullanan bir art kapı trojan olarak tanımlanıyor.

HONESTCUE’nun çalışma tekniği bilhassa dikkat alımlı. Sisteme yüklendikten sonra yapay zekâ aracılığıyla ek ziyanlı kodlar indiriyor ve bunu sabit diskte iz bırakmadan gerçekleştirebiliyor.

Her ne kadar bu yazılım şimdi siber terör aksiyonlarıyla ilişkilendirilmemiş olsa da, araştırmaya nazaran amatör geliştiriciler tarafından oluşturulmuş olması değerli bir soru işareti yaratıyor: Daha tecrübeli saldırganlar birebir teknolojiyi kullanırsa ne olabilir?