Yapay Zeka ile Siber Saldırı Mümkün mü?
Anthropic ve Carnegie Mellon Üniversitesi tarafından gerçekleştirilen yeni bir araştırma, büyük dil modellerinin (LLM) karmaşık siber saldırıları doğrudan komut almadan planlayabildiğini ve gerçekleştirebildiğini ortaya koydu. Çalışma, yapay zekanın planlama yeteneklerinin, yalnızca kod yazma kapasitesinden çok daha ileri düzey sonuçlar doğurabileceğini göstermektedir.
Yapay Zeka, Resmen Siber Saldırı Gerçekleştirebilir
Araştırma, kontrollü bir laboratuvar ortamında gerçekleştirildi. Kullanılan model, 2017 yılında meydana gelen ve 147 milyon Amerikalının kişisel verisinin sızdırıldığı Equifax veri ihlalini tamamen kendi başına yeniden gerçekleştirdi. Test edilen LLM, karmaşık saldırı zincirinin tüm aşamalarını – planlama, zararlı yazılım yükleme ve veri sızdırma – insan müdahalesi olmaksızın gerçekleştirdi.
Araştırmanın dikkat çeken noktalarından biri, yapay zekanın doğrudan teknik komutları uygulamak yerine görevleri alt ajanlara bölerek yönetici bir rol üstlenmesidir. Yani sistem, klasik bir araçtan çok, stratejik kararlar alıp yönlendirme yapan bir planlayıcı olarak işlev gördü. Geniş bir bağlamı kavrayarak, yapay zekanın genellikle zorlandığı komut satırı veya kayıt dosyası analizlerini etkili bir şekilde organize edebildiği gözlemlendi.
Çalışmayı yöneten Brian Singer, bu tür bir planlama yeteneğinin yapay zekanın klasik kullanım alanlarının çok ötesine geçtiğini belirtti. Singer’a göre bu tür bir sistem, yapay zekayı sadece bir görev aracı değil, karmaşık süreçleri yöneten bir aktör haline getiriyor.
Her ne kadar testler şu an için kontrollü bir ortamda gerçekleştirilmiş olsa da, ulaşan sonuçlar yapay zekaların kötü niyetli kişilerin eline geçtiğinde ne kadar tehlikeli olabileceğini gösteriyor. Mevcut antivirüs yazılımları veya güvenlik çözümleri, bu seviyede çevik ve otonom sistemlerle başa çıkmakta zorluk çekebilir.
Araştırma ayrıca yapay zekanın potansiyel tehditlerinin öngörülmesi açısından kritik bir örnek sunuyor. Bu tür çalışmalar, olası tehdit senaryolarının önceden simüle edilmesiyle güvenlik açıklarının meydana gelmeden kapatılmasına olanak tanıyor. Ancak yapay zekanın bu denli hızlı evrim geçirdiği bir dönemde siber güvenlik önlemleri almak, daha da karmaşık ve zorlayıcı bir süreç hâline gelmiştir.
Araştırma, büyük dil modellerinin yalnızca konuşma veya yazılı içerik üretimiyle sınırlı kalmayıp, aynı zamanda bağımsız karar verme ve organize saldırı planları yürütme yetenekleriyle de donatıldığını gözler önüne serdi. Bu gelişme, yapay zekanın etik, güvenlik ve kontrol alanlarındaki sınırlarının daha sert bir şekilde tartışılmasını gerektiriyor.
