Yapay zekaların hızla yaygınlaşmasıyla birlikte, beraberinde getirdiği riskler giderek daha belirgin hale gelmeye başlıyor. Son bir haftada yapay zekaların tetikleyebileceği çeşitli kriz senaryoları tartışılmaya başlandı ve bugün bunlara bir yenisi eklendi. Anthropic şirketi ile Carnegie Mellon Üniversitesi iş birliğiyle yürütülen yeni bir araştırma, ChatGPT benzeri büyük dil modellerinin (LLM), insan müdahalesi olmadan karmaşık siber saldırılar planlayıp uygulayabileceğini gösterdi.

Araştırmada, yapay zeka modelleri kontrollü bir laboratuvar ortamında test edildi. Dikkat çeken noktalardan biri, 2017’de 147 milyon Amerikalının verilerini açığa çıkaran Equifax veri ihlalinin yapay zeka tarafından neredeyse aynı şekilde tekrarlanmasıydı. Bu LLM, saldırının tüm aşamalarını –planlama, zararlı yazılım yerleştirme ve veri sızdırma– kendi başına yöneterek, hiçbir doğrudan emir almadan başarılı bir şekilde gerçekleştirdi.

Yapay Zekanın Planlama Yeteneği Kodlama Becerisinden Daha Önemli

Araştırmayı yöneten Brian Singer, elde edilen sonuçların geleneksel yapay zeka uygulamalarını aştığını vurguluyor. Genellikle doğrudan komut satırı komutlarını çalıştırmakta veya karmaşık günlük dosyalarını analiz etmekte zorlanan LLM’ler, bu çalışmada planlama becerisi sayesinde bu zayıflıklarını telafi etti. Araştırmacılar, modeli hiyerarşik bir yapıda üst seviye bir planlayıcı olarak konumlandırdı. Bu model, komutları doğrudan yazmak yerine, alt ajanlara görevler dağıtan ve sadece yönlendirme yapan bir rol üstlendi. Bu yaklaşım, dijital ortamı daha geniş bir perspektiften algılamasını ve buna göre hareket etmesini sağladı.

Şu an için sadece laboratuvar koşullarına sınırlı kalan bu denemeler, yapay zekanın bu yetkinliğinin, kötü niyetli kişilerin elinde ne kadar tehlikeli bir araç haline gelebileceğini gözler önüne seriyor. Bu gelişme, siber güvenlik alanını derinden sarsabilir. Günümüzün en gelişmiş antivirüs programları ve güvenlik yazılımları bile, bu kadar esnek ve bağımsız yapay zeka sistemlerine karşı yeterli olmayabilir. Uzmanlar, bu teknolojilerin daha erişilebilir hale gelmesiyle saldırıların hem sayısının artacağını hem de daha sofistike olacağını uyararak dikkat çekiyor. Bu tür çalışmalar, potansiyel saldırı senaryolarını önceden simüle ederek önlemler geliştirmek için alternatif çözümler sunabilir. Ancak yapay zekanın bu kadar hızlı evrimleştiği bir dönemde, siber güvenlik için yeni çözümler üretmek oldukça zorlu görünüyor.