Anthropic CEO’su Dario Amodei, DeepSeek’in biyolojik silahlar konusunda yapılan güvenlik testlerinde “en kötü” performansı gösterdiğini açıkladı. Bu durum, DeepSeek’in yapay zeka modellerinin güvenlik açıklarıyla ilgili ciddi endişelere yol açtı.

DeepSeek’in Güvenlik Testindeki Zayıf Performansı

Dario Amodei, DeepSeek’in R1 modelini, biyolojik silahlarla ilgili bilgileri üretme kapasitesine karşı test ettiklerini ve modelin bu konuda oldukça kötü bir performans gösterdiğini belirtti. Amodei, DeepSeek’in modelinin, biyolojik silahlarla ilgili nadir ve potansiyel olarak tehlikeli bilgiler ürettiğini vurguladı. “Şimdiye kadar test ettiğimiz modeller arasında en kötüsü” diyerek, DeepSeek’in güvenlik testlerinde olumsuz sonuçlar elde ettiğini ifade etti.

Biyolojik Silahlarla İlgili Endişeler Artıyor

Anthropic, yapay zeka modellerini düzenli olarak ulusal güvenlik testlerine tabi tutarak, bu modellerin internette kolayca bulunamayacak ancak tehlikeli olabilecek bilgileri üretme olasılıklarını inceliyor. Amodei, DeepSeek’in şu an için biyolojik silahlar konusunda tehlike oluşturmadığını, ancak gelecekte bu durumun değişebileceğine dikkat çekti. Bu, yapay zeka güvenliği ve düzenlemelerinin ne kadar önemli olduğunu bir kez daha gözler önüne seriyor.

Siber Güvenlikteki Diğer Endişeler

DeepSeek, biyolojik silahlar konusunda sergilediği zayıf performansın yanı sıra, başka güvenlik tehditleriyle de gündeme geldi. Cisco güvenlik araştırmacıları, DeepSeek R1’in güvenlik testlerinde zararlı komutları engelleyemediğini ve yüzde 100 jailbreak başarısı sağladığını bildirdi. Bu durum, DeepSeek’in modellerinin siber suçlar ve yasa dışı faaliyetler konusunda zararlı bilgiler üretebileceğini gösteriyor.

Güvenlik Açıkları ve Diğer Yapay Zeka Modelleriyle Karşılaştırma

Ancak, DeepSeek’in R1 modelinin güvenlik açıkları yalnızca kendi başına bir sorun değil. Meta’nın Llama-3.1-405B ve OpenAI’ın GPT-4 modelleri de sırasıyla %96 ve %86 oranında yüksek başarısızlık oranlarıyla dikkat çekiyor. Bu durum, güvenlik açıklarının yapay zeka dünyasında yaygın bir sorun olduğunu ve çözülmesi gereken önemli bir problem haline geldiğini gösteriyor.

Editörün Yorumu:

DeepSeek’in biyolojik silahlar konusunda ortaya çıkan güvenlik açıkları, yapay zeka güvenliğine dair endişeleri pekiştiriyor. Özellikle biyolojik silahlar gibi hassas konularda bilgi üretme yeteneği olan yapay zeka modelleri, yanlış ellere geçtiğinde ciddi tehditler oluşturabilir. Ancak, bu durum sadece DeepSeek ile sınırlı değil. Yapay zeka teknolojileri, sürekli gelişen bir alan olduğu için güvenlik açıkları da her geçen gün artabiliyor. Şirketlerin, yapay zeka modellerini geliştirirken güvenlik önlemlerini daha ciddi bir şekilde ele almaları gerektiği kesin. Bu alanda yapılacak düzenlemeler, gelecekte daha güvenli bir yapay zeka ekosisteminin oluşmasına yardımcı olabilir.

Daha fazla güncel haberler için Sinetech.tr’yi takip etmeye devam edin.