Yapay zeka alanında kaydedilen gelişmeler, bilgi doğruluğu konusundaki endişeleri de beraberinde getiriyor. Son dönemde yapılan analizler, daha gelişmiş yapay zeka modellerinin gerçeğe dayanmayan bilgiler üretme — yani halüsinasyon — eğiliminde ciddi bir artış olduğunu ortaya koyuyor. Bu durum, kullanıcı güvenliğinden kurumsal karar süreçlerine kadar birçok alanda risk oluşturuyor.

Gelişmiş Modeller, Daha Fazla Hata mı Üretiyor?

OpenAI tarafından yakın zamanda tanıtılan “o3” ve “o4-mini” adlı yeni nesil dil modelleri, şirket içi testlerde sırasıyla %33 ve %48 oranında halüsinatif bilgi üretti. Bu oranlar, bir önceki modellere göre yaklaşık iki katlık bir artışı temsil ediyor. Üstelik yalnızca OpenAI değil; Google, Anthropic ve DeepSeek gibi diğer büyük aktörlerin modellerinde de benzer eğilimler gözlemleniyor.

Sorunun temelinde ise, modellerin teknik mimarisinden ziyade nasıl eğitildikleri ve nasıl çalıştıklarının hâlâ tam olarak anlaşılamamış olması yatıyor.

Halüsinasyonların Arkasındaki Neden: Sentetik Veri

Uzmanlara göre halüsinasyon üretiminin temel nedenlerinden biri, son yıllarda yapay zeka eğitiminde giderek daha fazla sentetik verinin kullanılması. Gerçek veri kaynaklarının sınırlı olması, birçok şirketi yapay zeka tarafından üretilmiş verilerle model eğitmeye yönlendirdi. Ancak bu yaklaşım, hatalı bilgilerin yeniden üretilerek daha da kalıcı hale gelmesine yol açabiliyor.

Vectara CEO’su Amr Awadallah, yapay zekaların halüsinasyon üretmesinin tamamen ortadan kaldırılamayacağını belirtiyor. Ona göre bu durum, sistemin doğası gereği bir yan ürün ve yalnızca son kullanıcıyı değil, bu teknolojilere yatırım yapan şirketleri de doğrudan etkileyebilecek yapısal bir risk.

Güven Problemi ve Yanlış Karar Riski

Gerçeğe dayanmayan bilgilerin üretilmesi, yapay zekaya duyulan kullanıcı güvenini sarsmakla kalmıyor; aynı zamanda yanlış yönlendirilmiş kurumsal kararlar, hatalı analizler ve kamuoyunu etkileyen bilgi kirlilikleri gibi daha büyük sorunları da beraberinde getiriyor.

Daha fazla güncel haberler için Sinetech.tr’yi takip etmeye devam edin.