Daha önce Anthropic CEO’su Dario Amodei’nin vurguladığı gibi, yapay zekaların çalışma mekanizmalarını ve tercihlerini, bu teknolojinin geliştiricileri bile tam anlamıyla kavramakta zorlanıyor. Örneğin, bir yapay zekaya soru yönelttiğimizde, cevabı oluştururken izlediği adımları ve kullandığı kaynakları görebiliyoruz; ancak bu adımları neden seçtiğini veya alternatifleri neden göz ardı ettiğini net bir şekilde bilmiyoruz. Bu durum bile oldukça iyimser bir senaryo olabilir.
Yapay zekanın babası olarak tanınan Nobel Fizik Ödülü sahibi Geoffrey Hinton ise, yapay zekaların ne düşündüğünü görebildiğimiz günlerin sınırlı olduğunu düşünüyor. Şu anda en azından yapay zekalar gibi ChatGPT ve Gemini, akıl yürütme süreçlerinde İngilizce gibi tanıdık dilleri kullandıkları için izlenebiliyor. Ancak Hinton’a göre bu durum uzun ömürlü olmayacak ve yapay zekalar yakında kendi dillerini geliştirerek düşüncelerini bu dille ifade etmeye başlayabilir.
Yapay Zekanın İyi Huylu Kalacağından Emin Olmamız Gerekiyor Aslında yapay zekaların kendi dillerini oluşturması, halihazırda gözlemlediğimiz bir olgu. Hatırlanacağı üzere, yıllar önce Google’ın çeviri botu kendi dilini yaratmıştı. Benzer şekilde, 2017 yılında Facebook, iki sohbet botunun aralarında bilinmeyen bir dil geliştirdiğini fark ederek onları kapatmak zorunda kalmıştı. Bu örnekler, bugünkü gelişmiş modellere kıyasla oldukça basit olsa da, gelecekteki yapay zekaların kendi dillerini benimseyerek düşünmesi ciddi riskler doğurabilir.
Geoffrey Hinton, yapay zekaların bile şu an ürkütücü fikirler üretebildiğine dikkat çekerken, düşüncelerini anlayamadığımız bir durumda oluşabilecek yıkıcı etkileri vurguluyor. Hinton’a göre bu gelişme neredeyse kaçınılmaz olduğundan, şimdi yapay zekanın her zaman iyi huylu kalmasını sağlayacak önlemleri almak gerekiyor. Ne yazık ki, yapay zeka alanında ABD ve Çin’in başını çektiği rekabet, bu tür adımların atılmasını zorlaştırıyor ve neredeyse bir silahlanma yarışı halini almış durumda.
