Yapay zeka konusundaki öncü çalışmalarıyla 2024 Nobel Fizik Ödülü’nü kazanan ABD’li bir bilim insanı, yaptığı açıklamada, teknolojideki son gelişmeleri “çok sinir bozucu” bulduğunu ve kontrol altına alınmazsa olası bir felaket konusunda uyardı.
Princeton Üniversitesi’nden emekli profesör John Hopfield, derin öğrenme sistemlerinin kontrolden çıkmasını önlemek amacıyla iç işleyişinin daha derinlemesine anlaşılması çağrısında bulunan ortak kazanan Geoffrey Hinton’a katıldı.
İngiltere’den New Jersey Üniversitesi’ndeki bir toplantıya video bağlantısıyla hitap eden 91 yaşındaki siyasetçi, hayatı boyunca biyolojik mühendislik ve nükleer fizik olmak üzere iki güçlü ancak potansiyel olarak tehlikeli teknolojinin yükselişine tanıklık ettiğini söyledi.
“Sadece iyi veya sadece kötü olan değil, her iki yönde de kabiliyetleri olan teknolojilere alışkınız” dedi.
“Ve bir fizikçi olarak, kontrol edemediğim, yeterince iyi anlamadığım ve bu teknolojinin sınırlarının ne olduğunu anlayamadığım bir şey beni çok tedirgin ediyor.”
“Yapay zekanın sorduğu soru bu,” diye devam etti ve modern yapay zeka sistemlerinin “tamamen harikalar” gibi görünmesine rağmen, bunların nasıl işlediğine dair bir anlayış eksikliği olduğunu ve bunun “çok, çok sinir bozucu” olduğunu ekledi.
“Bu nedenle ben ve Geoffrey Hinton’ın da, şu anda hayal edebileceğiniz yeteneklerin ötesinde bazı yetenekleri geliştirecek olan anlayışın, bu alanın temel bir ihtiyacı olduğunu güçlü bir şekilde savunduğumuzu düşünüyorum.”
Hopfield, yapay sinir ağının biyolojik beyinlerin anıları depolama ve geri çağırma biçimini nasıl taklit edebileceğini gösteren teorik bir model olan “Hopfield ağı”nı tasarladığı için ödüle layık görüldü.
Modeli, sıklıkla “Yapay Zekanın Vaftiz Babası” olarak adlandırılan ve “Boltzmann makinesi” ile rastgelelik unsurunu tanıtan ve görüntü üreteçleri gibi modern yapay zeka uygulamalarının önünü açan İngiliz-Kanadalı Hinton tarafından geliştirildi.
Hinton, geçen yıl yapay zeka felaket tellallarının poster çocuğu olarak ortaya çıktı ve bu temayı, emekli profesör olarak görev yaptığı Toronto Üniversitesi’nde düzenlenen bir basın toplantısında tekrar gündeme getirdi.
76 yaşındaki bilim insanı, gazetecilere yaptığı açıklamada, “Etrafınıza bakarsanız, daha az zeki şeyler tarafından daha zeki şeylerin kontrol edildiğine dair çok az örnek görürsünüz. Bu da, yapay zekanın bizden daha akıllı hale geldiğinde kontrolü ele geçirip geçirmeyeceğini merak etmenize neden oluyor.” dedi.
– Medeniyetin çöküşü –
Yapay zeka yeteneklerinin hızla yaygınlaşması ve şirketler arasında kıyasıya bir yarış başlatmasıyla birlikte, bu teknoloji bilim insanlarının kavrayabileceğinden daha hızlı geliştiği gerekçesiyle eleştiriliyor.
Hopefield, “Başlangıçta sahip olduğunuz kolektif özelliklerin aslında mevcut tüm etkileşimlerle birlikte kolektif özellikler olduğunu bilmiyorsunuz ve dolayısıyla işlerin içinde kendiliğinden ortaya çıkan ama istenmeyen bir şeyin gizli olup olmadığını da bilmiyorsunuz” diye vurguladı.
Kurt Vonnegut’un 1963 tarihli “Kedi Beşiği” adlı romanında askerlerin çamurlu koşullarla başa çıkmalarına yardımcı olmak için geliştirilen, yapay olarak tasarlanmış kurgusal bir kristal olan “buz-dokuz” örneğini hatırlattı; bu kristal, istemeden dünyanın okyanuslarını dondurarak medeniyetin çöküşüne neden oluyordu.
“‘Senden daha hızlıyım, senden daha büyüğüm… benimle barış içinde yaşayabilir misin?’ diyen her şeyden endişeleniyorum. Bilmiyorum, endişeleniyorum.”
Hinton, şu anda felaket senaryolarından nasıl kaçınılacağını bilmenin imkansız olduğunu, “Bu yüzden acilen daha fazla araştırmaya ihtiyacımız var” dedi.
“En iyi genç araştırmacılarımızın veya birçoğunun yapay zeka güvenliği üzerinde çalışmaları gerektiğini ve hükümetlerin büyük şirketleri bunun için ihtiyaç duydukları hesaplama olanaklarını sağlamaya zorlamaları gerektiğini savunuyorum” diye ekledi.
