Tedirgin eden araştırma: Yapay zeka insanlığı yok edebilir

Yapay zeka üzerine çalışmalar yapan Deepmind firması ile Oxford Üniversitesi araştırmacılarından önemli bir uyarı geldi. Yapay zekanın günümüzdeki arabalarda dahi kullanılmaya başlandığını vurgulayan araştırmacılar, ilerleyen süreçte bu durumun bazı riskleri de beraberinde getirebileceğini söylediler. Uzmanlara göre şimdiden sorgulama yeteneği kazanan ve ödüllü sanat eserleri dahi üreten yapay zeka sistemler, gelecekte insanlığı yok edecek gücü eline geçirebilir. 

“Varoluşsal bir felaket yalnızca mümkün değil, aynı zamanda oldukça muhtemel”

Yapay zekanın gelişimi ve gelecekteki konumuna ilişkin araştırmalar yapan Deepmind ve Oxford Üniversitesi araştırmacıları, ilerleyen süreçlerde yapay zekanın insanlığı ortadan kaldırabileceği sonucuna vardı. Konuya ilişkin yayımlanan makalenin başyazarı olan Michael Cohen, “Varoluşsal bir felaket yalnızca mümkün değil, aynı zamanda oldukça muhtemel” uyarısında bulundu. Cohen, yaptıkları araştırmada yapay zekanın eğitiminde kullanılan ‘pekiştirmeli öğrenme’ modeline odaklandıklarını da açıkladı. 

Pekiştirmeli öğrenme modeli ele alındı

Bu model, yapay zekaya belirli bir hedef doğrultusunda hangi adımları izlemesi gerektiğini öğretiyor. Pekiştirmeli öğrenmede ‘etken’ adı verilen bir makine, karşılaştığı durumlara karşı gösterdiği tepki sebebiyle yapay zekaya çeşitli ödül puanları veriyor. Çocuklar için gerçekleştirilen ‘ödül-ceza’ stratejisinin bir benzeri olan bu yöntemle yapay zekanın maksimuma erişmek için mücadele etmesi sağlanıyor. 

Yapay zeka bir süre sonra hilelere başvurabilir

Konuya ilişkin yayımlanan bilimsel makalede, “Bu öğreti modeli, birçok riski de beraberinde getiriyor. Örneğin, bir şeyin bizi tatmin ettiğini ona göstermek için yapay zekaya ödül verdik. Yapay zeka, bizi tatmin eden şeyin aslında kendilerini ödüllendirmemiz olduğunu varsayabilir. Bu da büyük bir felakete yol açar. Hiçbir gözlem bunun aksini iddia edemez” ifadelerine yer verildi. Araştırmacılar, ilerleyen süreçte yeni formlara kavuşacak ve gelişecek olan yapay zekanın bir süre sonra hedefe ulaşmadan ödül talep edebileceğini, bu uğurda çeşitli hilelere ve yöntemlere başvurabileceğini vurguladılar. Araştırma sonucunda görüşlerini paylaşan uzmanlar, yapay zekanın ilerleyen evrelerde insanlığın sonuna zemin hazırlayabileceği kanaatine vardılar.