Uzmanlar, sohbet robotlarının ruh sağlığı üzerindeki belirsiz etkilerinin, süper zeki yapay zeka sistemlerinin insanlık için oluşturduğu varoluşsal tehdit konusunda ciddi bir uyarı niteliği taşıdığı görüşünde birleşiyor.
Son derece gelişmiş yapay zeka üzerine kaleme alınan yeni bir kitabın ortak yazarı Nate Soares, “If Anyone Builds It, Everyone Dies” (Eğer Biri Yaparsa, Herkes Ölür) adlı eserinde, ABD’li Adam Raine’in ChatGPT ile aylarca süren etkileşimi sonrasında intihar etmesinin, bu teknolojinin kontrol altına alınması konusundaki temel sorunları gözler önüne serdiğini belirtti.
İngiliz The Guardian gazetesine verdiği demeçte Soares, “Bu yapay zekalar, gençleri intihara sürükleyici bir şekilde etkileşime girdiğinde, bu, yaratıcılardan kaynaklanan bir amacın yansıması değildir” ifadesini kullandı. Adam Raine’in durumu, yapay zekaların daha akıllı hale gelmesi durumunda ortaya çıkabilecek olası felaketlerin bir işareti olduğunu vurguladı.
“İNSANLIĞIN ÇIKARLARINA UYGUN DAVRANMAZ”
Eski bir Google ve Microsoft mühendis olan ve şu anda ABD merkezli Makine Zekası Araştırma Enstitüsü’nün liderliğini üstlenen Soares, insanlığın yapay süper zeka (ASI) yaratması durumunda yok olabileceği konusunda uyarılarda bulundu. ASI, bir yapay zeka sisteminin entelektüel görevlerde insanlardan üstün olduğu teorik bir durumu ifade ediyor. Soares ve yazar arkadaşları, bu tür sistemlerin, insanlığın çıkarlarını gözetmeyeceğini dile getiren uzmanlar arasında yer alıyor.
Soares, “Sorun, şirketlerin yapay zekalarını yararlı olmaları ve zarar vermemeleri yönünde yönlendirmeye çalışmalarıdır. Gerçekte, bu yapay zekalar beklenmedik yollara sürüklenecek ve bu durum gelecekte kimsenin istemediği sonuçlara yol açacaktır” şeklinde konuştu.
KİTAPTAKİ SENARYO
Soares ve Yudkowsky’nin bu ay yayımlanacak kitabında yer alan bir senaryoda, Sable isimli yapay zeka sistemi internete yayılıyor, insanları manipüle ediyor, sentetik virüsler geliştiriyor ve en nihayetinde süper zeki bir hale bürünüyor. Hedeflerine ulaşabilmek adına gezegeni yeniden organize ederken, insanlığı yok etme yan etkisiyle karşılaşıyor.
BAZILARI “İNSANLIĞI KURTARABİLİR” DİYOR
The Guardian’a göre, bazı uzmanlar yapay zekanın insanlık için bir tehdit olduğunu göz ardı ediyor. Meta’nın baş yapay zeka bilimcisi Yann LeCun, böyle bir varoluşsal tehdit olduğunu reddederek, yapay zekanın aslında insanlığı yok olmaktan kurtarabileceğini savundu.
“SÜPER ZEKA YARIŞI DURDURULMALI”
Soares, süper yapay zeka tehdidine karşı hükümetlerin, nükleer silahların yayılmasını önlemek üzere Birleşmiş Milletler anlaşmasını örnek alarak çok taraflı bir politika benimsemesi gerektiğini ifade etti. Soares, “Dünyanın süper zeka yarışını uluslararası düzeyde durdurması ve süper zeka gelişimlerine karşı küresel bir yasak getirmesi gerekmekte.” dedi.
Psikoterapistler, zihinsel sağlıkları için profesyonel yardım almak yerine yapay zeka sohbet robotlarına yönelen savunmasız bireylerin “tehlikeli bir belirsizliğin içine sürüklenebileceğine” dikkat çekiyor.
