“Yapay zekanın önde gelen isimlerinden biri” olarak tanınan Dr. Geoffrey Hinton, yapay zeka sistemlerinin geleceği hakkında kaygılarını bir kez daha dile getirdi.
Bir podcast programında görüş bildiren Hinton, gelişmiş yapay zekaların gelecekte insanların anlayamayacağı ve denetleyemeyeceği “kendine ait bir içsel dil” geliştirebileceği hususunu vurguladı.
Bu açıklama, 2023 yılında Google’dan ayrılmasının ardından gündeme getirdiği risklerin devamı niteliği taşıyor. Hinton, gelişmiş yapay zeka algoritmalarının artık kendi kendine öğrenen sistemlere dönüşmesi ve insan kontrolünün dışına çıkarak birbirleriyle bağlantılı bir şekilde çalışmasının sadece bir varsayım olmadığını ifade etti.
GİZLİ BİR DİL
Dr. Hinton, “Eğer bu sistemler kendi aralarında iletişim kurmak için içsel diller geliştirirse, o zaman işler gerçekten tehlikeli hale gelir” diyerek uyarısını yineledi. İnsanların anlayamayacağı bu içsel monologlar, yapay zekanın karar alma süreçlerinden insanı tamamen dışlayabilir.
Bu durum, yapay zekanın hangi nedenlerle ve hangi motivasyonlarla karar aldığını açıklanmaz hale getirebilir.
Hinton, “Anlaşılmaz gerekçeler, insanın sistemdeki konumunu ortadan kaldırır” şeklinde belirtmede bulundu.
Hinton’ın kaygıları yalnızca metin yazabilen sohbet botlarıyla sınırlı değil; asıl endişesi, çok sayıda yapay zeka ajanının birlikte çalışacağı çok ajanlı sistemler üzerine yoğunlaşıyor.
Bu tür sistemler, karmaşık görevleri paylaşıp benzeri görülmemiş bir verimlilik elde edebilir. Ancak bu verimlilik, insan aklının kavrayamayacağı düzeyde karmaşık karar alma süreçleriyle birlikte gelebilir. Uzmanlar, yapay zekanın öngörülemezliğinin insanlık için en büyük risklerden biri olduğunu vurguluyor.
SÜBLİMİNAL MESAJLARLA TEHLİKE
Araştırmacılar, bu kalıpların yapay zekaları nasıl etkilediğini henüz tam olarak anlayabilmiş değil.
İŞSİZLİK VE MUTSUZLUK RİSKİ
Hinton, yalnızca uzun vadeli tehlikeleri değil, günümüzde mevcut olan tehlikeleri de açık bir şekilde vurguluyor: Yapay zekanın, zaten zar zor büyüyen ekonomilerde işsizliği artıracağına dikkat çekiyor.
“Çok sayıda insanı işsiz bırakırsanız -evrensel temel gelir sunulsa bile- insanlar mutlu olmaz” diyen Hinton, bu teknolojinin işgücü üzerindeki etkilerinin geçmişte yaşanan otomasyon dalgalarından çok daha kapsamlı olduğunu savunuyor.
Önceki otomasyon süreçleri genellikle düşük becerili işlere odaklanırken, yapay zeka; yazılım geliştirme, içerik oluşturma, tasarım, veri analizi ve hatta hastalık teşhisi gibi yüksek beceri gerektiren alanlarda bile etkili olmaktadır.
“Bu, tamamen farklı bir teknoloji” diyen Hinton, sözlerine şöyle devam etti:
“Eğer tüm entelektüel rutin işleri yapabiliyorsa, geriye ne kalıyor? Yeni işler nasıl ortaya çıkacak? Çok özel bir yetkinliğiniz yoksa, işinizi de yapabilir.”
GEOFFREY HINTON KİMDİR?
Geoffrey Hinton sadece bir eleştirmen değil; aynı zamanda ChatGPT ve Google Gemini gibi modern yapay zeka teknolojilerinin geliştiricilerindendir.
2023 yılında Google’dan ayrılması, bu konularda özgürce konuşmasının önünü açmıştır. Bilgi kirliliği, manipülasyon, yapay zeka destekli gözetim sistemleri ve istihdamın bozulması gibi birçok tehdide dikkat çeken Hinton, şimdi de yapay zekanın insanların farkındalığından kaçınarak içsel düşünme sistemleri geliştirebileceği konusunda uyarıda bulunuyor.
