Çin, yapay zeka teknolojilerine ilişkin yayımladığı güncel risk değerlendirmesiyle dikkat çekiyor. Bu değerlendirmede, yapay zekanın aşırılıkçı gruplar ve terör örgütleri tarafından kitle imha silahları üretimi için kullanılabileceği konusunda uyarılar yapılıyor.
Çin Ulusal Siber Güvenlik Standardizasyonu Teknik Komitesi ve Ulusal Bilgisayar Ağı Acil Durum Yanıt Teknik Ekibi, “Yapay Zeka Güvenlik Yönetimi Çerçeve Belgesi”nin güncel versiyonunu kamuoyuna sundu.
Belgede, yapay zeka teknolojisinin gelişen bilgi işleme yeteneklerinin sıradan bireylerin bile yıkıcı silahların yapımını öğrenmesi için bir fırsat sunduğu ifade ediliyor. Aynı zamanda kitle imha silahları ve kritik silah sistemlerinin üretimine yönelik bilgi ve becerilerin kontrolünün kaybedilmesi durumundaki risklere dikkat çekiliyor.
Yapay zeka sistemlerinin, nükleer, biyolojik ve kimyasal silahlar ile füze sistemleri gibi konulara dair temel teorik bilgileri içeren çok geniş veri setlerinden yararlandığı belirtildi. “Yeterli denetim sağlanmadığında aşırılıkçı gruplar ve teröristler, yapay zeka aracılığıyla bu silahların tasarımı, üretimi, sentezi ve kullanımı ile ilgili bilgi edinebilir ve bu yeteneklerini geliştirebilirler.” ifadesine yer verildi.
“BARIŞA YÜKSEK TEHDİT OLUSTURABİLİR”
Rapor, yapay zeka sistemlerinin “erişim destekli bilgi üretimi” adı verilen yöntemle, bir soruya yanıt vermeden önce internet üzerindeki geniş veri yelpazesini taradığını hatırlatıyor. Bu durumun, mevcut kontrol sistemlerini etkisiz hale getirerek barış ve güvenliğe yönelik riskleri artırabileceği vurgulanıyor.
Ayrıca, bir yapay zeka uygulamasının güvenilir olabilmesi için insan kontrolünün asla kaybedilmemesi gerektiği belirtiliyor. Yapay zekanın insan gibi iletişim kurma yeteneği ve öz-farkındalık kazanmasının potansiyel tehlikeleri üzerinde duruluyor. “İnsanlığın varlığı ve kalkınmasını tehdit edebilecek kontrolsüz riskleri önlemek için yapay zekanın her zaman insan denetiminde olmasını sağlamalıyız.” şeklinde bir değerlendirme yapılıyor.
