Kanadalı ünlü kemancı Ashley MacIsaac, Google arama sonuçlarında yapay zeka tarafından hazırlanan özetin, onu doğu Kanada’da yaşayan başka bir kişiyle karıştırarak “cinsel saldırı” ve “internet üzerinden çocukları kandırma” gibi ağır suçlardan hüküm giymiş biri olarak tanımladığını ifade etti.
KONSER HAZIRLIKLARI YARIDA KALDI
Olay, MacIsaac’in Nova Scotia’daki Sipekne’katik First Nation topluluğunda sahne almasına kısa bir süre kala gerçekleşti. Organizasyon yetkilileri, Google’da karşılaştıkları bu yanlış bilgiler nedeniyle konseri iptal etme kararı aldı.
Yapılan araştırmalar, organizatörlerin Google’ın AI Overview bölümünde bulunan yanıltıcı ve bağlamdan kopuk bilgiler ışığında hareket ettiklerini ortaya koydu.
“ÖZGÜN ANLATIM” SORUNLARI TETİKLİYOR
Uzmanlar, yapay zekanın sıradan bilgileri listelemek yerine özgün bir anlatı oluşturmasının sorun yaratabileceğine dikkat çekiyor. McMaster Üniversitesi’nden Dr. Clifton van der Linden, bu sürecin ciddi riskler taşıdığına vurgu yaparak, “Arama motorları artık yalnızca bilgi sunan araçlar değil, aynı zamanda hikaye anlatıcısı rollerini üstleniyor” dedi.
Google’ın AI Overview sistemi, kullanıcı sorgularına yanıt verirken arama sonuçlarından derlediği verilerle yeni bir metin oluşturarak çalışıyor. Bu da, benzer isimlerin ya da eksik bağlamların bulunduğu durumlarda ciddi yanlış kimlik tespitlerine yol açabiliyor.
“YANLIŞ BİLGİLER İLERİDE SORUN OLUR”
MacIsaac, Google’da kendi adıyla yapılan aramalarda başkalarının da aynı yanlış bilgilere ulaşabildiğinden kaygı duyduğunu belirtti. Müzisyen, bu durumun yeni kariyer fırsatlarının kaybına, düşmanca tavırlara ve hatta fiziksel güvenlik risklerine yol açabileceğini ifade etti.
GOOGLE’DAN YENİ DÜZENLEME AÇIKLAMASI
Google sözcüsü Wendy Manton, The Globe and Mail’e verdiği demeçte, AI Overview sonuçlarının sürekli olarak güncellendiğini ve hata tespit edildiğinde sistemlerinin iyileştirildiğini aktardı. Gazete, Google’ın MacIsaac’e ilişkin arama sonuçlarını sonradan düzelttiğini bildirdi.
Sipekne’katik First Nation topluluğu temsilcileri de MacIsaac’e ulaşıp, “Bu hatanın itibarınıza, geçiminize ve kişisel güvenlik hissinize verdiği zarardan derin üzüntü duyuyoruz” diyerek özür diledi ve müzisyenin gelecekte tekrar sahne alabileceği bilgisini paylaştı.
