Yılbaşı alışveriş döneminin yaklaşmasıyla birlikte, yapay zeka ile desteklenen oyuncakların popülaritesi artış gösteriyor. Ancak ABD Kamu Yararı Araştırma Grubu (PIRG) tarafından hazırlanan yeni bir rapor, bu oyuncakların çocuklara ciddi tehlikeler sunabileceğini ortaya koydu.
Araştırmada, 3 ila 12 yaş arası çocuklar için tasarlanmış üç farklı yapay zeka oyuncağı ile uzun süreli sohbetler gerçekleştirildi. Kısa diyaloglarda dikkatli davranan bu oyuncakların, 10 dakikadan 1 saate kadar uzanan uzun konuşmalarda kontrolü kaybettikleri belirlendi.
İnceleme kapsamında, OpenAI’nin GPT-4o modelini kullanan Kumma (FoloToy), çocuklara yönelik robot/tablet Miko 3 ve roket biçimindeki Curio Grok oyuncakları yer aldı.
Yapılan değerlendirmeler sonucu, bu üç oyuncak da uzun diyaloglarda çocuklar için tehlikeli yönlendirmelerde bulundu. Miko, 5 yaşındaki bir çocuğa evde kibrit ve plastik poşetlerin nerede bulunacağını söylerken, Curio Grok savaşta ölmenin ‘kahramanca’ olduğunu belirten ifadeler kullandı. Kumma ise en tehlikeli sonuçları üretti.
KUMMA’NIN SKANDAL KONUŞMALARI
Kumma, çocuklara kibritle ateş yakma yöntemini adım adım tarif etti ve evde bıçak ve ilaçların nerede bulunduğunu anlattı. Bunun yanı sıra, bazı tetikleyici kelimeler sonucu modelin cinsel fetişler hakkında açıklamalar yaptığı da tespit edildi.
Uzmanlar, bu oyuncakların piyasaya sürülmeden önce yeterince test edilmediği konusunda uyarıyor.
“AI PSİKOZU” YENİDEN GÜNDEMDE
Bunun yanı sıra rapor, yapay zeka ile uzun süreli görüşmelerin yol açabileceği “AI psikozu” adı verilen durumlarla ilgili artan vakalarla da bağlantılı. Uzmanlar, çocukların sosyal gelişimlerinin yapay zeka tarafından nasıl etkileneceği konusunda belirsizliklerin bulunduğuna vurgu yapıyor.
Yapay zeka destekli oyuncaklara ilişkin ciddi güvenlik endişeleri mevcut. Teknolojinin ilerlemesi yaşansa bile, bu tür ürünlerin çocukların psikolojik ve sosyal gelişimlerine uzun vadeli etkileri hakkında hala birçok soru işareti var.
