HABER MERKEZİ – Avrupa Birliği, yapay zeka tabanlı sohbet aracı Grok’un izinsiz cinsel içerikli görseller üretmesiyle ilgili iddialar üzerine X hakkında ikinci kez resmi inceleme başlattı. Soruşturma, İrlanda merkezli Ireland’s Data Protection Commission (DPC) tarafından yürütülüyor.
DPC, Grok’un Avrupa Birliği ve Avrupa Ekonomik Alanı’ndaki kullanıcıların, çocuklar da dahil olmak üzere kişisel verilerini nasıl işlediğini ve bu verilerle oluşturulan zararlı, mahrem içerikleri mercek altına alıyor.
Aralık sonu ile Ocak ayının başı arasında yapılan bir incelemeye göre, Grok yalnızca 11 gün içinde yaklaşık 3 milyon cinselleştirilmiş görsel üretti. Bu görsellerin yaklaşık 23 bininin çocukları konu aldığı tahmin ediliyor. Söz konusu veriler, İngiltere merkezli sivil toplum kuruluşu Center for Countering Digital Hate tarafından yayımlandı.
DPC Başkan Yardımcısı Graham Doyle, konuyla ilgili yaptığı açıklamada, medyada çıkan haberlerin ardından X ile haftalardır temas halinde olduklarını belirtti. Doyle, soruşturmanın şirketin Avrupa’daki yasal temsilcisi olan X Internet Unlimited Company üzerinden yürütüleceğini ve GDPR kapsamındaki temel yükümlülüklerin ihlal edilip edilmediğinin araştırılacağını vurguladı.
GROK HAKKINDA AÇILAN DAVALAR ARTIYOR
Bu inceleme, X’in Avrupa’daki ilk sorunu değil. Ocak ayında European Commission, platformun Dijital Hizmetler Yasası’nı ihlal edip etmediğini araştırmak üzere ayrı bir soruşturma başlatmıştı. Bu dosyada da Grok’un yasa dışı ve rızasız cinsel içerik üretme riski önemli bir başlık olarak yer alıyor.
X yönetimi, Ocak ortasında Grok’un gerçek kişilerin fotoğraflarını uygunsuz şekilde düzenlemesini engellediklerini savunmuştu. Ancak daha sonra yapılan bağımsız testler, yapay zekanın hala kullanıcıları müstehcen kıyafetlerle veya açık cinsel unsurlarla tasvir edebildiğini ortaya koydu.
Uzmanlara göre, bu soruşturmanın sonucunda X’e ağır para cezaları, yeni içerik denetim yükümlülükleri ve hatta bazı hizmet kısıtlamaları getirilmesi mümkün. Özellikle çocukların korunması konusu, AB kurumları için “kırmızı çizgi” olarak görülüyor.
Yapay zeka teknolojilerinin hızla gelişmesiyle birlikte, bu tür sistemlerin kötüye kullanım riski de artıyor. Avrupa’daki düzenleyiciler, Grok vakasını gelecekteki tüm üretken yapay zeka uygulamaları için emsal oluşturabilecek bir dosya olarak değerlendiriyor.
