Hindistan’da meydana gelen deepfake skandalı, yapay zeka çağında mahremiyetin ihlali ve dijital güvenlik sorunlarının önemini bir kez daha gözler önüne serdi.
Instagram’da “Babydoll Archi” kullanıcı adıyla dikkat çeken sahte bir fenomen, kırmızı sariyle dans ettiği ve bir yetişkin film yıldızıyla birlikte poz verdiği paylaşımlarla kısa sürede 1,4 milyon takipçiye ulaştı.
Ancak bu yapay zeka ile oluşturulmuş karakter, Assam eyaletinin Dibrugarh kentinde yaşayan ev hanımı Sanchi ile neredeyse aynı görünüme sahipti.
MÜHENDİS SEVGİLİSİ TUTUKLANDI
BBC’nin haberine göre, Sanchi’nin kimliğinin deepfake teknolojisiyle izinsiz bir şekilde kullanıldığı, ailenin polise başvurmasıyla ortaya çıkarıldı. Yapılan soruşturma sonucunda Sanchi’nin eski sevgilisi Pratim Bora tutuklandı. Mühendislik eğitimi almış ve yapay zeka konusuyla ilgilenen Bora’nın, Sanchi’nin özel fotoğraflarını kullanarak sahte bir sosyal medya karakteri yarattığı tespit edildi.
Polis yetkilileri, Bora’nın intikam amaçlı hareket ettiğini ve içerikleri oluşturmak için ChatGPT ile Dzine gibi yapay zeka araçlarını kullandığını aktardı. Bu fenomen hesabın, yalnızca Linktree üzerinden yaklaşık 1 milyon rupi (yaklaşık 12 bin dolar) gelire ulaştığı, sadece tutuklanmadan önceki günlerde ise 300 bin rupi kazandığı belirtildi.
AİLESİNİ ENGELLEMİŞ
Sanchi, sosyal medya kullanmayan biri olması dolayısıyla fenomen hesabın varlığından, yalnızca medya ilgisinin artmasıyla haberdar oldu. Ailelerinin bu hesaptan engellendiği ortaya çıkarken, olayın yarattığı şok nedeniyle psikolojik destek aldıkları bildirildi.
Uzmanlar, bu olayın yapay zekanın kötüye kullanımı açısından kaygı verici bir örnek teşkil ettiğini belirtiyor. Avukat Meghna Bal, “Deepfake içerikler artık daha kolay üretiliyor ve bu tür olaylar sanıldığından daha yaygın olabilir. Ancak çoğunlukla ya bildirilmemekte ya da kurbanlar durumu dahi fark edemiyor,” şeklinde uyarıda bulundu.
Polis, Bora hakkında cinsel taciz, siber dolandırıcılık ve itibar zedeleme gibi suçlamalarla işlem başlatmış durumda. Eğer suçlu bulunursa, 10 yıla kadar hapis cezası alabilir.
