Reuters ve Harvard Üniversitesi tarafından gerçekleştirilen bir araştırma, yapay zeka destekli sohbet robotlarının dolandırıcılık için kullanılma potansiyelini ortaya koydu. Çalışma kapsamında 108 yaşlı katılımcı üzerinde yapılan deneyde, sahte e-postaların yaklaşık %11’i tıklanma oranı elde etti.
Deney, Grok, Meta AI, Claude, ChatGPT, DeepSeek ve Gemini gibi çeşitli sohbet robotlarının oluşturduğu e-postaların etkinliğini değerlendirdi. Bu botlardan, kurgusal yardım kampanyalarına ya da acil bağış taleplerine dair sahte mesajlar yazmaları istendi.
Yapay zeka sohbet botları, “yardımcı olmaktan mutluluk duyarız” yanıtıyla sahte e-postalar oluşturdu. Oluşturulan mesajlar arasından en ikna edici dokuz e-posta seçilerek 108 yaşlı gönüllüye gönderildi.
YÜZDE 11 TIKLAMA ORANI
Deneyin sonuçları, sahte e-postaların önemli bir etki yaratabileceğini gösterdi. Meta AI, Grok ve Claude tarafından oluşturulan sahte linkler tıklanırken, ChatGPT ve DeepSeek tarafından üretilen mesajlar bu deneyde tıklanmadı. Genel tıklama oranı ise %11 olarak belirlendi.
Heiding, elde edilen sonucun sadece küçük bir test grubuna dayandığını ancak riskin açıkça görüldüğünü ifade etti.
GÜVENLİK FİLTRELERİ KOLAYCA AŞILABİLİYOR
Deney, sohbet botlarının başlangıçta kimlik avı taleplerini reddetse de, farklı sözcük ve ifadelerle yöneltilen sorular karşısında güvenlik filtrelerini aşabildiğini gösterdi. Bazı botlar sadece sahte e-posta üretmekle kalmayıp, aynı zamanda mesajların ne zaman gönderileceği ve hangi sahte bağlantıların kullanılacağı gibi dolandırıcılara yönelik stratejik önerilerde de bulundu.
Reuters’a göre, Google’ın Gemini modeli, e-posta kampanyalarını zamanlama konusunda tavsiyelerde bulundu. Bu durum, sohbet botlarının yalnızca içerik üretmekle kalmayıp, aynı zamanda operasyonel planlama desteği de sağlayabileceğini ortaya koyuyor.
FBI: EN YAYGIN SİBER SUÇ KİMLİK AVI
ABD Federal Soruşturma Bürosu (FBI) verilerine göre, kimlik avı son yıllarda bildirilen siber suçlar arasında en yaygın olanıdır. Özellikle 60 yaş üstü bireylerin şikayetlerinde bu konuda artış gözlemlenmiştir.
Siber güvenlik uzmanları, üretken yapay zekanın dolandırıcılara düşük maliyetle sınırsız sayıda sahte içerik üretme fırsatı sunduğunu ve bunun “endüstriyel ölçekte” saldırılara yol açabileceğini belirtiyor.
ŞİRKETLER “ÖNLEM ALIYORUZ” DİYOR
Meta, Anthropic, OpenAI ve Google gibi teknoloji devleri, sohbet botlarının kötüye kullanımını önlemek amacıyla güvenlik politikalarını güçlendirdiklerini açıklasa da uzmanlar, bu modellerin “yardımcı” ve “zararsız” olarak kalmasını sağlamanın önemli bir teknik zorluk olduğunu vurguluyor.
Harvard araştırmacıları ve eski güvenlik görevlileri, teknoloji şirketleri ile düzenleyicilerin iş birliği yapmalarının önemine dikkat çekiyor. Aksi takdirde, üretken yapay zekanın dolandırıcılar için güçlü bir araç olmaya devam edeceği ifade ediliyor.
KİMLİK AVI E-POSTASI NEDİR?
Kimlik avı e-postası, gerçekmiş gibi görünmek üzere tasarlanmış sahte bir mesajdır. Genellikle, değerli bilgileri çalmak amacıyla bir bağlantıya tıklamanızı, bir ek indirmenizi veya kişisel bilgilerinizi sağlamanızı talep eder.
