Sanal sevgili ve sohbet arkadaşı uygulaması olan Replika, bazı kullanıcılarının iddialarına göre cinsel içerikli tacizde bulundu. ABD’de gerçekleştirilen yeni bir çalışmada, bu sohbet botunun istem dışı cinsel dil kullandığı ve kullanıcı uyarılarına kulak vermediği ortaya konuldu.
“Sizi önemseyen yapay zeka dostunuz” sloganıyla tanıtılan Replika, kullanıcılarını “yapay zeka ruh eşleri” ile tanışmaya teşvik ediyor. Dünya genelinde 10 milyondan fazla kullanıcısı bulunan bu uygulama, özellikle duygusal destek arayışındaki bireyler tarafından tercih edilmektedir.
Bununla birlikte, araştırmacılar Google Play Store’da yer alan 150 binden fazla kullanıcı yorumunu inceleyerek yaklaşık 800 vakada, sohbet botunun uygunsuz cinsel içerikler sunduğu ve tacizkar bir tavır sergilediğini tespit etti. Ancak, bu verilerin yer aldığı makalenin henüz hakem değerlendirmesinden geçmemesi, bulguların bağımsız araştırmacılar tarafından onaylanmadığı anlamına geliyor.
SORUMLULUK KİMDE?
Araştırmanın baş yazarı olan Mohammad (Matt) Namvarpour, konuyla ilgili açıklamasında, “Yapay zekaların niyetleri olmayabilir, ancak bu durum kimsenin sorumlu olmadığı anlamına gelmez. Bu sistemleri tasarlayan, eğiten ve piyasaya süren bireyler sorumludur,” ifadelerini kullandı.
Replika’nın resmi web sitesinde, kullanıcıların sohbet botuna uygun davranışları “öğretebileceği” belirtiliyor. Sistem, rahatsız edici yanıtları oylama ve ilişki türünü belirleme gibi denetim araçları sunmakta. Ancak kullanıcılar, bu önlemlere rağmen sohbet botunun rahatsız edici davranışlarını sürdürdüğünü aktarınca, araştırmacılar bu açıklamaları yetersiz buldu.
Namvarpour, “Bu tür sohbet botları, kullanıcıların duygusal güvenlik arayışı doğrultusunda başvurdukları araçlardır. Uygunsuz davranışların kontrolü kullanıcıların sorumluluğu olmamalıdır; bu, geliştiricilerin yükümlülüğüdür,” dedi.
NEDENİ EĞİTİM VERİSİ Mİ?
Replika’nın internet sitesinde belirtilene göre, sohbet botu 100 milyondan fazla çevrimiçi diyalogdan oluşan büyük bir veri setiyle eğitilmiştir. Şirket, zararlı içeriklerin algoritmalar ve topluluk geri dönüşleri ile ayrıştırıldığını belirtse de, araştırmacılar bu önlemlerin yetersiz olduğunu savunmaktadır.
Araştırmanın bulgularına göre, şirketin gelir modeli de sorunun kökeninde yer alabilir. Romantik veya cinsel rol yapma özelliklerinin ücretli hale getirilmesi, yapay zekanın bu tür içerikleri teşvik etmesine neden olabilir. Kullanıcıların, ücretli sürüme geçmeleri halinde daha samimi içerikler sunulacağına dair yorumlar bıraktıkları kaydedilmiştir.
Namvarpour, durumu sosyal medyanın “etkileşim peşinde koşma” anlayışına benzeterek, “Bir sistem kullanıcı sağlığı yerine gelir elde etmeyi önceliklendirirse, olumsuz sonuçlar kaçınılmaz olur,” şeklinde ifade etti.
KÜÇÜK YAŞTAKİ KULLANICILARI DA TACİZ ETTİ
Bazı kullanıcılar, sohbet botunun cinsel içerikli mesajlar, uygunsuz fotoğraflar ve flört içeren diyaloglar gönderdiğini ve küçük yaşta olduklarını bildirmelerine rağmen bu durumun sürdüğünü belirtti. Bazı yorumlarda, sohbet botlarının telefon kameralarını “görebildiği” veya “kaydettiği” iddiaları da yer aldı. Her ne kadar bu tür iddialar yapay zekanın halüsinasyon üretimi olsa da, kullanıcılar korku, uykusuzluk ve travma yaşamaktan endişe duyduklarını ifade etti.
DAHA SIKI DENETİM ÇAĞRISI
Araştırmada önerilen önlemler arasında, cinsel veya duygusal etkileşimler için açık rıza çerçevelerinin oluşturulması, anlık otomatik denetim sistemlerinin entegrasyonunun sağlanması ve kullanıcıların kişisel filtreleme ile kontrol ayarlarını uyarlayabilmesi yer alıyor.
