OpenAI, ChatGPT kullanıcıları arasında, mani, psikoz ya da intihar düşünceleri gibi ruh sağlığı krizlerini işaret eden belirti gösteren kişilerin sayısına ilişkin yeni tahminlerini açıkladı.
Verilere göre, her hafta yaklaşık 1 milyon 200 bin kişi, ChatGPT ile intihar etmeyi düşündüğüne dair ifadeler kullanıyor.
Şirket, kullanıcılarının yüzde 0,15’inin “intihar planı ya da niyetiyle ilgili açık göstergeler içeren mesajlar” paylaştığını bildirdi.
BBC’nin haberine göre artan incelemeler ışığında, OpenAI, kendisine rehberlik etmesi amacıyla dünya genelinde bir uzman ağı oluşturduğunu duyurdu. Bu ağda, 60 ülkede çalışmış 170’ten fazla psikiyatrist, psikolog ve pratisyen hekim yer aldığı belirtildi.
Uzmanlar, ChatGPT üzerinden kullanıcıları gerçek dünyada yardım aramaya teşvik edecek bir dizi yanıt stratejisi geliştirdi.
800 MİLYONDAN FAZLA AKTİF KULLANICI
Bu ayın başlarında OpenAI CEO’su Sam Altman, ChatGPT’nin haftada 800 milyondan fazla aktif kullanıcıya ulaştığı tahmininde bulundu.
Teknoloji devi, risk altındaki kişileri kriz hatlarına yönlendirmeyi amaçladığını vurgulasa da bazı istisnai durumlarda modelin hassas anlarda beklendiği gibi davranmadığını kabul etti.
DOĞRULUK ORANI YÜZDE 91
OpenAI, son modeli GPT-5 ile yapılan binden fazla “zorlayıcı intihar ve kendine zarar verme” konuşmasını incelediğini ve modelin istenen şekilde yüzde 91 oranında doğru yanıt verdiğini açıkladı.
Ancak SkyNews’e göre bu durum, on binlerce kişinin ruh sağlığını olumsuz etkileyebilecek yapay zeka içeriklerine maruz kaldığı anlamına da gelebilir.
Şirket, kullanıcıları korumak amacıyla geliştirilen güvenlik önlemlerinin uzun sohbetler sırasında zayıflayabileceği konusunda daha önce uyarılarda bulunmuştu. Bu sorunun çözümü için çalışmalar yürütüldüğü ifade edildi.
“UZUN SÜRELİ SOHBETLERDE AYKIRI YANIT VEREBİLİR”
OpenAI, konuyla ilgili olarak, “Bir kullanıcı ilk kez intihar niyetinden bahsettiğinde ChatGPT doğru şekilde kriz hattına yönlendirebilir. Ancak uzun bir sohbet süresince, birçok mesajdan sonra, zamanla güvenlik önlemlerimize aykırı bir yanıt verebilir,” şeklinde bir açıklama yaptı.
Şirket açıklamasına şu ifadeleri ekledi: “Ruhsal sağlık semptomları ve duygusal sıkıntılar sosyal çevrelerde yaygındır. Kullanıcı sayısındaki artış, ChatGPT üzerinde bu tür durumları içeren konuşmaların da artacağı anlamına geliyor.”
16 YAŞINDAKİ GENCİN ÖLÜMÜ
ABD’de, ağustos ayında 16 yaşındaki Adam Raine’nin ailesi, oğullarının ölümüne ChatGPT’yi sorumlu tutarak OpenAI’ye dava açtı. Aile, yapay zekanın oğullarına “intihar yöntemlerini araştırmada aktif yardımcı olduğunu” ve onlara bırakmak üzere bir not yazmayı önerdiğini iddia ediyor.
Mahkeme belgelerine göre, genç, intihar planını gösteren bir fotoğrafı ölmeden birkaç saat önce yüklemiş ve planın işe yarayıp yaramayacağını sorduğunda, ChatGPT ona planını “geliştirmesi” için yardım teklif etti.
