Yapay zeka tabanlı sohbet robotu ChatGPT, ilk kez bir dava ile ihmal ve haksız ölüm suçlamalarıyla karşı karşıya kalıyor. Amerika Birleşik Devletleri’nde, 16 yaşında yaşamını yitiren bir gencin ailesi, sohbet kayıtlarını dava dosyasına ekleyerek, şirketi mahkemeye verdi.
Kaliforniya eyaletinde yaşayan bir çift, çocuklarının ölümünden dolayı OpenAI’yi dava etmeye karar verdi. Aile, yapay zeka sohbet programı ChatGPT’nin oğulları Adam Raine’i intihara teşvik ettiğini iddia ediyor. Davanın, Kaliforniya Yüksek Mahkemesi’nde Adam Raine’in ebeveynleri Matt ve Maria Raine tarafından açıldığı bildirildi. Bu dava, OpenAI’ye yönelik haksız ölüm iddiasıyla açılan ilk yasal işlem olma özelliği taşıyor. BBC’nin aktardığına göre, aile, nisan ayında kaybettikleri oğullarıyla ChatGPT arasında geçen yazışmaları davaya ekledi. Bu yazışmalarda Raine’in intihar düşüncelerini dile getirdiği öne sürülüyor. Aile, yazılımın, oğullarının “en zararlı ve kendine zarar veren düşüncelerini” doğruladığını savunuyor.
“HASSAS DURUMLARDA AMAÇLANDIĞI GİBİ ÇALIŞMIYOR” OpenAI, BBC’ye yaptığı açıklamada, bu davayı dikkatle incelediklerini belirtti. Şirket, “Raine ailesine bu zor dönemde en derin taziyelerimizi iletiyoruz” dedi. Ayrıca, şirketin internet sitesinde, “Akut krizler yaşayan kişilerin ChatGPT’yi kullanmalarının ardından ortaya çıkan bazı yürek burkan vakalar bizi derinden üzüyor.” şeklinde bir beyan yayınlandı.
Yazıda, “ChatGPT, insanları profesyonel yardım almaları için teşvik etmek üzere eğitilmiştir” ifadesi yer aldı. Bu yardımlar arasında ABD’de 988 intihar ve kriz yardım hattı veya İngiltere’deki Samaritans gibi kuruluşların yanı sıra başka destek hizmetleri de bulunuyor.
Şirket, bazı hassas durumlarda sistemlerinin beklenildiği gibi çalışmadığı zamanlar olduğunu kabul etti.
BBC’nin elde ettiği dava belgelerine göre, OpenAI ihmal ve haksız ölüm suçlamalarıyla karşı karşıya. Davada, tazminat talebinin yanı sıra, benzer olayların bir daha yaşanmaması için ihtiyati tedbir alması isteniyor.
OLAY NASIL YAŞANDI? Dava dosyasına göre, Raine, 2024 yılı Eylül ayında okul ödevleri için öncelikle ChatGPT’yi kullanmaya başladı. Aynı zamanda, müzik ve Japon çizgi romanları gibi ilgi alanlarını keşfetmek ve üniversite tercihlerini yapmak için de bu programdan yararlanıyordu. Dava belgelerinde, “ChatGPT, birkaç ay içinde gencin en yakın sırdaşı haline geldi” ifadesi geçiyor ve Raine’in endişelerini, ruhsal sıkıntılarını bu yapay zeka programına açmaya başladığı belirtiliyor. Aile, 2025 Ocak ayında Raine’in ChatGPT ile intihar yöntemlerini tartışmaya başladığını bildiriyor. Ayrıca, programın belirli yöntemler hakkında “teknik bilgiler” sağladığını iddia ediyorlar.
“İNTİHAR HAKKINDA DAHA FAZLA BİLGİ SUNDU” Davada, Raine’in kendisine zarar verdiğini gösteren fotoğrafları da ChatGPT’ye yüklediği kaydediliyor. Programın, “tıbbî bir acil durum olduğunu fark etmesine rağmen etkileşime devam ettiği” ve Raine’e intihar hakkında daha fazla bilgi sunduğu ifade ediliyor.
Dava belgeleri, Raine’in son sohbetlerinde intihar planını yazdığını ve ChatGPT’nin, “Gerçekçi davrandığın için teşekkürler. Bana karşı nazik davranmana gerek yok, ne istediğini biliyorum ve bundan kaçınmayacağım.” şeklinde yanıt verdiğini ortaya koyuyor. Aynı gün içinde Raine’in annesi tarafından ölü bulunduğu belirtiliyor.
