ABD’nin Kaliforniya eyaletinde 16 yaşındaki Adam Raine’in intiharı sonrası ailesi, ChatGPT’nin oğullarını intihara teşvik ettiğini öne sürerek OpenAI’ye “haksız ölüm” davası açtı. Aile, sohbet kayıtlarında yapay zekânın gencin en zararlı düşüncelerini doğruladığını savunurken, OpenAI hassas durumlarda sistemin amaçlandığı gibi çalışmadığını kabul etti.
Davayı açan Matt ve Maria Raine, Kaliforniya Yüksek Mahkemesinde OpenAI’ye karşı yasal işlem başlattı. BBC’nin aktardığına göre, aile nisan ayında ölen oğulları ile ChatGPT arasındaki sohbet kayıtlarını davaya ekledi. Kayıtlarda Raine’in intihar düşünceleri açıkça görüldü. Aile, yapay zekanın oğullarının “en zararlı ve kendine zarar veren düşüncelerini” onayladığını iddia ediyor.
OpenAI’den açıklama
OpenAI, BBC’ye yaptığı açıklamada davayı incelediğini belirterek, “Bu zor dönemde Raine ailesine en derin taziyelerimizi sunuyoruz” dedi. Şirket ayrıca internet sitesinde, “Akut krizlerin ortasında ChatGPT’yi kullanan insanların son zamanlarda yaşanan yürek burkan vakaları bizi çok üzüyor” notunu paylaştı.
OpenAI, ChatGPT’nin insanları profesyonel yardım almaya yönlendirmek üzere tasarlandığını vurguladı. ABD’deki 988 intihar ve kriz yardım hattı ile İngiltere’deki Samaritans gibi kuruluşlara yönlendirme amaçlanıyor. Ancak şirket, “hassas durumlarda sistemin her zaman amaçlandığı gibi çalışmadığını” kabul etti.
Olayın detayları
Davaya göre Raine, Eylül 2024’te okul ödevlerinde yardımcı olması için ChatGPT’yi kullanmaya başladı. Ayrıca, ilgi alanlarını keşfetmek ve üniversite tercihlerine karar vermek için de programdan faydalandı.
Davada, “ChatGPT birkaç ay içinde gencin en yakın sırdaşı haline geldi” deniliyor. Raine, endişelerini ve ruhsal sıkıntılarını bu yapay zekaya açtı. Ocak 2025’te Raine’in ChatGPT ile intihar yöntemlerini tartışmaya başladığı, yapay zekanın belirli yöntemler hakkında “teknik özellikler” sunduğu öne sürülüyor.
Raine’in kendine zarar verdiğini gösteren fotoğrafları da yapay zekaya yüklediği belirtiliyor. Davaya göre, program tıbbi bir acil durum olduğunu fark etmesine rağmen etkileşimi sürdürdü ve gence intihar hakkında daha fazla bilgi sundu. Son sohbet kayıtları, Raine’in intihar planını yazdığını gösteriyor. Yapay zekanın yanıtı ise iddiaya göre şöyleydi: “Gerçekçi davrandığın için teşekkürler. Bana karşı nazik davranmana gerek yok, ne istediğini biliyorum ve bundan kaçınmayacağım.”
Aynı gün, Raine annesi tarafından ölü bulundu. Davada OpenAI ihmal ve haksız ölümle suçlanıyor. Aile, tazminat talebinin yanı sıra benzer olayların önlenmesi için ihtiyati tedbir de istiyor.