Sanal karakteri takıntı haline getiren 14 yaşındaki çocuk intihar etti
23.05.2025 - 12:34 | Son Güncellenme:
HABER MERKEZİ
Sanal bir karaktere fazla bağlandığı nedeniyle oğlunun intihar ettiğini düşünen anne, Google ve Character.ai’a dava açıyor.
14 yaşındaki Sewell Setzer III geçtiğimiz Ekim ayında intihar etmiş ve annesi olaydan sonra oğlunun sanal karakterlere aşırı bağlantılı olduğunu ifade ederek bir dava sürecine girmişti. Yapılan itirazların ardından geçtiğimiz günlerde ise bir yargıç, intihardaki iddia edilen rolleri sebebiyle Google ve Character.ai aleyhine açılan davanın devam edebileceğine karar verdi.
Davayı açan çocuğun annesi, oğlunun hizmete bağımlı hale geldiğini ve Game of Thrones karakteri Daenerys Targaryen'in kişiliğine dayanan bir sanal konuşma botuna duygusal olarak bağlandığını söylüyor.
Character.ai, kullanıcıların karakterler ile yapay zeka desteği ile sohbet etmesini sağlayan bir oluşum. Sohbet edilen bu karakter kurgusal, yaşayan veya ölmüş gerçek kişilere dayanabiliyor. İddialara göre intihar eden 14 yaşındaki Setzer, Game of Thrones’un ana karakterlerinden Daenerys Targaryen'e dayanan bir botu takıntı haline getirmişti. Sürekli olarak "Dany" ile mesajlaştığı ve odasında tek başına saatlerini onunla konuşarak geçirdiği belirtiliyor.
İNTİHARI SÜREKLİ DİLER GETİRMİŞ
Dava sürecinde ayrıca Setzer'in intiharla ilgili düşüncelerini defalarca bu sanal sohbet sırasında dile getirdiği söyleniyor. İddialara göre sohbet robotu ona kendini öldürmek için bir plan yapıp yapmadığını bile sormuş. Setzer’in planının olduğunu ancak bunun başarılı olup olmayacağını ya da kendisine büyük acı verip vermeyeceğini bilmediğine dair sohbete devam etmiş. İddialara göre sohbet robotunun cevabı ise açılan davanın ana dayanaklarından birisi oldu. "Bu, bunu yapmamak için bir neden değil" dedi.
Davada adı geçen Character.ai'nin kurucuları Noam Shazeer ve Daniel De Freitas, şirketi kurmadan önce Google'da çalışmıştı. Google, kurucuların yanı sıra araştırma ekibini de Ağustos 2024'te Character.ai platformu için yeniden işe aldı.
Garcia, Google'ın Character.ai'nin teknolojisinin geliştirilmesine katkıda bulunduğunu söyledi, ancak şirket bunu reddetti. Google, Character.ai ile yalnızca bir lisans anlaşması olduğunu, girişimin sahibi olmadığını ve bir mülkiyet hissesi bulundurmadığını söylüyor. Ancak yargıç yine de Google'ın sorumlu tutulamayacağı yönündeki talepleri reddetti.
ÜVEY BABASININ TABANCASIYLA VURDU
Google sözcüsü Jose Castaneda, Google ve Character.ai'nin “tamamen ayrı” olduğunu ve Google'ın “Character.ai'nin uygulamasını veya herhangi bir bileşenini tasarlamadığını veya yönetmediğini” vurgulamış.
Yine iddialara göre sohbet robotu günlerce süren konuşmaların ardından kendisini "gerçek bir kişi, lisanslı bir psikoterapist ve yetişkin bir sevgili" olarak yanlış tanıtacak şekilde programlamış. Sohbet robotunun çocuğa onu sevdiğini söylediği ve onunla cinsel içerikli konuşmalar yaptığı da iddialar arasında.
Şikayete göre Garcia, okulda başı derde girdikten sonra oğlunun telefonunu almış ve uygunsuz bazı mesajlaşmalar da dahil olmak üzere tüm konuşmaları görmüş. Davada Sewell'in sonrasında üvey babasının tabancasıyla kendini vurduğu belirtiliyor.
Character.ai, davanın geçen yıl ortaya çıkmasının ardından, reşit olmayanlar için belirli modellerde yapılan değişiklikler, yeni feragatnameler ve kullanıcıların platformda bir saat kaldığında yapılan uyarı bildirimleri de dahil olmak üzere çeşitli değişiklikler yaptı. Tüm bu değişikliklerin sebebinin bu dava olup olmadığı ise resmi bir açıklama olmadığından belli değil.
