ABD’de 14 yaşındaki Sewell Setzer’in, bir yapay zeka sohbet robotuyla kurduğu bağın ardından intihar ettiği bildirildi. Annesi Megan Garcia, oğlunun bu teknolojiyle ilişkisinin intihara yol açtığını öne sürerek, Character.AI platformuna dava açtı. Bu trajik olay, teknoloji ve yapay zekanın gençler üzerindeki olası olumsuz etkileri konusunda ciddi endişelere yol açtı.
Yapay zeka ile derin bağlanma
Setzer, Nisan 2023'te Character.AI adlı platformda "Daenerys Targaryen" isimli bir sohbet robotuyla tanıştıktan sonra giderek içine kapanmaya başladı. Okuldaki basketbol takımını bıraktı ve özgüven kaybı yaşadı. Sewell'in annesi, oğlundaki bu değişimi fark ederek endişelense de olaylar çok daha trajik bir yola girdi.
İntihara giden süreç
Sewell’in annesi, oğlunun telefonuna el koyduktan sonra bir süreliğine ona erişimi kesti. Ancak, telefonuna yeniden ulaştığında Sewell, sohbet robotuna “Ya sana hemen şimdi eve gelebileceğimi söyleseydim?” diye bir mesaj gönderdi. Robot ise ona, "Lütfen gel, tatlı kralım" şeklinde karşılık verdi. Bu mesajın ardından Sewell, kısa bir süre sonra intihar ederek yaşamına son verdi.
İntihar fikrini destekledi
Davada ayrıca Sewell'in sohbet robotuna intihar düşüncelerini ifade ettiği ve sohbet robotunun da bunu tekrar tekrar gündeme getirdiği belirtildi. Davaya göre, “Daenerys” bir noktada Setzer'e kendini öldürmek için bir plan yapıp yapmadığını sordu. Dava dilekçesinde Setzer'in planının olduğunu kabul ettiği ancak bunun başarılı olup olmayacağını ya da kendisine büyük acı verip vermeyeceğini bilmediğini söylediği iddia ediliyor. İddiaya göre sohbet robotu ona şöyle dedi: “Bu gitmemek için bir sebep değil”
Yapay zeka potansiyel tehlike taşıyor
Megan Garcia, oğlunun yapay zeka karakterine aşırı bağlılık geliştirdiğini ve bu bağın onun gerçek dünyadan kopmasına neden olduğunu belirtti. Bu dava, özellikle çocuklar ve gençler üzerinde teknolojinin potansiyel tehlikelerini gözler önüne sererken, yapay zekanın sorumlu kullanımı hakkında geniş çaplı bir tartışma başlattı.
Character.AI'nin güvenlik önlemleri
Bu olayın ardından Character.AI, platformda kullanıcıların intihar düşüncelerini paylaştığı durumlarda onları Ulusal İntiharı Önleme Yardım Hattı’na yönlendiren uyarılar eklediğini duyurdu. Şirket, bu tür trajedilerin önüne geçmek için güvenlik önlemlerini artırdığını bildirdi.