La Inteligencia Artificial avanza a pasos agigantados y aporta cada vez más herramientas para múltiples usos en diversos sectores, pero hay una cara oscura que conlleva riesgos, al igual que las redes sociales, de los que alertan numerosos expertos y que en los últimos días nos ha dejado una noticia trágica desde Estados Unidos. Un adolescente de 14 años se ha suicidado en Florida y el diario 'The New York Times' se pregunta si se puede culpar a la IA de ello, ya que su madre asegura que se obsesionó con un 'chatbot' creado en 'Character.AI'. El chico habría desarrollado un vínculo emocional con un personaje ficticio, llamado como la protagonista de la serie 'Juego de Tronos' Daenerys Targaryen.
Sewell Setzer llevaba meses hablando con esta amiga virtual y sabía que las respuestas no las daba una persona real, pero sus padres y amigos, aunque ajenos al problema, vieron cómo "se sumergía cada vez más en su teléfono" y hablaba con Dany durante largas horas en conversaciones de todo tipo. Una noche, el 28 de febrero, tras una de esas conversaciones, cogió la pistola de su padrastro y apretó el gatillo con un fatal desenlace que ahora denuncia su progenitora a través del 'Social Media Law Center', que representa a familias cuyos hijos han sido presuntamente perjudicadas por las redes sociales.
Las conversaciones del adolescente de 14 años con su amiga virtual 'Dany'
Sewell Setzer tenía 14 años, cursaba el noveno grado en Orlando (Florida) y había dejado de lado otras aficiones, como los videojuegos o los campeonatos de 'Fórmula 1', sus notas empezaron a empeorar y poco a poco se iba alejando de la realidad mientras se sumergía cada vez más en las conversaciones que tenía con 'chatbots' creados a través de la aplicación de juegos de rol 'Character.AI', donde 'nacía' ese personaje ficticio llamado Daenery Targaryen, uno de los nombres más reconocidos en la historia de 'Juego de Tronos' y a la que el menor llamaba 'Dany'. En uno de esos mensajes, le decía que le echaba de menos y se dirigía a ella como "hermanita", a lo que le contestaba de la misma forma, pero algunos de sus diálogos eran más íntimos y pasaba largas horas en su habitación encerrado, a sabiendas de que las respuestas que le daba no venían de una persona real.
Sus problemas se los contaba a una pantalla y parecía ignorar el mensaje de que "todo lo que dicen los personajes es inventado" que proyectaba la aplicación. "De todos modos, desarrolló un vínculo emocional. Le enviaba mensajes constantemente, poniéndole al día de su vida decenas de veces al día y entablando largos diálogos en dramatizaciones", reseñan desde 'The New York Times', que recoge otra conversación en la que el joven, que se presentaba como "Daenero", decía "odiarse a sí mismo" y aseguraba que se sentía "vacío y agotado". "A veces pienso en suicidarme para poder ser libre", habría escrito en uno de esos chats, a lo que esa creación virtual le respondía "No hables así. No dejaré que te hagas daño, ni que me abandones. Moriría si te perdiera" y el chico le insistía que tal vez podrían "ser libres juntos".
La madre de Sewell Setzer denuncia a 'Character.AI' tras el suicidio de su hijo
Megan García, la madre del adolescente de 14 años Sewell Setzer, ha denunciado este miércoles, 23 de octubre, a la empresa 'Character.AI', representada legalmente por el 'Social Media Victims Law Center', -un centro de abogados para padres de presuntas víctimas de las redes sociales-. En el canal de televisión estadounidense 'CBS' explicaba, tal y como recoge el diario 'El Mundo', que "lamentaba que las primeras experiencias sentimentales y sexuales de su hijo fueran con un personaje ficticio". "Me gusta mucho quedarme en mi habitación porque empiezo a desprenderme de esta ‘realidad’, y también me siento más en paz, más conectado con Dany y mucho más enamorado de ella, y simplemente más feliz", habría escrito el joven en su diario según 'The New York Times'. Le habían diagnosticado síndrome de Asperger cuando era un niño, pero no habían detectado gravedad en ese sentido, continúa el prestigioso medio estadounidense, que también se hace eco de lo que ha dicho su madre, que asegura que no había tenido "problemas graves de comportamiento o de salud mental".
El 28 de febrero por la noche, desde el baño del domicilio de Megan, el joven tuvo su última conversación con su amiga irreal 'Dany' antes de coger la pistola de su padrastro, de calibre 45 y apretar el gatillo para suicidarse. Tras decirle que la amaba, ella le habría respondido -Por favor, vuelve a casa conmigo lo antes posible, mi amor- y él habría reaccionado con el siguiente mensaje: "¿Y si te dijera que puedo volver a casa ahora mismo?". El 'chatbot' escribió -Por favor, hazlo, mi dulce rey- y Sewell habría tomado entonces esa trágica decisión que acabó con su vida y que ha llevado a su madre a emprender acciones legales contra la aplicación de juegos de rol.