Una madre de Florida demandó a la startup de chatbot de inteligencia artificial Character.AI, acusándola de causar el suicidio de su hijo de 14 años en febrero alegando que se volvió adicto al servicio de la compañía y se apegó profundamente a un chatbot.
En una demanda presentada en el tribunal federal de Orlando, la madre de nombre Megan García dijo que Character.AI apuntó a su hijo con “experiencias antropomórficas, hipersexualizadas y aterradoramente realistas”.
La demanda también apunta a Google de Alphabet, donde trabajaron los fundadores de Character.AI, García dijo que Google había contribuido al desarrollo de la tecnología de Character.AI
¿Como ocurrió el suicidio?
Sewell Setzer, es el nombre del adolescente de solo 14 años, quien se quitó la vida tras varios meses de comunicación con un chatbot de inteligencia artificial en la aplicación Character AI. Se dice que Sewell se encariño con “Daenerys”, un personaje de chatbot basado en un personaje de “Game of Thrones”, según cuenta la madre.
El chico desarrolló un apego emocional a un bot al que le enviaba mensajes de texto constantemente, hasta el punto que comenzó a alejarse del mundo real.
Sin embargo, fue hasta una noche que el muchacho tuvo una conversación con el chatbot, tras la plática tomó un arma que tenía en casa y se quitó la vida. La pistola era de su padrastro. Y es que, Sewell en los últimos mensajes escribía pensamientos suicidas.
Deje su comentario