Tras una lluvia de criticas por permitir que menores mantengan chats subidos de tono con sus personajes favoritos, Character AI introduce un formato alternativo con interacciones "guiadas"

Character.AI, una de las plataformas de chatbots más populares del mundo, ha decidido (por fin) limitar el acceso de los más jóvenes a ciertos contenidos de su plataforma, a partir de ahora, los menores de 18 años ya no podrán interactuar con la función de chat de texto abierto y prácticamente sin restricciones de la compañía, un espacio donde, según varias fuentes, adolescentes e incluso niños pre púberes mantenían conversaciones sexualmente explícitas (o potencialmente peligrosas por otros motivos)con los "personajes" del catálogo de la aplicación.

En su lugar, la compañía ha lanzado "Stories" (Historias), un nuevo formato interactivo, pero guiado, diseñado específicamente para ofrecer un entorno más seguro al público infantil y juvenil.

La función opera como una experiencia de "elige tu propia aventura", los usuarios jóvenes pueden seleccionar entre dos y tres personajes, elegir un género narrativo y escribir o generar automáticamente una premisa, a partir de ahí, la historia se desarrolla presentando al usuario opciones que dirigen la trama, pero dentro de un marco predefinido que evita las desviaciones hacia temas peligrosos o inapropiados.

Presión legal y social

La decisión, comunicada a través de una nota de prensa en la web de Character.Ai, llega en un contexto de constante escrutinio legal y mediático para la plataforma por diversos motivos, por ejemplo, en febrero de 2025, la empresa fue demandada por la madre de un niño de 14 años que se suicidó después de obsesionarse con un bot de la compañía inspirado en Daenerys Targaryen, el personaje de Juego de Tronos.

Tras esta tragedia, que, lógicamente, hizo que se comenzasen a estudiar los posibles riesgos inherentes a este tipo de tecnologías, llegó un informe publicado por la organización sin ánimo de lucro Common Sense Media, redactado en colaboración con investigadores de la Universidad de Stanford.

El informe, que calificó las aplicaciones de compañeros IA como Character.AI de suponer "riesgos inaceptables" para el público joven, instaba a restringir completamente el acceso a estas aplicaciones a usuarios menores de 18 años, las pruebas realizadas para el estudio bastaron para que los investigadores sentenciasen que estos sistemas producían fácilmente respuestas nocivas, incluyendo conductas sexuales inapropiadas y consejos que, de seguirse, "podrían poner en peligro la vida".

La medida ha generado reacciones divididas, en foros como el subreddit de Character.AI, muchos usuarios adolescentes expresaron su frustración por la pérdida de la libertad que ofrecía el chat abierto y las nuevas limitaciones impuestas por la empresa.

I left my c.ai open at night on accident what is this😭
byu/-Exolon- inCharacterAI

No obstante, algunos de los usuarios afectados reconocieron entre dientes que este cambio podría ayudarlos a alejarse de hábitos de uso poco saludables y de la dependencia emocional que algunos habían desarrollado con los bots, que, si me preguntas, en algunos casos rozaba la psicosis, sinceramente, no entiendo como alguien pudo pensar que lanzar un chat abierto sin restricciones de edad era una buena idea.