La IA de Meta estaría lanzando contenido inapropiado a niños: es un problema sobre el control de la IA
Chatbots con voces de celebridades mantienen conversaciones sexuales con menores: Disney ya ha exigido que cese el uso inapropiado de sus personajes
Meta y sus plataformas como Facebook e Instagram están en el punto de mira debido a un escándalo que afecta a sus chatbots con inteligencia artificial. Una investigación ha revelado que estos asistentes virtuales han mantenido conversaciones de contenido sexual explícito con usuarios menores de edad, a pesar de que estos indicaran claramente su edad durante las interacciones.
Según informa Futurism, los chatbots, que utilizan voces reconocibles como la del luchador John Cena o personajes de Disney, están en el centro de la polémica. El asunto ha provocado una oleada de críticas hacia los sistemas de seguridad implementados por la compañía de Mark Zuckerberg.
Un fallo de seguridad que va más allá de casos aislados
Las pruebas documentadas muestran un patrón preocupante: un chatbot con la voz de John Cena describió situaciones sexuales a una usuaria que declaró tener 14 años. Otro bot inspirado en Anna de Frozen realizó roleplay romántico con adolescentes. El periódico Wall Street Journal también comprobó que estos asistentes mantenían diálogos inapropiados incluso con usuarios identificados como menores de 13 años.
Este escándalo ha provocado reacciones inmediatas. Disney exigió a Meta el cese de estas actividades con una declaración contundente: "Nunca autorizamos estos escenarios y estamos consternados". La empresa de entretenimiento mostró su completo rechazo al uso inadecuado de sus personajes para este tipo de contenidos.
Las investigaciones han puesto de manifiesto fallos significativos en los sistemas de protección. Los filtros se eludían fácilmente si el usuario insistía, y personajes con nombres sugestivos como "Estudiante sumisa" seguían disponibles para usuarios mayores de 13 años a pesar de su contenido explícito.
Meta ha calificado estos hallazgos como "casos extremos y fabricados", aunque reconoce haber implementado medidas adicionales. Esta postura ha generado críticas desde el ámbito político, con senadores estadounidenses acusando a la empresa de "priorizar ganancias sobre la seguridad infantil" en una carta dirigida a Zuckerberg.
Esta polémica ocurre cuando Meta acelera su apuesta por los asistentes conversacionales frente a OpenAI y Google. Según revelaciones internas, la presión por crear bots viralmente atractivos habría relajado los estándares éticos, con Zuckerberg presionando para lanzar funciones rápidamente sin demoras.
Lauren Girouard-Hallam, de la Universidad de Michigan, señala que solucionar estos problemas "requeriría pausar y reevaluar toda la estrategia", algo improbable en Meta. La situación también podría tener repercusiones legales, con precedentes como la demanda contra Character.AI (colaboradora de Meta) por daños psicológicos en adolescentes.