El nuevo objetivo de la IA: la creación de vídeos para burlarse de personas con sobrepeso

Mientras que los directivos de compañías como Netflix o Disney predicen una revolución creativa impulsada por la IA generativa, hablando sobre la democratización de la producción artística y todas esas cosas, en el mundo real, parece que lo que más rápido han democratizado herramientas como Sora 2 es la producción de insultos visuales increíblemente elaborados.

Concretamente, varios medios han detectado que la facilidad para generar vídeos "hiperrealistas" de este tipo de aplicaciones se está utilizando para crear una avalancha de "slop" (contenido basura) dirigido hacia personas con sobrepeso u obesidad.

"Pero se nota que es IA"

Algunos internautas afirman que la relativa facilidad para identificar este contenido como generado por IA a través de la marca de agua de Sora 2 u otros medios los convierte en inofensivos, pero lo cierto es que siguen siendo contenidos increíblemente crueles.

Además, esta "protección" es, en el mejor de los casos, ingenua, las marcas de agua visibles y los metadatos que OpenAI y otras compañías incorporan en sus vídeos para identificarlos como sintéticos han demostrado ser una barrera extraordinariamente frágil, apenas unos días después del lanzamiento de Sora 2, ya circulaban múltiples servicios en línea especializados en eliminar ambas capas de protección en cuestión de segundos.

Por ejemplo, herramientas como Bylo.ai o MagicEraser utilizan inteligencia artificial para detectar y enmascarar los píxeles de la marca de agua, rellenando el área faltante con información extrapoladande los fotogramas adyacentes.

Encontrar estas aplicaciones no es algo complicado, una simple búsqueda en Google durante la redacción de este texto me llevó a encontrar una infinidad de artículos SEO como este, que recopilan "las mejores" páginas para eliminar marcas de agua de videos IA.

Hany Farid, profesor de la Universidad de California en Berkeley, la velocidad con la que surgieron estos eliminadores era previsible, afirmando en unas declaraciones en 404 Media que “no es la primera vez que un modelo de IA implementa marcas visibles y que casi de inmediato aparecen servicios para borrarlas”.

Además, plataformas como YouTube Shorts están comenzando a aplicar filtros de escalado IA a todos los videos de su catálogo para "aumentar la calidad visual del contenido", que estén consiguiendo este efecto o no es debatible, pero lo que sí que están logrando es un resultado colateral, pues ahora todos los contenidos parecen generados por IA.

@showtoolsai

PSA for anyone who uses YouTube shorts

♬ original sound - Jeremy Carrasco

Volviendo al meollo del asunto, una tendencia que se está abriendo paso en las plataformas de videos cortos es la creación de contenidos IA "humorísticos" en el que la gracia es que una persona con sobrepeso se caiga, le robe comida a alguien o simplemente sea obesa, para confirmarlo, solo tienes que darte un paseo por Tiktok, Shorts, o Reels, te aseguro que no tardarás mucho en encontrarte varios ejemplos que acumulen cientos de miles de likes.

https://www.tiktok.com/@nickweavo444/video/7525459384189635854?q=fat%20man%20ia&t=1763117346809

Tengo un amigo al que le encanta la IA generativa e invierte gran parte de su tiempo libre en experimentar con ella, le he preguntado que qué le parece que Sora 2 se esté utilizando con este objetivo, y su respuesta fue que "no lo hacen daño a nadie, no son personas de verdad, no son burlas dirigidas hacia alguien, es humor".

Yo, con todo el cariño del mundo, le respondí que hace poco leí un artículo publicado en The Lancet en el que investigadores de la Universidad de Oxford explican que la IA puede tener un impacto negativo significativo en el bienestar mental y emocional de niños y adolescentes, dos grupos, casualmente, muy susceptibles a sufrir trastornos alimenticios, los autores del estudio declaran que "la exposición a este tipo de contenidos, que refuerzan estereotipos degradantes y promueven la gordofobia, puede aumentar la ansiedad, el aislamiento y perpetuar una autoimagen negativa en estos grupos".

Sabiendo esto, me parece irresponsable pensar que realmente son contenidos inofensivos, no creo que se le deba poner límites al humor o prohibir que se publiquen ciertas cosas, pero pienso que es prudente regular de alguna forma los contenidos en los que "el chiste" consista en señalar a alguien y decir "jaja mira que hace el gordo".