Recientemente, un video publicado en TikTok por la cuenta @fujitiva48 ha desatado un intenso debate sobre la creación de contenido mediante inteligencia artificial, especialmente aquel que involucra imágenes de niños. En el clip, que se presenta como una parodia de un comercial de juguetes, aparece una niña sosteniendo un objeto que, a primera vista, parece un juguete. Sin embargo, el diseño y la narración sugieren que se trata de un producto de naturaleza sexual. La reacción de los espectadores no se hizo esperar; muchos expresaron su preocupación y llamaron a investigar a quienes producen este tipo de material.
El video fue generado utilizando Sora 2, una herramienta de OpenAI lanzada el 30 de septiembre de 2023, inicialmente solo por invitación. En solo una semana, contenidos similares ya estaban circulando en TikTok, provocando inquietud entre los usuarios. Algunos de estos videos presentan juguetes que, aunque ficticios, hacen alusión a prácticas sexuales y han sido considerados peligrosos. La creación de este tipo de contenidos plantea preguntas difíciles sobre la ética y la seguridad en el uso de la inteligencia artificial, especialmente en relación con la representación de menores.
Según datos de la Internet Watch Foundation, las denuncias de material de abuso sexual infantil generado por inteligencia artificial han aumentado drásticamente. En el Reino Unido, los informes pasaron de 199 en 2024 a 426 en 2025. Este incremento incluye una gran proporción de contenido que se clasifica como extremadamente serio, lo que ha llevado a que las autoridades busquen nuevas regulaciones para controlar la generación de material que involucre a menores. En este contexto, el uso de herramientas como Sora 2 se torna especialmente delicado.
A pesar de que OpenAI ha implementado medidas para prevenir que su tecnología se utilice para crear contenido sexual que involucre a niños, la ambigüedad en las leyes actuales dificulta la regulación efectiva. Expertos en políticas públicas han señalado que es fundamental que las plataformas de inteligencia artificial desarrollen mecanismos más sofisticados para detectar y prevenir la creación de contenido potencialmente dañino. Esto incluye la necesidad de moderar el lenguaje y las imágenes asociadas a fetiches que podrían atraer a públicos inapropiados.
La controversia no se limita a un solo video; se ha generado una ola de contenido que, aunque no siempre explícito, evoca imágenes y situaciones que son inapropiadas. Algunos clips han sido creados como parodias de eventos históricos o figuras controvertidas, lo que plantea la cuestión de si los creadores están buscando simplemente llamar la atención o si hay intenciones más oscuras detrás de su contenido.
Las plataformas como TikTok han comenzado a tomar medidas, eliminando ciertos videos y prohibiendo cuentas que infringen sus políticas de seguridad para menores. Sin embargo, la dificultad radica en la rápida evolución de estas tecnologías y la creatividad de los usuarios para eludir las restricciones. La comunidad en línea y las autoridades deben trabajar juntas para establecer un entorno más seguro, donde la innovación no comprometa la integridad y la seguridad de los más vulnerables.
En conclusión, la aparición de contenido generado por inteligencia artificial que involucra niños es un tema que requiere atención urgente. Los avances tecnológicos deben ir acompañados de una responsabilidad social y legal que proteja a los menores de ser explotados o sexualizados, ya sea de manera directa o indirecta. La vigilancia constante y el desarrollo de políticas efectivas son esenciales para garantizar un uso seguro y ético de la inteligencia artificial en el futuro.
