El avance de la inteligencia artificial está transformando la forma en que los menores interactúan con el mundo digital, pero no precisamente para bien. Mientras millones de niños y niñas mexicanos navegan por internet, los deepfakes —videos y audios hiperrealistas generados por IA— se han convertido en una herramienta peligrosa que rebasa los filtros de seguridad tradicionales. Así lo advierte Sumsub, compañía global especializada en verificación de identidad, que en el marco del Día del Niño lanzó una alerta sobre la urgencia de actualizar los mecanismos de protección infantil en plataformas digitales.

Los números son contundentes. Según datos de Sumsub, la detección de deepfakes creció un 201% en Latinoamérica durante el último año, y México encabeza la lista con un incremento cercano al 500%. Esto significa que en nuestro país se está produciendo una explosión de contenido manipulado que puede ser usado para suplantar identidades, extorsionar o incluso simular el rostro y la voz de un menor para evadir controles parentales o de verificación de edad. La tecnología avanza más rápido que las reglas, y los niños son los más vulnerables.

Actualmente, el 77% de los menores en México tiene acceso a internet, según cifras oficiales. Esto los expone no solo a riesgos como el ciberacoso o el grooming, sino a una nueva capa de amenazas: la manipulación profunda de su propia imagen. Los sistemas de verificación de edad basados en preguntas estáticas o en el simple registro de datos pueden ser fácilmente burlados por un deepfake bien elaborado. Sumsub subraya que los controles actuales son insuficientes y que la industria debe migrar hacia modelos de verificación continua, donde la IA no solo sea la amenaza, sino también la solución.

La propuesta de la compañía es clara: implementar sistemas de monitoreo dinámico que analicen en tiempo real el comportamiento del usuario y la autenticidad del contenido. Esto implica usar inteligencia artificial para detectar anomalías, como movimientos faciales poco naturales o inconsistencias en el audio, y así frenar intentos de suplantación antes de que ocurra un daño. Para las plataformas de videojuegos, redes sociales y servicios de streaming —espacios donde los jóvenes pasan horas— esta actualización no es una opción, sino una necesidad urgente.

La regulación, mientras tanto, corre detrás de la tecnología. En México, las leyes de protección de datos y ciberseguridad aún no contemplan de manera específica los deepfakes como una herramienta de abuso infantil. Esto deja a los padres y tutores en una posición complicada: deben confiar en que las plataformas hagan su tarea, pero la evidencia muestra que no es suficiente. Sumsub insiste en que la solución debe ser colaborativa, involucrando a desarrolladores, gobiernos y usuarios finales para construir un ecosistema digital más seguro para los más jóvenes.

En un mundo donde un video falso puede parecer más real que la realidad, la pregunta ya no es si los menores están en riesgo, sino qué tan preparados estamos para protegerlos. La tecnología avanza, y con ella, la responsabilidad de quienes diseñan y operan los espacios digitales que habitan los niños y niñas de México.