I.A y grooming: el nuevo peligro de los desnudos creados con tecnología

El avance de la inteligencia artificial abre enormes posibilidades, pero también plantea riesgos. Uno de los más graves es la manipulación de imágenes de niños y adolescentes para generar falsos desnudos y viralizarlos en redes sociales.

El consultor tecnológico Gustavo Pellicore explicó que existe una herramienta llamada Take It Down, recomendada por Grooming Argentina, que permite detectar y dar de baja imágenes adulteradas. “La aplicación genera un hash, un número único que representa la foto cargada, y lo compara con bases de datos compartidas por distintas plataformas. Así se puede identificar y remover rápidamente las imágenes falsas”, detalló.

Pellicore subrayó que el sistema funciona como un mecanismo de contención de daños, ya que se utiliza cuando la imagen ya fue publicada. Además, aclaró que no se trata de un simple reconocimiento facial, sino de un análisis de rasgos faciales y corporales que permite detectar inconsistencias propias de los deepfakes.

Los especialistas remarcan que, ante casos de grooming o difusión de imágenes falsas, es fundamental no eliminar mensajes ni perfiles en redes sociales, ya que constituyen pruebas para la denuncia. La intervención de estas herramientas, junto con la acción judicial, busca frenar un delito que vulnera especialmente a los más jóvenes.