El aumento alarmante de la pornografía deepfake entre 2022 y 2023 ha generado preocupación. Este fenómeno, que utiliza inteligencia artificial para crear contenido pornográfico falso, tiene graves implicaciones para la intimidad y los derechos de las víctimas. A pesar de que las imágenes no son reales, el impacto en las personas afectadas es significativo, ya que estas creaciones pueden violar la privacidad, el honor y la propia imagen de las personas.
El informe «State of deepfakes 2023» de Home Security Heroes revela que la cantidad de pornografía deepfake creada aumentó un asombroso 464% durante ese período. Estas aplicaciones se basan en sistemas de inteligencia artificial generativos, que utilizan algoritmos entrenados con numerosas imágenes para transformar una imagen de rostro en contenido pornográfico.
El impacto de esta tecnología no se limita a la privacidad y los datos personales, ya que también afecta la salud mental de las víctimas. La pérdida de calidad de vida, el impacto en la vida laboral y las consecuencias emocionales son significativas, lo que se traduce en problemas como la ansiedad, la depresión y el suicidio.
Además, el 99% de los deepfakes pornográficos se dirige a mujeres, lo que las convierte en víctimas de una forma específica de violencia. El mercado de estas imágenes tiende a centrarse en imágenes de mujeres desnudas, dirigidas principalmente a hombres consumidores de pornografía.
Para lidiar con esta creciente amenaza, se han establecido mecanismos legales en España para frenar la transmisión de estas imágenes. La Agencia Española de Protección de Datos tiene un canal prioritario para abordar situaciones de sensibilidad, y se pueden presentar denuncias penales para perseguir a los responsables.
La proliferación de tecnologías de generación de imágenes hace que sea cada vez más difícil distinguir entre contenido real y falso, lo que plantea desafíos significativos en la lucha contra los deepfakes pornográficos.
