Los avances tecnológicos sin duda contribuyen a un desarrollo y aprovechamiento en múltiples ámbitos de la vida, sin embargo, tales avances también representan un peligro cuando el uso que se hace es no solo indebido, sino hasta ilegal. Las imágenes y videos creadas con Inteligencia Artificial (AI) llegan a ser a veces tan fidedignas, que no pocas personas las dan por ciertas, y eso está pasando con videos, audios, imágenes e impresiones con contenido íntimo sexual de personas sin su consentimiento, sin su aprobación, o sin su autorización, y claramente, las más perjudicadas, somos las mujeres.
Las Deepfakes (acrónimo formado por las palabras en inglés “fake” (falso) y “deep learning”) son un subcampo de la inteligencia artificial, son videos, imágenes o audios generados para imitar la apariencia y sonido de una persona, los cuales son generados de modo artificial, y son tan convincentes y realistas, casi imperceptibles al ojo humano, confundiendo el contenido con uno real.
Este tipo de inteligencia con contenido sexual explícito se ha convertido en una herramienta de violencia digital. Según datos de organizaciones especializadas en ciberseguridad, más del 90% de los deepfakes publicados en plataformas en línea tienen como objetivo a mujeres, muchas de las cuales desconocen que su imagen ha sido manipulada. Estos videos no solo atentan contra la privacidad, sino que generan graves daños psicológicos, sociales y profesionales a las víctimas.
Este fenómeno ha crecido de forma exponencial, de hecho, más del 98 por ciento de los deepfakes en internet son pornográficos, siendo en su mayoría víctimas las mujeres, 7 de los 10 principales sitios web de pornografía albergan deepfakes, entre 2022 y 2023, la cantidad de pornografía deepfake creada aumentó un 464 por ciento.
Y aunque en México, crear o difundir videos sexuales falsos usando IA puede considerarse violación a la intimidad sexual, dentro del marco de la violencia digital impulsada por la Ley Olimpia, es imperativo, dada el crecimiento sin control que esta teniendo este tipo de contenido, realizar modificaciones que sean mucho más encaminadas a inhibir este delito.
La propuesta que he presentado ya ante el Poder Legislativo, busca que se considere como delito la utilización de inteligencia artificial para la creación, manipulación y distribución de videos, audios, imágenes e impresiones con contenido íntimo sexual de una persona sin su consentimiento.
Es urgente legislar para prevenir, sancionar y erradicar la creación y difusión de contenido deepfake que vulnera los derechos de las mujeres, ya que como hemos visto, la falta de regulación específica sobre este fenómeno perpetúa una cultura de violencia digital, normaliza la objetivación de las mujeres y refuerza estereotipos de género dañinos.
Y es que, si bien la Ley Olimpia zanjó un fenómeno que se estaba volviendo complejo, lo cierto es que esa ley fue diseñada para casos donde existe contenido íntimo real (foto o video auténtico), y el tema con la IA, es que el contenido puede ser completamente falso, creado a partir de una sola foto del rostro, por lo que no hay actualmente un tipo penal claro para sancionar la conducta, lo que provoca que los fiscales tengan dificultades para encuadrar el delito en violación a la intimidad sexual, de ahí que resulte necesario incluir explícitamente imágenes o videos generados con IA dentro del delito.
Un marco normativo claro no solo protegerá a las víctimas, sino que también enviará un mensaje contundente contra la violencia de género en el entorno digital. En el marco del 8M, es importante seguir avanzando en leyes que ataquen este tipo de tecnologías y no permitir que pasen años para ponerles un alto.