A fines del año pasado, Ana M. se tomó unas selfies desnuda y se las envió por WhatsApp a Marcos, su novio. Un par de meses después, ambos tuvieron una fuerte discusión y Ana decidió cortar a Marcos. No pasó ni una semana cuando Ana se enteró de que sus fotos ahora corrían por Facebook y de que, por lo tanto, era una víctima más de violencia digital de género.
“Éste es uno de los delitos digitales o ciberdelitos que han cobrado más fuerza en tiempos recientes. Por fortuna hace poco se aprobó en México la ley Olimpia, que castiga con penas de tres a seis años de cárcel a las personas que ejerzan violencia digital en contra de las mujeres. Esta violencia incluye la difusión, a través de las redes sociales, de videos, fotos y audios con contenido sexual, sin el consentimiento de quien aparece en ellos”, dice Laura Márquez Martínez, integrante de la Línea de Investigación de Derecho e Inteligencia Artificial (LIDIA) en el Instituto de Investigaciones Jurídicas de la UNAM.
Por lo que se refiere a videos y fotos, para evitar que sigan circulando se recurre al algoritmo (programa informático que permite resolver un problema) usado por cada empresa que maneja una red social con el objetivo de controlar su funcionamiento.
También lee: Denuncian a funcionario por incurrir en el delito de violencia digital en Quintana Roo
“De este modo, el algoritmo detecta ciertas características asociadas a determinadas partes del cuerpo, entre ellas la vagina y el pene, así como ciertos grados de desnudez, y ‘esconde’ las imágenes que les den cabida”, indica Márquez Martínez.
Ahora bien, el contenido sexual —esto es importante señalarlo— no sólo tiene que ver con los órganos sexuales, sino también con otros elementos, por ejemplo, algún fluido corporal en la cara de una persona.
“En este caso específico, el algoritmo no detecta ninguna anormalidad, por lo que, desgraciadamente, la imagen continúa divulgándose por las redes sociales”, explica Márquez Martínez.
En cuanto a las conversaciones escritas, se utiliza otro algoritmo para detectar patrones específicos que surgen sobre todo en las que personas adultas mantienen con menores de edad para tratar de obtener de ellos, por medio de engaños, alguna satisfacción sexual (esta práctica es conocida en inglés como grooming).
También lee: Ley Olimpia, primer paso para erradicar violencia digital en México: Inai
Detección reactiva o proactiva
El hecho de subir a las redes sociales imágenes con contenido sexual sin el consentimiento de quien aparezca en ella se considera, desde el punto de vista legal, un acto consumado y puede sancionarse de inmediato.
Sin embargo, si se trata de una conversación en la que se ejerce violencia digital en contra de un menor de edad, las cosas no son tan sencillas. La detección de una conversación de esta índole puede ser reactiva o proactiva.
“La reactiva implica que no es posible perseguir y sancionar a nadie hasta que se cometa el delito, o sea, hasta que, instigado por su acosador, un menor de edad se tome una foto, por ejemplo, y se la envíe. La proactiva, en cambio, implica actuar antes de que se cometa el delito, con base en la evidencia de que la conversación va en ese sentido. En este caso, la pregunta para el derecho penal es si hay un acto delictivo que perseguir y si puede ser sancionado antes de que realmente se haya cometido. Lo fundamental, por otro lado, es que, mediante la detección de cierto tipo de información, la inteligencia artificial puede ayudar a prever un delito y, por consiguiente, a impedir que se lleve a cabo.”
También lee: Experto en cibernética apoya a mujeres en Oaxaca; ponen precio a su identidad
Área de oportunidad
En opinión de Márquez Martínez, la regulación tanto de las redes sociales como de Internet no funciona cuando es emprendida solamente por el Estado.
“En Estados Unidos, un país con muchísimos recursos económicos, una gran cantidad de miembros de la policía cibernética se dedica a hacer análisis de datos para detectar pornografía infantil en la web, pero su esfuerzo resulta insuficiente porque la información que se genera constantemente allí es enorme. Por eso se han establecido convenios de colaboración con empresas tecnológicas que usan algoritmos, y así se ha avanzado en la detección de éste y otros ciberdelitos”, apunta.
En México, la policía cibernética —que tiene convenios de colaboración con Twitter y Facebook, aunque no se sabe hasta dónde llegan— dispone de personal capacitado para realizar sus funciones, pero no de la capacidad técnica suficiente. De ahí que las organizaciones de la sociedad civil que apoyan a víctimas de ciberdelitos sexuales reporten que el tiempo de respuesta va de los seis días, lo cual es bastante si se toma en cuenta que una imagen se hace viral en un día, a los seis meses.
“Entonces es urgente desarrollar mayor capacidad técnica y abordar el tema de los ciberdelitos sexuales desde la perspectiva de la justicia. Esto nos toca a los abogados y abogadas. Es un área de oportunidad y exigencia para que aprendamos más sobre estas conductas criminales que han crecido de manera exponencial debido a lo fácil que es acceder a las tecnologías de la información. Los abogados y abogadas debemos meternos en este tema y ser parte del debate que intenta revelar cómo puede modificarse la realidad por medio del derecho y la inteligencia artificial”, finaliza Márquez Martínez.
También lee: Pega a Zona Mixteca violencia digital
Mediante dispositivos electrónicos e internet
Los delitos digitales o ciberdelitos son aquellos actos ilícitos cometidos mediante dispositivos electrónicos (computadoras, tablets, teléfonos móviles, cámaras inalámbricas, etcétera) e Internet. Entre ellos destacan la estafa, la extorsión, la suplantación de la identidad, el hackeo, el acoso sexual y la violencia digital de género.
Frase
“Entre más rápido se detecten en las redes sociales imágenes con contenido sexual que han sido subidas sin el consentimiento de quienes aparecen en ellas y se detenga su difusión, menos daño ocasionarán”. Laura Márquez Martínez. Integrante de LIDIA en el Instituto de Investigaciones Jurídicas de la UNAM