Bruselas.— La era de la Inteligencia Artificial (IA) ha comenzado y el entusiasmo global que hay en gobiernos, empresas y artistas por desarrollar herramientas tiene el potencial de transformar la vida cotidiana.
Sin embargo, junto a la algarabía reflejada en inversiones multimillonarias —Estados Unidos ha prometido 500 mil millones de dólares y la Unión Europea (UE) 200 mil millones de euros— hay una corriente de pesimismo que pide poner atención no sólo en las oportunidades, sino también en los retos.
La IA desde una perspectiva de género plantea múltiples desafíos. Si bien es una infinita ventana de oportunidades en términos de innovación, eficiencia y creatividad, puede suponer una amenaza a la estabilidad económica, la seguridad personal y las normas sociales, aunque los riesgos son desproporcionadamente más elevados para las mujeres.
Lee también: Mujeres, víctimas del regreso de Trump a la Casa Blanca
La organización dedicada a promover la igualdad de género y el empoderamiento, ONU Mujeres, lo ilustra de la siguiente manera: “Imagínese recibir un mensaje de un desconocido con detalles escalofriantes sobre tu rutina diaria. O piensa en la angustia de descubrir que tus imágenes han sido alteradas digitalmente para convertirlas en contenido explícito y difundirlas por internet”.
La violencia en línea contra mujeres y niñas no es un fenómeno nuevo, la difamación, el acoso, la incitación al odio, la suplantación de identidad, el hostigamiento, el astroturfing (un esfuerzo coordinado para compartir simultáneamente contenidos perjudiciales en diversas plataformas) y el doxing (revelación intencional de información personal), son realidades aterradoras para millones de usuarias digitales.
A esta lista se agregan fenómenos más recientes, como los “desnudos falsos” y la “pornografía vengativa”, creados a partir de una técnica digital que puede influir sobre ambientes reales o virtuales. Entre las múltiples víctimas está la congresista demócrata estadounidense, Alexandria Ocasio-Cortez, quien durante una conversación con su equipo se enteró de que su rostro había sido transpuesto en una simulación de “pornografía deepfake” generada por inteligencia artificial y publicada en redes sociales.
El Institute of Development Studies de la Universidad de Sussex, Reino Unido, estima que entre 16% y 58% de las mujeres han experimentado violencia de género facilitada por la tecnología.
Sin embargo, lo peor podría estar por venir debido a que la tecnología supone una amenaza única sobre la seguridad personal de las mujeres. Lo que hoy es un problema que afecta a unas, mañana puede serlo de muchas, por la falta de medidas de “seguridad por diseño” en los modelos de la IA, alertan múltiples instancias, desde la Capitol Technology University, hasta el ministerio de Exteriores de Francia.
“Tal vez la amenaza más importante a la que se enfrentan las mujeres con la aparición de la IA está relacionada con sus efectos sobre la seguridad personal. Los deepfakes, medios manipulados generados por la IA que pueden crear videos, imágenes y audio realistas, pueden convertirse en armas para mostrar a las mujeres en situaciones comprometidas o falsificadas”.
“El potencial de violación de la privacidad, el daño a la reputación, la manipulación política y la angustia emocional asociados a los deepfakes es una de las cuestiones políticas más apremiantes a las que se enfrentan los legisladores hoy en día”, sostiene en una publicación la Capitol Technology University.
Esta disciplina de la computación también puede profundizar la desigualdad de género, al tener el potencial de amplificar los sesgos y la discriminación, debido a que se nutre de datos llenos de estereotipos, sostiene Zinnya del Villar, titular de la unidad de Datos, Tecnología e Innovación de Data-Pop Alliance, plataforma de investigación creada por instancias como el Overseas Development Institute del Reino Unido.
Si se delegara a la computadora el poder de elección del personal para un puesto específico, es probable que tome decisiones sesgadas al momento de filtrar las solicitudes; podría interpretar que los hombres y las mujeres tienen capacidades distintas para determinadas funciones con base a realidades y la información existente en la red. Por ejemplo, las mujeres ocupan sólo 29% de las posiciones de desarrollo científico, según la UNESCO, mientras que en el ámbito de la enfermería la situación es inversa, pues más de tres cuartas partes son mujeres en la Unión Europea.
Además los algoritmos de IA son más propensos a perpetuar los prejuicios contra las mujeres de color, LGBQ, con discapacidad y de bajos ingresos.
“Esta situación se denomina sesgos de género en la IA, es decir, cuando la IA trata a las personas de manera diferente según su género porque es lo que aprendió de los datos sesgados con que se alimentó”, explica Zinnya del Villar en un documento divulgado por ONU Mujeres.
Igualmente, hay inquietud en el ámbito de la salud. Los sistemas sanitarios basados en esta tecnología pueden perpetuar la desinformación y el estigma en torno a los problemas de salud de las mujeres, diagnosticar erróneamente enfermedades o restar importancia a los síntomas basándose en datos sesgados. La exposición de información confidencial, por ejemplo, sobre fertilidad o salud sexual, es otro peligro potencial identificado por la Organización Mundial de la Salud (OMS).
La rápida integración al mundo del trabajo mejorará la productividad y generará nuevas oportunidades laborales, pero al mismo tiempo provocará la desaparición de empleos. La Brookings Institution señala que el consenso entre varios investigadores es que gran parte del impacto negativo recaerá en las mujeres.
Una investigación divulgada en 2023 por McKinsey Global Institute determinó que la mayor parte de los empleos que se perderán por la introducción de sistemas basados en máquinas afectarán a mujeres sin educación universitaria, debido a que se ocupan mayoritariamente de los puestos de nivel básico que probablemente se verán más afectados por la automatización.
Ocupaciones como las de auxiliar administrativo, personal de finanzas y cajero en bancos y supermercados ya están sufriendo recortes de empleo. La tendencia es hacia una amplificación conforme se generaliza entre los diversos sectores.
Si bien los sistemas emergentes de la IA elevan aún más los desafíos ya existentes para las mujeres, sus impactos aún son evitables, aseguran académicos e instancias internacionales, como la Organización para la Cooperación y el Desarrollo Económicos (OCDE) y la UNESCO.
Insisten en que hay que tomar las oportunidades y ser proactivos apuntando a objetivos como mejorar la participación de la mujer, fortalecer sus capacidades y la conciencia ciudadana. En concreto, recomiendan aumentar la tasa de mujeres en los emprendimientos y la innovación para que el desarrollo de la IA sea inclusivo y potencialmente resultado de una multiplicidad de empresas y no, como en la actualidad, sólo de unos pocos actores, entre otros, Mistral AI, Gemini, ChatGPT y DeepSeek.
Consideran urgente aumentar la tasa de mujeres en los equipos de IA, así como educar a los varones en el sector de tecnología sobre los sesgos de género, para que puedan evaluar con un lente de género los datos, los diseños y los contextos sociales en los que se toman las decisiones algorítmicas.
Los datos disponibles en la UNESCO y la OCDE muestran que las mujeres sólo representan 6% de los desarrolladores profesionales de software, 12% de los investigadores de IA, 18% de los autores en las principales conferencias en la materia y 20% de los trabajadores en los puestos técnicos de las principales firmas.