Hace 25 años llegó a la pantalla grande la película A.I. Inteligencia Artificial de Steven Spielberg. La historia narra el tétrico viaje de David, un niño robot que es adoptado por dos humanos para sustituir a su hijo: un niño que está en coma. En la historia, el niño robot es programado para amar incondicionalmente a su madre adoptiva y en su obsesión por ser aceptado, busca angustiosamente ser lo más humano posible. El guion, inicialmente concebido por Stanley Kubrick —a quien la muerte alcanzó antes de la filmación— plantea dilemas que a principios de siglo parecían de ciencia ficción y que ahora forman parte de un debate público.
La sustitución de lo humano, la responsabilidad pública de los creadores de máquinas “inteligentes”, o la amenaza de un mundo híper tecnológico que profundiza las desigualdades, son algunas de las alertas que lanzó la semana pasada el panel científico internacional independiente sobre Inteligencia Artificial (IA) de la Organización de las Naciones Unidas. El avance acelerado de esta tecnología supera la capacidad social de respuesta. Mientras se abren oportunidades para mejorar la educación, los diagnósticos en salud, la precisión en intervenciones quirúrgicas y la seguridad pública, se amplía la desigualdad. El 85% de las herramientas de IA es propiedad de empresas de Estados Unidos y China. En contraste, el sur global es un simple consumidor y el 25% de la población mundial carece de acceso a internet.
En combate a la corrupción, la automatización de pagos, trámites y servicios, la IA ha limitado lo que se conoce como “corrupción de ventanilla” —es decir, los sobornos o mordidas en pagos de trámites y servicios—. Incluso ha permitido la creación de herramientas como Alice, el robot brasileño diseñado por la Contraloría General de la Unión de ese país para monitorear procesos de compras públicas y contratos. Según un informe de la Organización para la Cooperación y el Desarrollo Económicos (OCDE), sólo entre 2019 y 2022 Alice detonó 203 auditorías que suspendieron licitaciones sospechosas por un monto equivalente a mil 750 millones de dólares.
Activo desde 2017, el sistema PREVENT de la Agencia de Integridad Nacional de Rumania, analizó más de 117 mil procesos de compra pública y emitió 197 alertas por potenciales conflictos de interés. Desde el 2006, la Comisión de Comercio Justo de Corea desarrolló el Sistema de análisis de indicadores de manipulación de licitaciones (BRIAS por sus siglas en inglés) que analiza anomalías en el registro de compañías, precios y perfiles empresariales en licitaciones públicas.
Estos avances contrastan con nuevos dilemas: el primero es la calidad de los datos. La tendencia a confiar ciegamente en los resultados “neutrales” de los sistemas evita reconocer sesgos en su programación. El caso más citado es el sistema de contrataciones de personal de Amazon, cuyo algoritmo excluía sistemáticamente a mujeres y a personas racializadas.
Otro riesgo es el de la “captura algorítmica”: que funcionarios manipulen los datos para favorecer intereses particulares.
Finalmente, está la vulneración de derechos humanos. El panel de expertos lo señala en su informe: las asimetrías de información entre los ciudadanos —cuya comprensión avanza a un ritmo más lento que el del mercado— y la falta de rendición de cuentas sobre las consecuencias del uso de la IA, abre la puerta a la vulneración de derechos fundamentales. El poder de gestión de la IA en pocas manos puede propiciar el “dividendo del mentiroso”: la ventaja que obtiene, por ejemplo, un gobierno al falsificar datos, suplantar imágenes, y distorsionar la realidad. Esto se ha documentado en contextos electorales, al inhibir el voto o trastocar la equidad de la contienda.
En el siguiente periodo de sesiones se discutirá en la Cámara de diputados una regulación sobre IA en México. De 2022 a la fecha, se han presentado al menos 169 iniciativas en la materia. Para evitar escenas como la “feria de la carne” de la película de Spielberg en donde los excluidos de la clase trabajadora cobran justicia torturando robots, la cuestión no es sólo si prevalecerán los mejores estándares, sino si se adaptarán a la realidad de las instituciones mexicanas.