La Inteligencia Artificial (IA) sigue ganando terreno como el motor que determina los procesos de operación de las empresas del sector privado. Este fenómeno se manifiesta más en las corporaciones innovadoras que buscan integrar plataformas de IA, a fin de tener mejores mecanismos de ejecución y rentabilidad. La contratación de personal no es la excepción.
Básicamente los sistemas inteligentes aprenden de los datos almacenados en el software inicial y continuan aprendiendo continuamente de la interacción con el usuario. En este sentido, es importante identificar que estas herramientas inteligentes nos pueden ayudar mucho en diversos procesos de la producción y operación administrativa, pero sin duda, también tienen limitaciones, debilidades y riesgos, porque no cuentan con otros elementos claves como la percepción, intuición y emociones que son propios de la naturaleza humana, y que han demostrado a lo largo de millones de años de evolución, que han sido factor relevante para el éxito.
Un botón de muestra: la compañía Amazon desarrolló en el 2014 una herramienta de IA para facilitar su proceso de contratación; un proyecto que abandonaron años después, creo que por buenas razones.
Según diversos informes, descubrieron que la IA mostraba un sesgo de contratación desfavorable hacia las candidatas mujeres, ya que había sugerido la incorporación predominantemente de hombres. Los ingenieros responsables para desarrollar el programa, señalaron que lo que se buscaba era establecer un parámetro de calificación para los currículums (de 1 a 5 estrellas) y así resaltar los más “adecuados” a los estándares del sistema. Cómo se observa es demasiado subjetivo el planteamiento y con ello se discrimina en este caso por razón de género.
Otro ejemplo que señala los sesgos de las plataformas de IA es el estudio realizado por ProPublica en el 2016 sobre el uso de softwares inteligentes para evaluar la probabilidad de que los acusados en juicios penales reincidan en conductas delictivas. Una de estas plataformas que es la más utilizada por el poder judicial en los Estados Unidos, tiene el honroso récord de tener el mayor número de disparidades raciales, dado que el algoritmo consideraba que las personas afrodescendientes tenían más probabilidades de ser etiquetados como de “mayor riesgo”, mientras que los acusados blancos a menudo eran identificados como de “bajo riesgo”, Sesgos con claras muestras de discriminación, violatorios de otros derechos constitucionales, como la presunción de inocencia o igualdad jurídica frente a la ley, entre otros.
En la ciudad de NY, recientemente se aprobó la ley local 114, que busca regular el uso de herramientas automatizadas en procesos de contratación de personal. Esta legislación permite a los solicitantes de empleo optar por no ser evaluados por algoritmos de IA al compartir sus currículums. Dicha restricción solamente aplica para oficinas físicas que se encuentren en la Ciudad de Nueva York que ofrecen trabajo a personas que se sitúen en la ciudad o (en sistema remoto) que el puesto se encuentre relacionado a una oficina en la ciudad. Al menos es un medio que intenta controlar y limitar los posibles excesos de un algoritmo mal diseñado y que puede afectar negativamente muchas vidas profesionales hacia el futuro.
NY tiene una de las legislaciones pioneras en el mundo, que obliga a una mayor transparencia por parte de los ingenieros en cuanto a la información con la que programan el software y algoritmo. Nada mal porque ofrece elementos para denunciar y eventualmente demandar daños y perjuicios en casos de lograr identificar sesgos que discriminen a las minorías.
Seguramente la Ley Local 114 no es suficiente para evitar los abusos y errores del algoritmo por vía de la IA, pero al menos es una luz de esperanza, con la cual podemos defendernos frente a una actividad y acción que está casi en total impunidad y forma parte de la mayor parte de nuestros entornos de vida.
¿Qué nos queda? Seguir exigiendo responsabilidad de los sistemas de la IA, que son dirigidos por los ejecutivos de la empresas y operados por los ingenieros programadores. A la espera de mejores momentos, recurrir al sentido común y usar los beneficios de la IA con cautela y prudencia. Con más inteligencia racional que artificial.
Cónsul General de México en NY.
@Jorge_IslasLo
