Hoy somos, mucho más que antes, consumidores de información. Cuando navegamos en Tik Tok o Instagram, lo que vemos, y leemos es información. Nos olvidamos un poco de tocar, oler, y degustar. La información entra por el canal cognitivo de las personas, pero tiene interacción con las emociones y las relaciones sociales. Cuando vemos un video en YouTube o una serie en Netflix, no sólo es la imagen sino también evaluamos los datos asociados, tales como la calificación de otros usuarios, el número de vistas o la duración del video. Cuando buscamos algún taxi de aplicación, revisamos la reputación del conductor y ellos revisan la nuestra.
Cuando utilizamos una herramienta como el ChatGPT o DeepSeek, lo que recibimos como respuesta a un comando o ‘prompt’, es 100% información. Los chats de inteligencia artificial son entrenados con volúmenes masivos de información y no tenemos claro de dónde viene esa información, pero lo que sí sabemos es que esa información está sesgada. Veamos.
Algo curioso al utilizar los chatbots conversacionales es que atribuimos una certeza a sus respuestas casi incuestionable. Esto parece ser resultado de que la computadora es capaz de procesar más información en menos tiempo que un humano. Y esto es correcto. Sin embargo, la información que se utiliza para entrenar a los chatbots tiene sesgos. Es decir, privilegia cierta información mientras que deja otros tipos de información fuera. Un estudio reciente identifica que el sistema ‘Stable Difussion’ genera contenido -fotografía e imágenes- que sobre representa las imágenes de hombres de tez blanca cuando se les pide generar imágenes de profesionistas exitosos o de alto ingreso. Al exponer estas imágenes a un grupo de personas, otro estudio encontró que los sesgos de las personas se amplificaron. Esto puede tener consecuencias graves, si las personas están eligiendo candidatos para ocupar vacantes o si las personas son médicos diagnosticando enfermedades. No sólo los chatbots de inteligencia artificial generativa tienen sesgos, sino que hacen que empeoren los sesgos de las personas. Si pensamos que la interacción con los chatbots es continúa, tenemos la receta perfecta para empeorar la toma de decisiones.
Algo interesante, es que la interacción humano-humano, muestra menos tendencias al sesgo que la interacción humano-chatbot. Parece ser que somos más flexibles al discutir asuntos con humanos y que al interactuar con los chatbots, adoptamos una actitud más racional, que se relaciona con esas respuestas limpias y precisas que recibimos de los chatbots, a diferencia de las respuestas humanas que son a veces caóticas y ruidosas.
Desde su lanzamiento hace como más de dos años y a la fecha, los chatbots de inteligencia artificial generativa han producido más imágenes que las que han producido los humanos en toda la historia. Estas imágenes abundan ya en las redes sociales y páginas de Internet. Entonces, el problema de los sesgos en la toma de decisiones debe atenderse con cuidado.
En la gestión de negocios, la toma de decisiones es el pan de todos los días, por lo que es necesario considerar el rol de los chatbots. En el análisis de grandes volúmenes de información, los chatbots pueden ser buena idea, pero en cuestiones de percepción y juicio de negocio, tal vez no sea tan buena idea ‘delegar’ esas actividades a un chatbot. Además, como toda tecnología de negocio, es necesario identificar claramente cuándo y dónde la tecnología genera resultados óptimos. En otro momento hablé de cuándo un taxi de aplicación nunca respondió a mis llamadas ni mensajes y la empresa me cobró injustamente por cancelar cuando el taxi nunca apareció; es decir, es imperativo considerar la percepción del cliente. Finalmente, también es necesario considerar el retorno de la inversión de la tecnología. Por más ‘de moda’ que esté una tecnología, el negocio la utiliza para reducir costos o para generar ingresos. Es necesario pensar en el retorno de la inversión para casos procesos específicos de negocio, su rentabilidad y de ahí tomar la decisión de adopción. El museo de la tecnología de negocios está repleto de casos donde se compró un sistema por moda y nunca dio los resultados esperados. Los mercadólogos necesitan considerar las múltiples aristas de la tecnología en lugar de dejarse dejar por las modas.
Académico de la Facultad de Economía y Negocios de la Universidad Anáhuac México
Email: pavel.reyes@anahuac.mx
