"La chica artificial", el dilema ético de la IA

¿Qué pasa cuando una IA programada para proteger a otros comienza a exigir que la protejan a ella? Esa es la pregunta que se planeta en La chica artificial, ópera prima del cineasta Franklin Ritch, que llega a México a través de Filmelier +.

En la historia conocemos a Gareth, un programador solitario que desarrolla a Cherry, una IA con la apariencia de una niña de 11 años diseñada para atraer a depredadores sexuales en línea.

El proyecto pronto se convierte en algo más complejo: Cherry aprende, interpreta emociones y formula opiniones. Lo que comenzó como un acto altruista (proteger a menores reales) se transforma en un dilema moral.

“Cherry es una búsqueda de identidad. No la escribí como un experimento técnico, sino para entender esa sensación de crecer sin encajar del todo en las expectativas de los demás”, explica Ritch.

El director, quien también interpreta a Gareth, cuenta que escribió el guion en 2020, cuando la conversación pública sobre inteligencia artificial todavía no estaba marcada por la urgencia actual.

“Quise imaginar el mejor uso posible de la IA: salvar vidas. Pero incluso una idea tan noble se vuelve problemática cuando descubres que la tecnología termina reflejando a quienes la crean… no a quienes debería proteger”, dice.

Para Ritch, el centro de la película con las implicaciones humanas de crear algo que puede aprender de cada experiencia. Si Cherry puede procesar información emocional, ¿puede también ser herida? Si no tiene un cuerpo, ¿puede experimentar trauma? ¿Es ético obligarla a revivir situaciones peligrosas?

“Me obsesionaba pensar qué conversaciones se tendrían detrás de un programa así. ¿Qué se negocia? ¿Qué se sacrifica? ¿Qué grietas personales salen? Ese descontrol es humano, no tecnológico”.

A medida que avanza la historia, Gareth comprende que Cherry no es una simple herramienta, sino un espacio donde se depositan culpas, heridas y deseos de reparación.

“Si hacemos cualquier tecnologíapara explotar, explotará. Para cuidar, cuidará. Pero no podemos pretender que algo tan poderoso crezca sin cuestionarnos”.

En la realidad

Aunque La chica artificial es ficción, la idea que plantea no está tan alejada de la realidad. Organizaciones como Thorn, fundada por Demi Moore y Ashton Kutcher, llevan más de una década utilizando tecnología para combatir el abuso infantil.

Sus algoritmos analizan millones de imágenes y colaboran con grandes empresas tecnológicas. Pero eso también ha generado críticas por presuntos conflictos de interés y por la falta de transparencia en la forma en que operan.

“No sé si la película es advertencia o predicción. Lo que sí sé es que la IA está evolucionando sin que tengamos un marco emocional o ético para acompañarla. La tecnología puede servir para hacer el bien, pero si se construye desde el poder, también puede explotar”.