En la conversación global sobre inteligencia artificial, abundan las promesas: eficiencia, automatización, reducción de costos. Pero para la discusión verdaderamente estratégica no está en la herramienta, sino en la arquitectura ética que la sostiene.

Elena Estavillo es economista, doctora por la Universidad de París, Harvard ALI Fellow 2023 y fundadora de Centro-i para la Sociedad del Futuro, Estavillo ha dedicado su trayectoria a un tema que apenas comienza a permear: la ética en inteligencia artificial para un futuro sostenible.

Antes de liderar este think tank independiente enfocado en un futuro tecnológico ético, responsable e inclusivo, fue comisionada del Instituto Federal de Telecomunicaciones (IFT). También encabezó la Evaluación de Preparación en IA de la UNESCO en México y formó parte del Grupo de Expertas de la CSW. Su perfil combina regulación, política pública y gobernanza digital con una mirada de largo plazo: cómo evitar que la tecnología amplifique las desigualdades que ya existen.

El sesgo invisible que automatiza la desigualdad

“El principal desafío ético”, explica, “es tener conocimiento suficiente del alcance y las limitaciones de estas tecnologías”. En otras palabras: muchas empresas usan inteligencia artificial sin comprender completamente cómo funciona ni qué reproduce.

Estavillo siempre invita a identificar cómo los sistemas de IA por ejemplo, aquellos que filtran miles de solicitudes de empleo prometen eficiencia y ahorro de tiempo. Pero buena parte de estos modelos han sido entrenados con datos históricos cargados de sesgos: discriminación por género, edad, universidad de procedencia o país de origen. Si no se supervisan, no solo replican esas brechas; las amplifican.

La paradoja es que todo ello sucede en nombre de la innovación, una organización puede estar institucionalizando injusticias, incurriendo en riesgos legales y dañando su propia capacidad de atraer talento diverso. “Es como usar algo sin leer las instrucciones”, dice Estavillo y en inteligencia artificial, advierte, esas “instrucciones” no siempre vienen del proveedor tecnológico: las empresas deben buscarlas activamente, informarse y rodearse de especialistas.

Sostenibilidad: más que carbono

En el imaginario corporativo, sostenibilidad suele asociarse con huella ambiental. Para Estavillo, esa definición es insuficiente.

La sostenibilidad también es social y temporal. Implica modelos de negocio capaces de mantenerse y desarrollarse en el tiempo, con una relación de ida y vuelta con la comunidad. Generar empleo, formar talento local, respetar derechos, comprender a los consumidores. Nada de esto es accesorio: es estructura.

Aquí es donde la ética en inteligencia artificial deja de ser un tema técnico y se convierte en un asunto estratégico. Si una empresa automatiza decisiones —contratación, evaluación de desempeño, segmentación de clientes— con sistemas entrenados en el pasado, corre el riesgo de tomar decisiones que funcionaron hace 50 años para una sociedad que ya no existe.

La sostenibilidad, en cambio, exige capacidad de adaptación y para adaptarse, se necesita diversidad de perspectivas.

Género como lente de futuro

“El mundo es complejo”, insiste Elena Estavillo, y esa complejidad no puede entenderse desde una sola perspectiva. “Con el género tienes la mitad de las perspectivas humanas en un lado y la otra mitad en el otro, y todas sus expresiones. Si no están en la mesa, simplemente no estás viendo hacia dónde va el mundo”.

Sin mujeres en los espacios donde se diseñan productos, algoritmos y estrategias, una empresa —advierte— “no va a estar entendiendo cómo se mueven los hábitos, las prioridades, las nuevas demandas sociales”. No se trata únicamente de justicia social. “Desde un punto de vista puramente comercial, claro que te interesa saber qué están buscando los consumidores y no solamente los hombres compran; las mujeres también compramos y mucho incidimos en decisiones de compra importantísimas”.

Las organizaciones que aspiran a mantenerse vigentes necesitan comprender esas dinámicas. “Los bienes y servicios tienen que ser relevantes para los consumidores. ¿Y cómo los vas a entender si no están representados en tu fuerza de trabajo?”, cuestiona. Si quienes deciden los nuevos negocios no incluyen diversidad de género, “vas a estar diseñando para una sociedad que ya no existe o para una versión incompleta de ella”.

Desde esta óptica, género, sostenibilidad y ética en IA no son agendas paralelas: “no es que tengan algo que ver; es que se cruzan todo el tiempo”. Una inteligencia artificial mal diseñada puede cerrar oportunidades a mujeres en sectores técnicos, reproducir discriminaciones históricas y amplificar brechas. En cambio, “una buena gobernanza puede asegurarse de que estos sistemas aprendan del entorno actual y reaccionen a los cambios, no que repitan decisiones que funcionaron hace 50 años”.

La infraestructura invisible

La inteligencia artificial es visible: plataformas, dashboards, métricas de eficiencia. La ética, en cambio, es una infraestructura invisible. “No se ve en la interfaz, pero es lo que asegura que la organización vaya hacia el camino que ha determinado que quiere seguir”.

Para Elena Estavillo, integrar ética de IA en la agenda de sostenibilidad no es una tendencia pasajera, sino una condición para la supervivencia empresarial en el largo plazo. “La sostenibilidad no es para este año o para el mes que entra; implica una mirada de futuro” y esa mirada exige responsabilidad en cómo se automatizan decisiones.