Empresas buscan entender las decisiones de la inteligencia artificial

Las empresas están cambiando el enfoque sobre el uso de inteligencia artificial: ya no sólo buscan automatizar tareas o elevar la productividad, sino también entender por qué los algoritmos generan determinadas recomendaciones cuando éstas comienzan a influir en decisiones reales del negocio.

Este cambio está impulsando la llamada inteligencia artificial explicable o XAI (Explainable Artificial Intelligence), un enfoque orientado a hacer visible el proceso mediante el cual los modelos llegan a sus conclusiones.

La XAI busca identificar qué información utiliza un algoritmo, cuáles son las variables que tienen mayor peso y por qué una determinada combinación de factores deriva en una recomendación. El objetivo es reducir la denominada “caja negra” de los modelos y permitir que las compañías evalúen sus resultados antes de convertirlos en decisiones.

El tema cobra relevancia conforme aumenta la adopción de estas tecnologías en América Latina. De acuerdo con el Índice Latinoamericano de Inteligencia Artificial (ILIA) 2025, elaborado por la CEPAL y el Centro Nacional de Inteligencia Artificial (CENIA), la región representa entre 15 y 20 por ciento del mercado mundial de descargas de aplicaciones de IA generativa.

Sin embargo, los 19 países analizados concentran apenas 1.12 por ciento de la inversión global en inteligencia artificial.

“Una IA puede entregar un resultado preciso, rápido y convincente, pero eso no significa necesariamente que sepamos si es correcto para una situación determinada”, señaló Federico dos Reis, CEO de INFORM para Latinoamérica.

El ejecutivo consideró que, conforme los sistemas comienzan a intervenir en decisiones empresariales, resulta necesario conocer los elementos que sustentan sus recomendaciones y evaluar sus posibles limitaciones.

De la recomendación a la explicación

La utilidad de la IA explicable aumenta en operaciones donde las decisiones dependen de múltiples variables.

Por ejemplo, una empresa podría contar con inventario suficiente para cubrir sus pedidos y recibir de un sistema la recomendación de adelantar una compra. Sin una explicación, el usuario sólo tendría una instrucción; con un modelo explicable podría identificar si la alerta responde a un incremento en los tiempos de entrega de un proveedor, un cambio en la demanda o una reducción en la disponibilidad de fuentes alternativas.

El mismo principio puede aplicarse a la planeación de operaciones. Si una inteligencia artificial propone modificar una secuencia de producción, la explicación permitiría determinar si el objetivo es reducir tiempos de espera, evitar un cuello de botella, proteger un envío prioritario o liberar capacidad.

Para las empresas, esta información puede ser determinante para validar si la recomendación del algoritmo realmente responde a las condiciones del negocio.

Explicabilidad, un riesgo para las empresas

La necesidad de comprender el funcionamiento de los sistemas de IA también aparece entre los principales riesgos identificados por las compañías.

Una encuesta de McKinsey realizada en 2024 encontró que 40 por ciento de los participantes consideró la explicabilidad como un riesgo relevante asociado con el uso de inteligencia artificial generativa. Sin embargo, sólo 17 por ciento señaló que estaba trabajando activamente para mitigarlo.

El desafío no consiste únicamente en conocer el resultado producido por un modelo, sino en contar con elementos suficientes para determinar si las variables utilizadas son pertinentes y si los supuestos sobre los que trabaja continúan siendo válidos.

La decisión final permanece en manos de las personas

La inteligencia artificial explicable tampoco elimina la posibilidad de errores. Un modelo puede mostrar claramente las variables que utilizó para llegar a una conclusión y, aun así, trabajar con información incompleta, objetivos incorrectos o supuestos que ya no corresponden con la realidad.

Por ello, la XAI no busca sustituir el criterio humano, sino proporcionar más información para evaluar una recomendación, identificar sus limitaciones y determinar si resulta adecuada para un contexto específico.

“El juicio humano sigue siendo esencial, porque solo las personas pueden ponderar las consecuencias en su contexto, considerar prioridades contrapuestas y decidir qué es apropiado en una situación determinada”, afirmó dos Reis.

El ejecutivo agregó que las empresas necesitan avanzar hacia modelos de inteligencia artificial que, además de automatizar procesos, permitan establecer mecanismos de supervisión y mantener la decisión final bajo control humano.

Con ello, el reto para las compañías comienza a desplazarse de una pregunta centrada en cuánto pueden automatizar hacia otra relacionada con cuánto pueden comprender, cuestionar y confiar en las decisiones que sus sistemas de inteligencia artificial ayudan a tomar.