La inteligencia artificial dejó de ser una simple herramienta de apoyo para convertirse en un participante cada vez más relevante dentro de la toma de decisiones empresariales. De acuerdo con el estudio The Calculus of AI Sovereignty del IBM Institute for Business Value, a principios de 2026 los CEOs estimaban que la IA ya intervenía en el 25% de las decisiones operativas de sus organizaciones, y esperan que esa proporción alcance el 48% para 2030.
Ese avance plantea una pregunta que comienza a trascender a los departamentos de tecnología para instalarse en las áreas de negocio y en los consejos de administración: ¿quién debe responder cuando una decisión tomada o recomendada por una IA genera una pérdida económica, discrimina a una persona, utiliza información incorrecta o afecta a un cliente?
Para Liliana Palestina, CTO de Bluetab México, la respuesta parte de un principio fundamental: la tecnología puede ejecutar o recomendar una decisión, pero la responsabilidad permanece en la organización. “La IA no tiene criterio ni empatía, por lo que las empresas deben mantener la responsabilidad y supervisión sobre las decisiones en las que intervienen. La IA es una herramienta y, cuando una decisión automatizada afecta a un cliente, es fundamental contar con mecanismos claros de control, trazabilidad y supervisión humana.”
El comunicado de Bluetab (by IBM), compañía internacional especializada en IA y Big Data, aborda precisamente la responsabilidad de las empresas ante las decisiones tomadas por estos sistemas, el riesgo de las llamadas “cajas negras”, cómo auditar sus decisiones y qué procesos nunca deberían automatizarse por completo.
El riesgo de la caja negra
Actualmente, la IA puede participar en actividades que van desde aprobar determinados créditos y optimizar rutas logísticas hasta recomendar productos. Sin embargo, cuando la automatización alcanza decisiones relacionadas con personas —por ejemplo, contratación, acceso a financiamiento o atención médica— aumenta el riesgo de reproducir errores o sesgos a escala.
Ahí aparece el denominado problema de la “caja negra”: entra información y sale una decisión, pero la organización no necesariamente puede explicar cómo se llegó a ella. Según el estudio de IBM citado en el comunicado, solo el 9% de los ejecutivos a nivel global afirma tener un conocimiento excelente de las dependencias de IA de su organización, mientras que el 71% señala que cambiar de proveedor o modelo principal sería difícil.
El documento también advierte que solo el 10% de los ejecutivos comprende completamente de qué proveedores, modelos e infraestructuras depende su IA, lo que genera una preocupante brecha de control. Esa falta de visibilidad complica responder con claridad cuando un sistema automatizado falla o produce un resultado injusto.
Frente a ese escenario, el análisis de Bluetab subraya la necesidad de que las empresas mantengan mecanismos de control, trazabilidad y supervisión humana sobre las decisiones en las que interviene la IA, así como de auditar sus decisiones y definir qué procesos nunca deberían automatizarse por completo.
La conversación, según el propio comunicado, ya no es solo técnica: involucra a las áreas de negocio y a los consejos de administración, que tendrán que definir quién asume la responsabilidad cuando la IA se equivoca.
Imagen: Foto de Pavel Danilyuk en Pexels
