Solo 5.2% de líderes de tecnología, datos o riesgos tiene plena confianza para explicar decisiones que toma la inteligencia artificial (AI) ante clientes y reguladores.
Además, 71.5% de las decisiones empresariales que afectan a clientes todavía se toman sin esta tecnología, de acuerdo con el estudio State of Responsible AI 2026, elaborado por la firma de investigación de mercado Corinium Global Intelligence por encargo de FICO, empresa de software de analítica y gestión de decisiones.
El informe, publicado el pasado 7 de octubre, recoge las respuestas de 1,004 directivos de siete industrias. Dos terceras partes de los participantes se encontraban en norteamérica, por lo que ofrecen una perspectiva internacional sobre la adopción de AI y no constituyen una medición específica del mercado mexicano.
Aunque 85.1% afirmó que la AI había cumplido o superado sus expectativas de retorno de inversión (ROI), su incorporación en decisiones de negocio sigue enfrentando obstáculos.
El director de Analítica de FICO, Scott Zoldi, explicó en un comunicado el problema: “La mayoría de las organizaciones puede decir dónde y qué decidió su AI. Muchas menos pueden explicar por qué”.
Índice de temas
La explicabilidad de AI sigue siendo un desafío
El estudio encontró que 37.3% de los encuestados se mantienen neutrales o no tiene confianza para explicar las decisiones tomadas por la AI.
Entre las prácticas con mayor potencial de impacto, 71.9% señaló los estándares para desarrollar modelos y 67.9% las arquitecturas de modelos interpretables. Sin embargo, solo 53.5% afirmó que su organización audita periódicamente los modelos.
La capacidad de justificar los resultados cobra relevancia cuando los sistemas intervienen en decisiones que afectan a clientes y pueden ser objeto de revisión regulatoria. Para los equipos IT, el reto consiste en integrar la explicabilidad y la auditoría en el desarrollo y despliegue de los modelos.
Seguridad e integración frenan los agentes de AI
La adopción de AI agéntica también permanece en una etapa temprana. Solo 2.4% de los directivos afirmó que sus organizaciones habían desplegado agentes ampliamente en casos de uso orientados al cliente, mientras que 71.5% mantenía sus iniciativas en exploración o pruebas piloto.
Entre las principales barreras para obtener ROI con agentes, 40.1% mencionó las preocupaciones de seguridad y 38.3% los problemas de integración o calidad de los datos.
Para los siguientes 18 meses, los modelos de lenguaje especializados por dominio encabezaron las expectativas de retorno, con 49.5% de las respuestas. Les siguieron la AI generativa (GenAI), con 48.7%, y las arquitecturas de modelos interpretables, con 46.6%. Los agentes obtuvieron 27.5%.
La directora de Producción de Corinium Global Intelligence, Lariza Carrera, señaló: “Hace un año, había serias dudas sobre si la AI generaría retornos. Hoy, la principal pregunta que enfrentan los ejecutivos es cómo escalar la tecnología en toda la empresa”.
