La transformación digital impulsada por la GenAI está redefiniendo el panorama tecnológico, y en el corazón de esta evolución se encuentran los agentes de AI.
Durante su participación en la IT Masters CON Ciudad de México, Paola Villarreal, experta en la materia, destacó la trascendencia de estos sistemas, considerándolos “la nueva evolución de los modelos del lenguaje grande“.
Los agentes de AI se distinguen de los modelos de lenguaje tradicionales (LLM) por su capacidad de ejecutar acciones, mantener el contexto, trabajar continuamente y persistir, a través de métricas de éxito, hasta conseguir sus objetivos.
Estas características únicas, la autonomía y la persistencia, hacen de ellos una herramienta sin precedentes en la historia de la programación y los sistemas.
No obstante, la experta enfatizó que la mera disponibilidad de la tecnología no garantiza su éxito, particularmente en mercados como el mexicano.
La implementación de agentes de AI, a pesar de ser relativamente sencilla en términos financieros, se enfrenta a barreras que trascienden lo técnico. Es fundamental comprender que “el problema se va a volver cada vez menos un problema técnico y mucho más o cada vez más un problema cultural, un problema social”.
Índice de temas
Barreras culturales y de adopción, el mayor freno
El principal obstáculo identificado por Villarreal no es de carácter económico, sino cultural. El cambio cultural dentro de las organizaciones, tanto públicas como privadas, representa el desafío más significativo.
Las áreas de negocio, acostumbradas a métodos de trabajo arraigados, a menudo presentan una “respuesta muy, muy negativa” cuando se introducen modificaciones en sus procesos. Este rechazo se debe a que, con frecuencia, los colaboradores no entienden el proceso completo ni el potencial impacto positivo de la nueva tecnología.
Superar esta inercia requiere una estrategia de gobernanza y capacitación que aligere la carga del cambio cultural.
Para las empresas, el primer paso recomendado es mapear los procesos y casos de uso, priorizando aquellos repetitivos y costosos como candidatos ideales para la implementación de agentes de AI. Posteriormente, es crucial realizar pruebas piloto y definir métricas de éxito claras antes de un despliegue completo.
Sin embargo, la experta advirtió sobre el riesgo de la dependencia de un solo agente para decisiones críticas, sugiriendo la necesidad de “mantener a un humano en el loop” en esta etapa inicial de la tecnología.
Más allá del algoritmo: desafíos éticos y técnicos
Junto a la barrera cultural, existen desafíos técnicos y éticos que deben mitigarse. Uno de los puntos más críticos es la explicabilidad de los modelos de AI. Es complejo, e incluso imposible hoy día, “saber por qué un modelo toma las decisiones que está tomando” , incluyendo qué datos utilizó y cómo llegó a una conclusión específica.
A pesar de los esfuerzos académicos por aumentar la transparencia, estos no siempre son eficientes o prácticos en términos de costo.
Esta falta de trazabilidad se agrava al considerar el sesgo inherente en los datos de entrenamiento, ya que los modelos provienen principalmente de empresas del norte global , lo cual plantea una pregunta fundamental sobre cómo contrarrestar esos sesgos al aplicar los modelos a contextos sociales y regulatorios específicos, como el mexicano.
Desde el ámbito técnico y operativo, la interacción con sistemas legados (‘spaghetti de sistemas’) que carecen de armonización es un reto común.
Villarreal propuso el uso de agentes de AI como middleware o “pegamento” para facilitar el flujo y la comunicación de información entre sistemas dispares con distintas tecnologías y bases de datos. Adicionalmente, la experta abordó la preocupación por la calidad de los datos (‘data no basura’) , señalando que la trazabilidad y la integración de bases de datos son ahora más accesibles y ya no hay “pertexto para no tener buenos datos”.
El verdadero desafío es garantizar que los equipos, aunque potenciados por la AI, sigan contando con la “sabiduría” y la experiencia de ingenieros de datos, ciberseguridad, DevOps y software.
En un contexto de avance acelerado, la experta alertó sobre el riesgo para los gobiernos locales de no generar los datos que requieren estos modelos para integrarse , lo que podría crear un “gap exponencial”. En este sentido, la implementación responsable, que incluye “pensar en la seguridad y la privacidad desde el minuto menos dos” , se considera una ventaja competitiva
