El uso no autorizado de asistentes de programación con inteligencia artificial generativa (GenAI) se reportó en 75% de las organizaciones, mientras que la mitad detectó que sus empleados accedían a plataformas públicas de agentes de AI, de acuerdo con Gartner.
Los datos forman parte de un análisis publicado el pasado 30 de septiembre por la firma de investigación, que advierte sobre los riesgos de los agentes de AI en ciberseguridad que operan fuera de los mecanismos corporativos de supervisión.
El fenómeno, conocido como shadow AI, incluye herramientas integradas en aplicaciones empresariales, servicios utilizados directamente desde internet y agentes creados por empleados para automatizar tareas.
La adopción de estas soluciones plantea un reto para los equipos de ciberseguridad, que necesitan identificar qué herramientas operan dentro de la organización y qué permisos tienen, sin bloquear indiscriminadamente su uso.
Índice de temas
Riesgos de agentes de AI en ciberseguridad corporativa
El vicepresidente y analista de Gartner, Jeremy D’Hoinne, señaló en una publicación de blog que estos agentes pueden surgir de distintas vías, incluidos los avances en vibe coding, una práctica que permite desarrollar software mediante instrucciones en lenguaje natural y asistencia de AI.
“Estos agentes de AI en la sombra adoptan múltiples formas: están integrados en el software empresarial existente, se consumen directamente desde internet o los crean los empleados aprovechando los avances tecnológicos recientes y el vibe coding para mejorar la productividad”, explicó D’Hoinne.
Para Gartner, el riesgo depende de las capacidades de cada agente, su autonomía y los recursos a los que puede acceder. Una herramienta que propone fragmentos de código no tiene el mismo alcance que otra capaz de ejecutar acciones o interactuar con sistemas empresariales.
La firma recomienda clasificar los agentes según su impacto potencial en el negocio, documentar sus permisos y vigilar el uso de interfaces de programación de aplicaciones (API) sensibles para detectar automatizaciones desconocidas.
El análisis también señala que 61% de los profesionales sénior de ciberseguridad encuestados había observado automatizaciones de agentes de AI en software empresarial aprobado. Además, 59% sospechaba que los empleados utilizaban agentes sin autorización o contaba con evidencia de ello.
Cómo gestionar la seguridad frente a la AI en la sombra
Gartner recomienda ampliar las capacidades de descubrimiento de agentes e incorporar sus riesgos de agentes de AI en ciberseguridad a las prácticas de gestión de la postura de seguridad y a los procedimientos de respuesta a incidentes.
La supervisión también debe contemplar el paso de los prototipos a producción. Según la firma, en promedio, 41% de los prototipos independientes de GenAI llega a esa etapa, lo que obliga a revisar los controles cuando estas soluciones comienzan a operar con datos y procesos empresariales.
Para CIO y CISO, el objetivo es mantener visibilidad sobre estas herramientas, evaluar sus permisos y aplicar controles proporcionales al riesgo que representan.
