Los retos de la GenAI desde una perspectiva financiera, ética y de talento humano | IT Masters Mag

IT MASTERS CLUB

Los retos de la GenAI desde una perspectiva financiera, ética y de talento humano



Dirección copiada

La segunda reunión del IT Masters Club contó con la participación de 23 líderes IT de grandes organizaciones y el apoyo de AWS México.

Publicado el 6 may 2024

Francisco Iglesias

Director editorial de Netmedia




Casos de uso de inteligencia artificial generativa (GenAI) ya existen en las organizaciones mexicanas. El debate hoy se centra en el uso ético de esta tecnología y la intervención del humano, las áreas del negocio que deben intervenir en estos proyectos y su democratización, así como la elección del socio estratégico que acompañará en este viaje. Al menos, este fue el consenso entre los líderes IT participantes en el debate.

La segunda reunión del IT Masters Club de Netmedia tuvo cupo lleno. Con el apoyo de AWS México se llevó a cabo la mesa redonda “Usos actuales y futuros de la GenAI para adoptar hoy”. Al encuentro asistieron 23 representantes de grandes organizaciones en México.

Al dar la bienvenida, Mónica Mistretta, recordó que se trata de un ejercicio editorial con el propósito de abonar a la comunidad de IT en México a partir de las aportaciones, opiniones e ideas de los participantes.

“Quiero que se sientan en confianza, estamos entre amigos, y que nos compartan sus experiencias, sus miedos, sus desafíos o sus casos de éxito, porque esto enriquece a ustedes y a la comunidad”, apuntó.

Tras casi dos horas de sesión, el arquitecto de soluciones de AWS México, Manuel Quijano, resaltó que todo lo discutido durante la mesa redonda es información muy valiosa que —agregó— compartirá con el liderazgo de la compañía.

“Me da gran satisfacción saber que sus organizaciones, de diferentes verticales, están empezando a experimentar y están encontrando esos casos de uso”, señaló.

Primero un caso de uso, luego la tecnología

Al introducir el tema, Quijano, quien desde hace un año se especializa en inteligencia artificial (AI, por sus siglas en inglés) generativa, destacó que la tecnología debe nacer a partir de un caso de uso y no al revés.

“Necesitamos detectar primero el problema a solucionar y luego viene la tecnología”.

El director IT de PepsiCo México, Fernando Pliego, coincidió en que “es importante identificar qué problema queremos resolver”.

El subdirector de Sistemas de TUM Transportistas Unidos Mexicanos División Norte, Luis Ruiz, señaló que se trata de identificar los casos de uso, no los más complejos, pero sí que hagan la diferencia.

“La adopción de la AI generativa no debe obedecer a la moda. Depende de cada empresa”, comentó Ruiz.

¿Por dónde empezar?

Para la mayoría de los asistentes (56%, según un sondeo digital instantáneo), partir de los pequeños casos de uso en áreas de negocio, es el mejor inicio. De manera que, con base en la experiencia de los empleados que ya están utilizando alguno de los modelos de lenguaje largos (LLM) se promueva una mayor adopción y una cultura de datos

En la experiencia del director de IT y Comunicaciones de Lotería Nacional, Jorge Peralta, esa estrategia fue la que siguió. “Hubo casos individuales de uso que se volvieron proyectos departamentales. Como área de IT no los teníamos, y no hubieran salido sin los usuarios”, dijo y, como ejemplo, habló de lo que sucedió con su centro de contacto, que inició su propio modelo.

Hoy en día, detalló, “lo que estamos haciendo es un modelo de AI con datos propios, que responden las preguntas más frecuentes, mismas que nos quitaban mucho tiempo de atención de los operadores”, relató.

En el mismo sentido habló el CIO de Genomma Internacional, Héctor Curiel. En su experiencia, los pequeños casos de uso en áreas de negocio “son los game changers”. En su caso, abundó, a través de Claude generan y editan sus anuncios. “Contamos con un petabyte de información”.

Las dos respuestas con más votos (17% cada una) a la cuestión de cómo iniciar un proyecto de AI fueron: utilizar herramientas de AI generativa ya disponibles en el sector de pertenencia y seleccionar los mejores modelos para el caso de uso; y proveer datos propios de alta calidad y prompts a los modelos para crear aplicaciones personalizadas.

El CIO del Centro Hospitalario Mac, Jesús Díaz, apoyó la primera. Explicó que trabajan en su primer proyecto, sobre la detección oportuna de cáncer de pulmón. “Es importante partir de una herramienta porque todo mundo cree que sabe qué es AI o GenAI, pero la verdad es que la mayoría no sabe”.

Para Díaz, el orden natural de adopción es “usar una herramienta que ya esté creada, después invertir en entrenamiento, partir de pequeños casos de uso y por último seleccionar los mejores modelos”.

El director del Centro de Investigación en Computación (CIC) del Instituto Politécnico Nacional (IPN), Hiram Calvo, además de coincidir en los pasos, subrayó que “necesitamos empezar a recopilar información particular. Los datos deben de ser propios”.

Entrenar a los equipos para acabar con la resistencia

En el sondeo instantáneo realizado por la moderadora, la respuesta menos popular (11%) fue la inversión en entrenamiento para cultivar las habilidades correctas. El director de Informática de Merck, Eugenio Limonta, argumentó que “seguimos todavía en pañales en cuanto a qué preguntar. Tenemos muchas cosas que todavía hay que entrenar”.

Sobre el entrenamiento, también habló el director de Información y Tecnología digital de Tupperware, Marco Antonio Morán, quien apuntó que existe mucha resistencia al cambio, particularmente en su caso entre la fuerza de ventas. Pese a la cantidad enorme de contenido que tienen, ejemplificó, no quieren usar la AI.

“Si logramos entrenar [a estos equipos], podremos lograr muchas eficiencias”, confió.

La AI democratiza y es reto hasta del negocio

El director de Información digital de AstraZeneca, Pedro Valdés, destacó que la inteligencia artificial democratiza la experiencia y las habilidades. “Cada persona, inconscientemente, se convierte en un científico de datos. Y esto lo hace más complejo”.

Por su parte, el director de Tecnología y Operaciones de Organización Sahuayo, Jorge García, advirtió que la GenAI no sirve para todo.

“Hay ciertos problemas de negocio que son evidentes. Estoy convencido de que los empleados de los call centers van a desaparecer, por ejemplo. Hay casos de uso en donde es impresionante la velocidad con la que se alcanzan eficiencias. Dependerá del tipo de solución”.

En la misma línea opinó el subdirector de Vinculación y Transformación digital del CIC del IPN, Iván Olvera,quien dijo que la transformación digital no viene de las posiciones de liderazgo hacia abajo.

“La inteligencia artificial tiene que implementarse en varios departamentos, no solo en uno, para evitar parches. Se requiere una planeación, la participación de un consejo ad hoc. Si la cabeza no conoce la tecnología, se hacen esfuerzos aislados. En contraste, si la alta dirección está consciente de los beneficios, todas las demás áreas se alinean”, afirmó.

Calvo, del CIC del IPN, profundizó: “Es importante involucrar a los tomadores de decisiones y que no quede en Sistemas”.

Ética y supervisión humana

A fin de seguir con el debate, a los asistentes se les plantearon cuatro principales riesgos que deben ser afrontados al implementar un proyecto de AI generativa: uso ético y responsable, invertir en el nivel de seguridad adecuado, políticas de privacidad de datos para empleados y clientes y determinar el grado de supervisión e intervención humana requeridos.

Para el subdirector de Desarrollo de sistemas, Optimización y Métodos, de Comercial City Fresko, Carlos Torres, la primera es lo más importante. En su visión, hay que asegurar que la decisión que se tome esté basada en principios y valores, que no afecte el entorno.

“Tenemos que empezar por ahí y más con este tipo de tecnologías que son capaces de crear contenido, con las que es muy fácil caer en la tentación”, subrayó.

En contraste, el CISO de Tiendas Tres B, Mario Fernando Díaz, afirmó que para cada quien la ética es distinta. “Lo mejor es supervisar”, aseguró.

Dicha visión fue secundada por el CISO de BNP Paribas Cardif, Francisco García Dayo, quien subrayó la importancia de la supervisión humana. “A la AIgenerativa se le puede engañar”, afirmó al recordar un ejemplo en que se le pidió a una de estas herramientas los pasos para crear una bomba.

García, de Organización Sahuayo, se sumó a la polémica: “Hoy nos da mucho miedo y queremos supervisión, pero después la AI será la que supervise —pronosticó—. No hay manera de detener esto. No habrá gente para supervisar tanto”.

Cada sector y caso de uso tiene sus prioridades

La directora ejecutiva de Canales digitales de Banco Actinver, Lourdes Arana, aseguró que todos los aspectos mencionados en el sondeo —arriba enunciados— son necesarios, pero en la industria de servicios financieros, “el más clave es la privacidad de los datos, sobre todo de los clientes. Si no respetas eso, estás dañando su patrimonio”.

El director ejecutivo de Ingeniería y Sistemas de Organización Radio Fórmula, Héctor Aguilar, afirmó que dependen de la aplicación que se implemente. “Primero hay que definir en dónde se está usando y la prioridad que se le otorga”.

Abundó que en su caso no hay uso de datos de sus clientes, pero sí de generación de contenido, por lo que el grado de supervisión e intervención humana es más relevante.

“No podemos dejar que la AI dé noticias”, comentó al destacar que entre los beneficios de su proyecto está el aumento en la generación de notas periodísticas, al pasar de 10 a 200 artículos por hora.”Debemos tener una persona que supervise y valide”.

El director de Infraestructura y Tecnología de Comercial City Fresko, Humberto Padilla, quien se pronunció por priorizar la supervisión, señaló que el uso ético como principal riesgo también depende del caso, aunque recomendó tener desde el inicio un marco de referencia para avanzar en los siguientes puntos.

En la visión del CISO de Peña Verde, Ney Galicia, en el uso ético y responsable “quedan implícitas las demás consideraciones riesgosas”, pero destacó que el elemento humano “es fundamental en la valoración”.

El director de Sistemas y de IT de ICEE de México, Marco Antonio Gómez, comentó: “Es innegable que vamos a ir todos a la AI a corto plazo. Tendremos que invertir mucho en ciberseguridad para no ser atacados. Hay que regularla. Si la dejamos abierta, hay un riesgo enorme”, puntualizó.

Expectativas altas para los socios tecnológicos

En una lluvia de ideas, realizada de forma digital, la mayoría de los líderes IT reconocieron la experiencia y el conocimiento vertical por industria como las competencias que más buscan en un proveedor de AI generativa, seguidas de creatividad y confianza.

El director de IT y coordinador general del Centro Nacional de Cálculo del IPN, Rafael Sánchez, indicó que la creatividad es el elemento número uno. “A mí no me sirve hacer las mismas cosas que ya hago. Necesito ideas nuevas de cómo hacer mejor nuestras funciones”.

Para el director de IT de La Latinoamericana Seguros, Miguel Camacho, no se trata tanto de la experiencia como del conocimiento de la industria y el entendimiento del negocio. “Si le invertimos tiempo para un caso de uso y da resultado desde la prueba piloto, todos vamos a ganar”, comentó.

Sobre el conocimiento de la industria también habló el director de IT de Vertiche, Fernando Domínguez. “Necesitamos que tengan un caso de uso, porque todos hablan de AI generativa, pero no tienen ninguno”.

Aunque subrayó que no es lo único. También buscan acompañamiento, pues “de nada sirve tener casos de éxito y conocimiento de la industria, si no tienen el personal suficiente para desarrollar”.

Por su parte, el CTO de Nacional Monte de Piedad, Luis Rubalcava, quien comentó que llevan a cabo cambios en sus áreas de cobranza y atención al cliente, agregó una variable más: la tropicalización.

En su opinión, el tener conocimiento del mercado les permite identificar si los casos de uso de otros países funcionan o no en México.

Limonta, de Merck, habló de la confianza: “No necesito que tengan toda la experiencia, pero sí mostrar que están realmente capacitados y que son gente innovadora, que pueden acompañarme”.

Valdés, de AstraZeneca, fue más general: “Lo que busco no es un proveedor, sino un socio estratégico. Debe ser un win-win, porque le estamos dejando mucho conocimiento también al proveedor. Ellos aprenden de la experiencia del negocio y nosotros de su tecnología”.

Quijano, de AWS México, aprovechó esa visión para cerrar el diálogo: “Queremos que nos llamen socio estratégico, no un proveedor, porque eso nos ofende”.

Y añadió una propuesta inusual: “Aunque estén usando tecnologías de la competencia, de otros proveedores, sepan que AWS les puede ayudar. Estamos aquí para ayudarles. Es cuestión de tocar la puerta. Estamos abiertos a ayudarles incluso sobre casos de uso con tecnología de competidores, porque nuestro valor es la obsesión por el cliente”.

Participantes

Marco Antonio Morán Caballero, director de Información y Tecnología digital de Administradora Dart (Tupperware), Pedro Valdés Campos, director de Información digital de AstraZeneca; Lourdes Arana Navarro, directora ejecutiva de Canales digitales de Banco Actinver; Francisco García Dayo, CISO de BNP Paribas Cardif, Jesús Díaz Garaygordóbil, CIO de Centro Hospitalario Mac, Humberto Padilla Loza, director de Infraestructura y Tecnología, y Carlos Torres Ángeles, subdirector de Desarrollo de sistemas, Optimización y Métodos, de Comercial City Fresko; Héctor Curiel López, CIO de Genomma Internacional; Marco Antonio Gómez Moreno, director de Sistemas e IT de ICEE de México; Hiram Calvo, director, e Iván Olvera Rodríguez, subdirector de Vinculación y Transformación digital, del Centro de Investigación en Computación del IPN; Rafael Sánchez Ferreiro, director de IT y coordinador general del Centro Nacional de Cálculo del IPN; Miguel Camacho Valerdi, director de IT de La Latinoamericana Seguros; Eugenio Limonta Rodríguez, director de Informática de Merck; Luis Rubalcava Moreno, CTO de Nacional Monte de Piedad; Héctor Aguilar Cuevas, director ejecutivo de Ingeniería y Sistemas de Organización Radio Fórmula; Jorge García Barrios, director de Tecnología y Operaciones de Organización Sahuayo, Ney Galicia Arrocena, CISO de Peña Verde; Fernando Pliego, director IT México de PepsiCo; Jorge Peralta Iven, director de IT y Comunicaciones de Pronósticos para la Asistencia Pública-Lotería Nacional, Mario Fernando Díaz Gómez, CISO de Tiendas Tres B; Luis Ruiz Hernández, subdirector de Sistemas de Tum Transportistas Unidos Mexicanos Division Norte, y Fernando Domínguez Reyes, director de IT de Vertiche.

Artículos relacionados

Artículo 1 de 5