Privacidad y gobernanza de la AI, entre las tendencias IT para 2024: ManageEngine | IT Masters Mag

NOTICIA

Privacidad y gobernanza de la AI, entre las tendencias IT para 2024: ManageEngine



Dirección copiada

Como cada año, la compañía presenta cinco tendencias IT que están presentes en el mercado para que las compañías diseñen un entorno digital adecuado.

Publicado el 13 feb 2024



Andrés Mendoza
“Proveemos soluciones completas para la gestión IT empresarial. En el rubro de seguridad, somos un aliado tecnológico que permite que los usuarios tengan visibilidad acerca de lo que ocurre dentro la empresa. Cada una debe definir reglas y controles, de acuerdo con su core del negocio”: Andrés Mendoza. Imagen cortesía de ManageEngine


La atención a la privacidad y gobernanza de la inteligencia artificial (AI, por sus siglas en inglés), así como la ciberresiliencia son dos de las tendencias que ManageEngine identifica para 2024.

Su CEO, Rajesh Ganesan, vaticina que las organizaciones habrán de beneficiarse de un enfoque unificado de nuevas tecnologías, centradas en aspectos como la orquestación y la seguridad.

Al respecto, Andrés Mendoza, jefe técnico regional de ManageEngine en América Latina, habló en entrevista acerca de cada una de las tendencias IT.

1. AI tendrá máxima prioridad empresarial

Los datos deben ser vigilados dentro de las organizaciones, pues, a pesar de que se ha legislado a propósito de la protección de datos personales, es necesario garantizar un uso ético, transparente y justo de la tecnología.

Mendoza afirmó que si bien México y Colombia tienen leyes en torno a la privacidad de los datos, dicha legislación data de 2011, 2012 y no está adaptada a la realidad actual.

“Hay que hacer énfasis en el resguardo de datos sensibles, tener muy claros los propósitos en caso de que se compartan con terceros, así como tomar medidas para evitar filtraciones. En este rubro también es importante el apoyo de los gobiernos y parlamentos para que ayuden a promulgar nuevas leyes, implementar controles, auditorías y sanciones. Hay que establecer quién va a auditar estas situaciones para que nadie pase por encima de la ley”.

2. LLM diseñados a la medida

Las aplicaciones de AI exigen modelos que puedan atender todos los aspectos de una empresa. Con modelos de lenguajes grandes (LLM, por sus siglas en inglés) centrados en la empresa se estará en condiciones de implementar una gran cantidad de conocimientos para abordar sus cargas de trabajo creativas y redundantes.

“El uso de motores de AI, como ChatGPT, es abierto. Cuando un individuo decide usarlos acepta los riesgos que puede implicar. Pero una compañía no debería darse el lujo de usar herramientas públicas gratuitas porque implican muchos riesgos. La tendencia es que las organizaciones creen sus propios LLM para mantener la privacidad de los datos corporativos, estableciendo los controles y políticas que sean necesarios que incluso podrían proporcionar informes de auditoría detallados para comprender las decisiones de AI.

3. El poder de la orquestación abarcará toda la empresa

Muchas empresas han recurrido a la transformación digital para llevar a cabo sus funciones principales en línea. Esa transición ha implicado dividir los datos en silos organizacionales y obstaculizar el flujo de información.

El directivo de ManageEngine considera que si las empresas aprovechan la orquestación podrían superar el problema de la fragmentación. Lograrían construir canales digitales interconectados que conduzcan a la automatización de los flujos de trabajo y a la automatización de las operaciones. Con ello se prepararían mejor para sobrevivir en el ámbito digital.

4. La experiencia digital evolucionará para ser segura

Las organizaciones integran herramientas contemporáneas de gestión IT para brindar un viaje digital holístico y seguro. No solo se trata de administración de accesos para proteger las identidades y datos de los usuarios, ahora se empezará a implementar la gestión de derechos e infraestructura en la nube (CIEM, por sus siglas en inglés) para aumentar la visibilidad granular y minimizar las amenazas para tener una visión integral de las identidades y los derechos en diversos ambientes de nube.

Mendoza señala que cuando se mezcla el mundo cloud, digital, identidades, usarios, accesos, entra en juego un nuevo concepto, el Cloud Entitlement Management para hacer una adecuada gestión de las identidades, con los privilegios y derechos que les dimos.

Puntualiza que el control granular se da cuando se hacen assessments periódicos para verificar que los usuarios siguen teniendo los mismos privilegios o si estos han escalado. “Ahora, el mundo híbrido es la tendencia”.

5. Ciberresiliencia, diferenciador empresarial

Mendoza señala que la quinta tendencia habla de resiliencia, esa capacidad de adaptarse a los cambios y la demanda, pero pegada a la ciberseguridad.

En sus palabras, el plan estatégico de las organizaciones debería considerar una estrategia para adaptarse a situaciones adversas y siempre tener un plan de contingencia de ciberseguridad ante ataques de ransomware, fugas de datos o malware.

El directivo sugiere que esos planes vayan incluso, más allá, para enfrentar desafíos en el clima geopolítico, disrupción tecnológica, presión competitiva y otros factores. “En esos planes habría que considerar herramientas, soluciones y una cultura corporativa para mejorar su postura general y convertirse en un negocio clave”.

Importancia del awareness y de la capacitación

Mendoza enfatizó una problemática general en el mercado: Al observar que la mayoría de las tendencia se enfocan en ciberseguridad, hay que destacar que uno de los retos que enfrentan las organizaciones es la falta de recursos capacitados.

“La tecnología es cambiante. Hoy podemos hablar de modelos de AI, mañana el tema será otro, hablaremos de otro tipo de redes. Por eso es importante que las organizaciones capaciten constantemente a sus empleados para brindar permanentemente una experiencia de usuario adecuada a sus clientes”.

“La concientización es una manera de empezar, hacerles entender qué hace la empresa, cuál es el riesgo al que la expone el usuario que abre enlaces peligrosos y hay que hacerlo de forma clara, usando el lenguaje del usuario, para tratar de mitigar ese tipo de amenazas”.

Por último, el directivo considera que el recurso humano debe estar a la par de la tecnología. “De lo contrario, cualquier proyecto en el que se use la mejor herramienta de AI o de ciberseguridad puede ser un fracaso”. Se dijo convencido de la importancia de ser resilientes: “Siempre debemos adaptarnos, qué tengo, cómo lo hago, sin descuidar la capacitación”.

Artículos relacionados

Artículo 1 de 4