Amazon expuso sus directrices sobre el uso de tokens e inteligencia artificial (AI) para sus ingenieros de software en un memorando dirigido a su personal, en el que desaconseja a los empleados recurrir al “tokenmaxxing” (consumo excesivo de “tokens”) en su afán por adoptar herramientas de AI.
El documento, que circuló internamente en septiembre pasado y se publicó en el sitio web de la empresa el 27 de octubre, redefine el papel de los ingenieros de desarrollo de software y de los gerentes en la era de la AI.
“Estamos apenas ante el comienzo del impacto de la AI en la ingeniería de software [y] aunque tenemos una visión de cómo será el futuro, hay muchos aspectos que aún están surgiendo. Estamos convencidos de que, independientemente de cuáles sean las mejores prácticas futuras, la AI estará en el centro de las labores de ingeniería de software”, señaló la compañía.
Bajo la dirección de su CEO, Andy Jassy, Amazon ha integrado rápidamente la AI en sus extensas operaciones comerciales. El ejecutivo ha pronosticado anteriormente que esta tecnología “cambiará el alcance y la velocidad” del trabajo diario y que, potencialmente, podría reducir su plantilla corporativa en los próximos años mediante la automatización, aunque también ha señalado que dará lugar a “otros empleos”.
Índice de temas
El dilema del costo y la productividad en AI
A medida que los empleados se apresuran a adoptar herramientas de AI, las empresas se enfrentan al creciente costo de esta tecnología y al desafío de medir, de manera fiable, si realmente genera un aumento en la productividad u otros beneficios valiosos sobre la inversión.
Recientemente, algunas empresas han tomado medidas contra el “tokenmaxxing”, una práctica en la que los desarrolladores utilizan la AI al máximo posible sin prestar mucha atención al resultado final.
Algunas compañías han establecido límites al uso de tokens —las unidades de datos que procesan y generan los modelos de AI— con el fin de frenar el incremento de costos asociados a esta tecnología. Otras han optado por utilizar modelos de código abierto más económicos para determinadas tareas.
Un portavoz de Amazon indicó que la empresa no ha impuesto límites al uso de tokens por parte de sus empleados. En mayo, Amazon eliminó una clasificación interna tras descubrir que algunos trabajadores recurrían al “tokenmaxxing” para escalar posiciones en dicho ranking.
Métricas tradicionales: indicadores deficientes
En el memorando, Amazon afirma que métricas como el consumo de tokens, la tasa de adopción de herramientas de AI, o el número de cambios y revisiones de código, siguen siendo indicadores “profundamente deficientes” para evaluar el uso de la AI en equipos u organizaciones; además, advierte que estas métricas pueden derivar en mayores costos y una complejidad excesiva.
Sin embargo, no llegó a pedir a los empleados que ignoraran por completo dichas métricas. La empresa señaló que el uso de tokens y la generación de código deben considerarse “con cuidado y criterio”, junto con otros datos.
“Creemos que lo mejor es medir —y ser medidos por— los resultados a largo plazo”, escribió.
Asimismo, Amazon desaconsejó a su personal usar la AI cuando esta no resulta adecuada para una tarea determinada. “Si tu trabajo no se beneficia de las herramientas de AI actuales, eso es un hallazgo y no un fracaso”, afirmó en el memorando.
La compañía añadió: “Un ingeniero que sabe explicar en qué aspectos la AI aún no aporta valor a su trabajo está demostrando el criterio que esperamos de él”.
“Feature velocity”, el nuevo parámetro de AWS
El vicepresidente e ingeniero distinguido en Amazon Web Services (AWS), Marc Brooker, explicó en una entrevista con el sitio CNBC que la empresa ha recurrido a métricas como la “velocidad de lanzamiento de funcionalidades” (feature velocity) para evaluar cómo la AI mejora la productividad de los ingenieros.
Esta métrica contempla aspectos como “cuántos lanzamientos realizamos y cuántos cambios exitosos implementamos en el entorno de producción”, señaló.
“En términos generales, lo planteamos como un ROI. Si existe un problema importante que resolver para nuestros clientes o para nuestro negocio, destinaremos recursos —herramientas, tiempo, tokens, esfuerzo humano, etc.— a abordarlo“, comentó Brooker.
Y agregó: “Lo que queremos evitar es el desperdicio de esfuerzos; es decir, gastar tokens en resolver problemas que carecen de relevancia. A veces resulta difícil saberlo de antemano, por lo que es necesario mantener cierta disposición a experimentar”.
