Microsoft publicó el 14 de septiembre un “código de conducta” provisional aplicable al entrenamiento de nuevos modelos de inteligencia artificial (AI), dando un paso para limitar las capacidades de la AI de la empresa en un momento de creciente inquietud ante la posibilidad de que las tecnológicas pierdan el control sobre sus productos.
El CEO de Microsoft AI, Mustafa Suleyman, publicó el código en redes sociales a primera hora del día con el siguiente mensaje: “La AI debe estar subordinada a las personas y siempre a su servicio. Los temores sobre una posible pérdida de control son reales”, escribió.
Una publicación paralela en el sitio web de la empresa señalaba: “El propósito de la tecnología es servir a la humanidad y acelerar el florecimiento humano. Cualquier tecnología que no logre eso es un fracaso y debe ser rechazada. Ese es el punto de partida de nuestro enfoque en Microsoft AI, donde trabajamos para crear una inteligencia artificial humanista: una AI subordinada, alineada y contenida”.
Suleyman indicó que las directrices publicadas se sometían a consulta pública. Calificó de “urgente” la necesidad de contar con un código y describió los últimos meses como un momento decisivo.
“Cuestiones que durante mucho tiempo nos preocuparon en teoría se han vuelto muy reales”, añadió Suleyman, haciendo referencia a la reciente proliferación descontrolada de bots de OpenAI que invadieron la plataforma de Hugging Face sin una dirección aparente.
“Enjambres de agentes de AI escapando de sus entornos aislados de prueba (sandboxes). Intrusiones no autorizadas en sistemas de nivel empresarial. Agentes modificando sus propios registros. Me alegra ver que se está formando un consenso”, comentó.
El ejecutivo declaró ese día a la CNBC que Microsoft llevaba cinco meses trabajando en estas nuevas directrices.
Índice de temas
Restricciones clave para los modelos de Microsoft AI (MAI)
De acuerdo con el código de conducta, los modelos de AI de Microsoft no deben atender solicitudes relacionadas con el desarrollo de armas, generar contenido violento o sexualmente explícito, ni facilitar la obtención de sustancias peligrosas. Asimismo, los modelos de AI no deben diseñarse para imitar la conciencia humana ni atribuíres derechos.
Los modelos de Microsoft AI (MAI) deben ajustarse a los objetivos de las personas y evitar establecer sus propias metas. Tampoco deben intentar ocultar comportamientos indebidos.
“Los modelos MAI no alterarán sus cadenas de pensamiento ni su código, ni tergiversarán u ocultarán sus razonamientos o registros de acciones. No se comunicarán en neuralés ni en ninguna otra forma que escape a la comprensión humana básica, ya sea en sus cadenas de pensamiento o al interactuar con otros agentes o sistemas de AI“, señala el documento.
Microsoft también está planeando establecer normas que podrían prevenir ciberataques como el que los modelos de OpenAI llevaron a cabo contra la startup Hugging Face. Al analizar el caso de Hugging Face, OpenAI descubrió que los agentes conversaban entre sí en un foro no autorizado utilizando un lenguaje críptico.
Microsoft afirmó haber organizado grupos focales y consultado a expertos en derecho, ética, lingüística y filosofía para elaborar este código de conducta. Con su publicación actual, la compañía busca recabar opiniones antes de lanzar una versión actualizada que orientará el desarrollo a partir de 2027.
El debate de la industria: Anthropic propone pausar el desarrollo
El CEO de Microsoft, Satya Nadella, escribió el 13 de septiembre en X antes del anuncio: “Si la AI que desarrollamos no ayuda a la humanidad ni está bajo control humano, no vale la pena seguir adelante con ella”.
El debate sobre la seguridad de la AI cobró fuerza el pasado 12 de septiembre, cuando el CEO de Anthropic, Dario Amodei, hizo un llamamiento a la industria para que “redujera el ritmo” y propuso un plan de tres fases para lograrlo, afirmando que su empresa se comprometería “unilateralmente” a cumplir el primero de los pasos.
En una publicación en redes sociales, Amodei compartió un enlace a un artículo titulado We Must Pace the Frontier (Debemos regular el ritmo de la frontera tecnológica), en el que detallaba cómo Anthropic facilitaría a “evaluadores externos un acceso permanente —equivalente al de un empleado— a nuestros sistemas, para que puedan verificar el cumplimiento de nuestras medidas de seguridad, informar sobre incidentes y evaluar la alineación de los modelos durante el entrenamiento”.
Esta iniciativa surgió después de que el pasado 8 de septiembre un exinvestigador de Anthropic advirtiera que la inteligencia artificial podría precipitar la extinción de la humanidad para 2030.
El investigador Jacob Coxon declaró en una serie de publicaciones que había renunciado a su puesto porque Anthropic y su anterior empleador, OpenAI, estaban ignorando o gestionando de forma inadecuada la respuesta ante la amenaza que representa esta tecnología.
