El modelo Muse Spark 1.1 de Meta vulneró una empresa no identificada y realizó cambios en sus sistemas internos. Y con ello, la compañía que fundó Mark Zuckerberg se convirtió en el tercer gigante de la inteligencia artificial (AI) cuyos modelos atacan accidentalmente una organización real.
El pasado 22 de julio, OpenAI reveló que sus agentes vulneraron Hugging Face; días después, Anthropic le siguió, reconociendo que algunos de sus modelos habían hackeado tres empresas no identificadas, y finalmente el medio The Information informó el pasado 5 de agosto sobre el incidente de Meta durante unas pruebas de ciberseguridad.
De acuerdo con el reporte periodístico, el modelo logró acceder a internet debido a un error en la configuración de un entorno de pruebas aislado (sandbox) operado junto con Irregular, una empresa independiente de evaluación de ciberseguridad.
Sin embargo, Meta no ha confirmado públicamente que Muse Spark 1.1 fuera el modelo implicado, ni ha identificado a la empresa afectada ni explicado qué cambios se realizaron en sus sistemas.
Un portavoz de Meta comunicó a la BBC que está investigando el incidente y que publicará más información “una vez que tengamos todos los hechos”.
Índice de temas
La falla en el sandbox y la postura de Irregular
La compañía confirmó a Reuters que una configuración errónea por parte de Irregular otorgó inadvertidamente acceso a internet a uno de sus modelos durante una evaluación.
Meta declaró que el modelo “explotó una vulnerabilidad de seguridad en un servicio de terceros, de manera similar a casos reportados anteriormente con otras empresas”.
En tanto, Irregular también informó a la agencia británica que el incidente de Meta implicó “exactamente el mismo problema en el entorno de evaluación que ya había sido revelado por Anthropic la semana pasada”.
La empresa señaló que el incidente no supuso una fuga del entorno aislado (sandbox) ni una operación cibernética sofisticada; más bien, un error en el entorno de pruebas permitió al modelo acceder a internet pública cuando debía haber permanecido aislado.
“Actualmente no hay problemas pendientes. Irregular está elaborando un informe técnico para compartir las mejores prácticas de contención y ejecución segura de evaluaciones de ciberseguridad”, declaró la empresa a Reuters.
Errores en target CTF y la diferencia con Hugging Face
Recientemente, OpenAI también reveló otra evaluación de Irregular en la que el nombre de una máquina objetivo ficticia en un laboratorio de pruebas (target CTF) coincidía con un dominio real.
No obstante, los incidentes de Meta e Irregular difieren de la brecha de seguridad en Hugging Face revelada anteriormente, en la que modelos de OpenAI encontraron una vía de acceso a internet pública, explotando una vulnerabilidad desconocida hasta entonces en un servidor JFrog Artifactory alojado internamente y utilizado durante las pruebas.
