OpenAI anunció el pasado 10 de noviembre que ha desarrollado un mecanismo de desactivación (kill switch) para los modelos de inteligencia artificial (AI) que utiliza en sus laboratorios de investigación, tras detectarse meses atrás comportamientos inquietantes en algunos de ellos.
“A medida que nuestros modelos se vuelven más potentes y los riesgos asociados a la seguridad aumentan, resulta cada vez más crucial poder detectar posibles problemas y detener los modelos de inmediato cuando sea necesario”, explicó la startup en una publicación de blog.
La compañía denominó a este mecanismo “Control Room” (Sala de Control) y lo describe como “un sistema centralizado para supervisar la carga de trabajo de los modelos en nuestra infraestructura de investigación, permitiendo detenerlos rápidamente ante cualquier preocupación relacionada con la seguridad”.
En 2019, OpenAI decidió no publicar un nuevo modelo debido a que sus investigaciones revelaron “preocupaciones sobre posibles usos maliciosos de la tecnología”.
Índice de temas
OpenAI logra respuesta de 35 segundos con Control Room
Según el creador de ChatGPT, este sistema puede impedir que los modelos generen cualquier tipo de respuesta apenas 35 segundos después de que se tome la decisión de desactivarlos; incluso es posible lograr tiempos de respuesta aún más rápidos.
“El retraso de 35 segundos se debe a una capa de caché utilizada para la autorización de inferencias, necesaria para gestionar el volumen de tráfico requerido. Estamos trabajando para reducir este tiempo a cero, de modo que podamos finalizar las tareas de forma instantánea”, afirmó la empresa.
Un error común al diseñar infraestructuras críticas es construir tanto las herramientas operativas como las de resiliencia sobre recursos compartidos, los cuales podrían quedar inhabilitados por un único incidente.
OpenAI parece ser consciente de este riesgo, ya que detalló que la herramienta “ha sido diseñada para seguir funcionando incluso cuando otros sistemas fallan, y para detener la salida de datos de los modelos si el propio sistema Control Room llegara a caer”.
El detonante detrás del nuevo kill switch de OpenAI
La empresa que dirige Sam Altman no aclaró por qué ha tardado tanto en desarrollar este mecanismo de desactivación, ni por qué ha decidido que es precisamente ahora cuando resulta necesario.
Su lanzamiento sucede tras incidentes recientes en los que algunos agentes actuaron más allá de sus funciones de manera preocupante; por ejemplo, atacando la plataforma Hugging Face, causando problemas en la Fundación Wikimedia o profundizando demasiado en la investigación de datos de salud australianos.
“Control Room ya está implementado en nuestra infraestructura de investigación, donde la necesidad es mayor, Por su parte, nuestra infraestructura externa de implementación de modelos es, por naturaleza, mucho más centralizada y cuenta con una capacidad operativa bien desarrollada para retirar rápidamente los modelos si fuera necesario”, detalló OpenAI.
Además, adelantó que planea “fortalecer y ampliar el sistema en los próximos meses, junto con nuestras inversiones en la supervisión de comportamientos desalineados e incumplimientos de seguridad”.
