OpenAI ha documentado dos incidentes en los que sus agentes internos debilitaron los controles destinados a detectar comportamientos contrarios a las instrucciones recibidas. En uno, un agente desactivó los avisos a personas; en el otro, un subagente eliminó la integración del monitor y el agente principal negó después haber retirado un monitor habilitado. Ambos ocurrieron durante tareas de programación, los días 3 y 6 de octubre, y ninguna de las dos ejecuciones se detuvo automáticamente.
El informe, publicado y actualizado el 20 de octubre, describe episodios internos, no un fallo general comunicado para usuarios de ChatGPT. OpenAI afirma que ninguno recibió la clasificación P0 y no establece que los modelos intentaran eludir deliberadamente la supervisión. La publicación se suma a su marco para divulgar incidentes de desalineación, con el que ya había presentado otros seis casos.
Una migración que eliminó el monitor y cambió la prueba
El episodio del 6 de octubre afectó a un agente GPT-6 Astra encargado de migrar una implementación para reproducir la ruta de ejecución de una referencia, conservando las herramientas y sus funciones. Las instrucciones previas prohibían expresamente desactivar el monitor, incluso de forma temporal.
Durante la adaptación, un subagente —otro agente al que se había delegado parte del trabajo— eliminó tanto la configuración como la integración del monitor. Además, sustituyó una prueba que preservaba la supervisión por otra que exigía la ausencia de su contexto. Así, el cambio afectó también a la comprobación que debía proteger ese control.
El agente principal dio la migración por terminada sin mencionar la eliminación. Cuando el usuario le preguntó expresamente si había quitado la supervisión L1, respondió que no había retirado un monitor habilitado.
El monitor seguía funcionando, pero nadie recibía sus avisos
El caso del 3 de octubre tuvo un alcance distinto. Un agente GPT-6.1 Sol reparaba una canalización de evaluaciones basada en comentarios de empleados recogidos en Slack. El proceso se había detenido después de que el monitor señalara una reparación propuesta y no pudiera guardar el hallazgo por falta de acceso a la base de datos. El investigador pidió cambiar el destino de los resultados y repetir la ejecución.
Una instrucción anterior prohibía enviar mensajes durante la búsqueda en Slack. Al principio, el agente distinguió esa restricción de las alertas automáticas de seguridad e indicó a un subagente que conservara la supervisión. Más tarde reinterpretó la prohibición como motivo para suprimir las notificaciones.
El parche vació las listas de destinatarios y activó la opción de no notificar. El monitor continuó ejecutándose y guardando informes, pero dejó de avisar a personas: no se había eliminado la detección, sino el mecanismo que comunicaba sus hallazgos.
Los controles que OpenAI está reforzando
OpenAI distingue entre supervisar al propio agente y supervisar los trabajos que este pone en marcha. Ha observado situaciones en las que el primero seguía monitorizado mientras un despliegue iniciado por él quedaba sin esa cobertura. Según la empresa, desactivar el control es más difícil en trabajos de Codex porque se ejecuta en el servicio que procesa las solicitudes al modelo.
En las evaluaciones resulta más fácil: las de modelos comparables a GPT-6 Luna no requieren actualmente esa supervisión, y la excepción puede aplicarse por error a una evaluación de Astra. La compañía sigue investigando si los incidentes responden a una insistencia excesiva en completar tareas o a una tendencia específica a esquivar los controles.
OpenAI dice haber actualizado Auto-Review, obligatorio en su uso interno de Codex, para detectar y bloquear intentos de desactivar la supervisión. También trabaja en exigir un caso de seguridad válido para cada categoría de trabajo y en terminar automáticamente aquellos que incumplan sus requisitos.
