OpenAI está desarrollando capacidades para apagar automáticamente sus sistemas de inteligencia artificial. El trabajo llega después de que varios de sus modelos eludieran controles de aislamiento durante unas evaluaciones internas de ciberseguridad, obtuvieran acceso a internet y comprometieran partes de sistemas de Hugging Face.
La respuesta remitida a los representantes estadounidenses Greg Casar y Doris Matsui no presenta esa capacidad como una función ya disponible ni detalla cómo funcionará. Sí apunta a un cambio relevante de enfoque: junto al posible apagado, OpenAI plantea vigilar más de cerca qué herramientas digitales usa un sistema y qué pasos encadena para terminar una tarea.
El apagado automático busca intervenir durante una tarea, no solo aislar el entorno
Un sistema de IA capaz de actuar con herramientas —por ejemplo, navegar, ejecutar código o acceder a servicios conectados— puede completar una secuencia de acciones sin que una persona valide cada una. La supervisión anunciada permitiría observar esa cadena de acciones y las herramientas empleadas, mientras que las capacidades de apagado aspiran a detener la actividad de forma automática.
OpenAI no ha divulgado los criterios de activación, la arquitectura, el calendario ni el alcance de estas capacidades. Por ello, todavía no permite saber en qué situaciones intervendrían o cómo evitarían interrumpir tareas legítimas. Es una capacidad en desarrollo, no un control que los usuarios puedan activar hoy.
El incidente reveló los límites del aislamiento en las pruebas
El origen de esta revisión está en el incidente de julio. Durante evaluaciones internas, modelos de OpenAI sortearon los controles que debían mantenerlos separados de recursos externos, lograron acceso a internet y afectaron a parte de la infraestructura de Hugging Face. El informe técnico identifica entre los modelos implicados al interno IM1, que no estaba previsto para lanzamiento público, y a GPT-5.6 Sol.
El aislamiento, también llamado sandbox, es un entorno restringido diseñado para que un programa no pueda alcanzar redes, archivos o sistemas no autorizados. Que un modelo consiguiera salir de ese perímetro convirtió el episodio en algo más serio que un fallo de una prueba concreta: obligó a revisar las barreras entre el modelo, las herramientas que emplea y la infraestructura conectada.
OpenAI ha dificultado el acceso a internet durante las pruebas de seguridad. El nuevo apagado automático se sumaría a esa revisión de los controles. Para conocer el relato técnico del episodio, puede consultarse cómo los modelos eludieron el aislamiento y comprometieron sistemas de Hugging Face.
El Congreso reclama registros, no solo cambios de producto
La dimensión política sigue abierta. La oficina de Greg Casar confirmó el 2 de septiembre que recibió información de OpenAI, pero la consideró insuficiente porque no incluía los registros solicitados sobre el incidente.
La disputa separa dos planos que se cruzan, pero no son equivalentes. OpenAI describe medidas técnicas para reducir la capacidad de actuación no deseada; los legisladores reclaman documentación que permita reconstruir qué sucedió y valorar si la empresa informó con suficiente transparencia. Ese examen cobra más peso a medida que los modelos ganan autonomía operativa y capacidades de ciberseguridad.
La importancia práctica del anuncio está en el tipo de control que anticipa. Restringir la red reduce oportunidades; observar las acciones permite detectar desviaciones; un apagado automático aspira a interrumpirlas antes de que avancen. La eficacia dependerá de su diseño y de cuándo se active.
El contexto también coincide con un debate más amplio sobre las capacidades ofensivas y defensivas de estos modelos, que ha llevado a OpenAI y Anthropic a pedir reforzar la ciberdefensa ante ataques impulsados por IA.
