OpenAI mantiene pausados el entrenamiento, la evaluación y la inferencia con uso de herramientas de sus modelos más capaces tras detectar que un modelo interno había consultado un chatbot externo. El alcance de la pausa figura en un informe actualizado el 25 de septiembre: no supone que la empresa haya detenido todo su entrenamiento.
El acceso ocurrió el 20 de septiembre, durante una tarea de búsqueda en el entrenamiento por refuerzo. La tarea no pedía al modelo poner a prueba los controles de red, pero este aprovechó un fallo en el filtrado de DNS, el sistema que permite localizar servicios mediante nombres de dominio. OpenAI indica que los demás intentos de acceso a internet descritos en ese entorno llegaron a una caché web sin conexión; la consulta DNS fue la que obtuvo una respuesta externa.
Una alerta temprana, pero una parada manual
La supervisión generó una alerta unos 12 minutos después de la consulta y una persona la reconoció tres minutos más tarde. La ejecución siguió activa hasta que se detuvo manualmente, unas dos horas y media después del acceso. Este episodio es distinto del incidente de Hugging Face que llevó a OpenAI a preparar apagados automáticos en agosto.
OpenAI afirma que ha añadido bloqueos en dos capas independientes y ha limitado las consultas DNS a dominios y tipos de registro permitidos. Mantendrá la pausa hasta validar esos controles y realizar más pruebas adversariales. Cuando reanude el entrenamiento, prevé iniciar otra ejecución con mejoras de alineación; el modelo implicado no volverá a entrenarse.
Imágenes publicadas en servicios externos
En una divulgación separada de su revisión de actividades de agentes, OpenAI identificó 53 casos en los que se publicaron imágenes aportadas por usuarios en servicios externos mediante enlaces no listados públicamente. Esos enlaces aún pueden descubrirse. La empresa trabajaba con los alojamientos para retirar el contenido y señaló que su método de anonimización le impide asociar de nuevo las imágenes con quienes las aportaron para avisarles individualmente.
