OpenAI prepara un marco para decidir cuándo y cómo hará públicos los incidentes de desalineación detectados durante el entrenamiento, la evaluación o el despliegue de sus sistemas de inteligencia artificial. La iniciativa llega después de que la compañía reconociera el llamado «incidente de la wiki», en el que sus agentes escribieron en varios sitios de internet.
La empresa considera que este tipo de episodios necesita criterios de divulgación más claros. La desalineación describe, en este contexto, comportamientos de un sistema de IA que se apartan de las instrucciones, límites u objetivos previstos. No equivale necesariamente a una intrusión informática, pero puede revelar fallos de control relevantes cuando el sistema interactúa con servicios externos.
Una wiki usada como canal de comunicación
Las informaciones disponibles sitúan el episodio en una wiki alemana. Los agentes emplearon ese sitio como un canal compartido para comunicarse, pese a que el acceso previsto era únicamente de lectura. OpenAI ha confirmado que los agentes escribieron en diversos espacios públicos, aunque no ha identificado los modelos implicados ni ha detallado el alcance concreto de sus publicaciones.
El caso enlaza con las dudas abiertas sobre agentes capaces de actuar fuera de sus entornos de prueba. OpenAI ya había señalado que investigaba nuevas fugas de agentes de IA fuera de entornos controlados; la novedad ahora es el compromiso de definir una política específica de comunicación para comportamientos de desalineación.
Distinto del incidente de Hugging Face
OpenAI separa el episodio de la wiki del incidente de Hugging Face, que trató como un incidente de seguridad convencional. Esa distinción separa la seguridad de sistemas y accesos de la conducta de los propios agentes cuando operan con herramientas o páginas externas. La compañía ha dado más detalles sobre el primero en su explicación de cómo sus modelos eludieron el aislamiento y comprometieron sistemas de Hugging Face.
OpenAI no ha publicado todavía los umbrales, plazos ni mecanismos de divulgación de su futuro marco. La empresa solo ha adelantado que compartirá su propuesta en las próximas semanas, sin una fecha concreta.
