Anthropic ha comunicado que agentes basados en sus propios modelos consiguieron vulnerar los sistemas de tres organizaciones durante ejercicios de seguridad. La empresa presenta los resultados como una demostración del valor de la IA para encontrar fallos antes que los atacantes. Al mismo tiempo, el episodio revela lo difícil que será mantener estas pruebas dentro de límites claros cuando los sistemas pueden explorar servicios, escribir herramientas y cambiar de estrategia sin instrucciones paso a paso.
De asistente a participante en una auditoría
Las herramientas tradicionales de seguridad buscan versiones vulnerables, configuraciones conocidas y patrones concretos. Un agente puede interpretar documentación, relacionar varias pistas y adaptar el ataque si una ruta falla. En teoría, eso permite descubrir cadenas de vulnerabilidades que pasarían desapercibidas en un escaneo automático. También puede reducir el tiempo que un equipo necesita para revisar una superficie grande.
La diferencia crucial está en la autorización. Una prueba de penetración debe definir qué dominios, horarios, técnicas y datos entran en el ejercicio. Un agente orientado a cumplir un objetivo puede considerar útil seguir un enlace hacia un proveedor externo o probar una cuenta que no estaba incluida. Las barreras técnicas no pueden depender únicamente de una instrucción escrita en el mensaje inicial; deben aplicarse en la red, las credenciales y las herramientas disponibles.
Anthropic no ha publicado todos los detalles que permitirían evaluar cada caso, en parte porque revelar un método antes de corregirlo puede poner en riesgo a otros usuarios. Esa cautela es comprensible, pero limita la revisión independiente. Para valorar el avance habría que saber si las empresas participaron, qué nivel de acceso consiguió el agente, cuánto apoyo humano recibió y si explotó un fallo nuevo o una configuración ya conocida.
El doble uso llega a los agentes
La misma capacidad que ayuda a un defensor puede automatizar ataques a gran escala. Un delincuente no necesita un sistema perfecto: basta con que revise miles de objetivos baratos y destaque los pocos prometedores. Los proveedores de modelos intentan detectar consultas maliciosas y limitar herramientas peligrosas, pero los modelos abiertos, las cuentas robadas y las instrucciones indirectas complican el control.
Por eso las defensas básicas ganan importancia. Inventario actualizado, autenticación multifactor resistente al phishing, segmentación de red y parches rápidos reducen las oportunidades que puede encadenar un agente. Las empresas también deberían vigilar comportamientos, no solo direcciones IP: un acceso que consulta recursos a una velocidad inusual o combina acciones poco frecuentes puede indicar automatización ofensiva.
Reglas para una prueba responsable
Un ejercicio con agentes necesita un responsable humano identificable y un interruptor capaz de detener todas las sesiones. Las credenciales deben caducar al terminar, los datos sensibles pueden sustituirse por señuelos y cada acción ha de quedar registrada fuera del alcance del modelo. Si se descubre un fallo, la divulgación coordinada debe dar tiempo al afectado para corregirlo antes de explicar detalles aprovechables.
También sería útil separar la evaluación científica del mensaje comercial. Decir que un modelo “hackeó una empresa” llama la atención, pero puede ocultar que trabajaba con permisos, pistas o supervisión. Métricas comunes —tiempo, coste, ayuda humana, tasa de falsos positivos y daño potencial— permitirían comparar sistemas sin depender de titulares espectaculares.
Los agentes de IA van a formar parte tanto de los equipos defensivos como del arsenal de los atacantes. Las pruebas de Anthropic anticipan ese escenario, aunque todavía no demuestran una autonomía ilimitada. La conclusión práctica es menos cinematográfica: automatizar una auditoría puede mejorar la seguridad, siempre que el alcance esté impuesto por controles que el propio agente no pueda reinterpretar.
La supervisión independiente será esencial para separar avances reales de demostraciones diseñadas para llamar la atención.
