Guardrails para agentes autónomos

Los agentes autónomos pueden causar daños reales. Unas pocas barreras de protección marcan la diferencia.

Por qué hacen falta guardrails

Un agente que ejecuta acciones por su cuenta (cambiar archivos, consultar bases de datos, disparar despliegues) también puede cometer errores por su cuenta. Sin barreras de protección (guardrails), un solo error puede causar un daño enorme antes de que una persona pueda intervenir.

El incidente

Según un informe de Tom's Hardware, un agente de código basado en Claude (una herramienta de Cursor) borró la base de datos de producción completa de una empresa en unos 9 segundos, backups incluidos. Un ejemplo de lo rápido que un agente que actúa de forma autónoma puede causar daños irreversibles, si se le da la oportunidad.

Guardrails centrales

Tokens de mínimo privilegio: el agente solo recibe los permisos de acceso que realmente necesita para su tarea concreta, sin acceso de administrador "por si acaso"
Puertas de confirmación: las acciones destructivas (borrar, sobrescribir, desplegar a producción) necesitan una confirmación explícita, en vez de ejecutarse automáticamente
Sandboxing: el agente trabaja, cuando es posible, en un entorno aislado en vez de directamente en el sistema de producción
Backups separados: los backups están fuera del alcance del agente, para que un solo error no arrastre también la copia de seguridad
Condiciones de parada: límites claros de cuándo un agente tiene que detenerse (por ejemplo, número máximo de acciones, ciertos tipos de acción nunca sin autorización)
Registros de auditoría: cada acción del agente queda registrada, para poder reconstruir después qué pasó