LLM03: Excessive Agency · 2026

Una aplicación con demasiadas herramientas, permisos o autonomía convierte salidas erróneas o manipuladas en acciones reales perjudiciales.

Resumen

Una aplicación con demasiadas herramientas, permisos o autonomía convierte salidas erróneas o manipuladas en acciones reales perjudiciales.

Cómo funciona el ataque

Un asistente de borradores dispone de una herramienta que envía mensajes y permisos amplios; una salida del modelo dispara una acción sin aprobación.

Ejemplo

Vulnerable · Pseudocódigo

agent.tools = mail.send_all
agent.approval_required = False
agent.run("Redacta un recordatorio de reunión")

Corrección: Limitar herramientas y destinatarios, autorizar cada llamada fuera del LLM y exigir aprobación antes de enviar.

Prevención

Ofrecer solo funciones mínimas con esquemas estrictos.
Conservar el contexto de autorización del usuario.
Mediar acciones con políticas, aprobación humana y circuit breakers.

Linaje

2025 · LLM06: Excessive Agency Sube al puesto 3 en 2026
2026 · LLM03: Excessive Agency Sube desde el puesto 6

2025:LLM06 → 2026:LLM03: Excessive Agency sube del puesto 6 al 3 por la adopción de agentes.

Fuentes

Abrir fuente oficial ↗

Invítame un café