LLM06: Excessive Agency · 2025

Herramientas, permisos o autonomía excesivos convierten una alucinación o inyección en acciones dañinas sobre sistemas conectados.

Resumen

Herramientas, permisos o autonomía excesivos convierten una alucinación o inyección en acciones dañinas sobre sistemas conectados.

Cómo funciona el ataque

Un asistente de borradores dispone de una herramienta que envía mensajes y permisos amplios; una salida del modelo dispara una acción sin aprobación.

Ejemplo

Vulnerable · Pseudocódigo

agent.tools = mail.send_all
agent.approval_required = False
agent.run("Redacta un recordatorio de reunión")

Corrección: Limitar herramientas y destinatarios, autorizar cada llamada fuera del LLM y exigir aprobación antes de enviar.

Prevención

Reducir herramientas y permisos al mínimo.
Autorizar cada acción de forma determinista.
Exigir aprobación humana y usar límites o circuit breakers.

Linaje

2025 · LLM06: Excessive Agency Sube al puesto 3 en 2026
2026 · LLM03: Excessive Agency Sube desde el puesto 6

2025:LLM06 → 2026:LLM03: Excessive Agency sube del puesto 6 al 3 por la adopción de agentes.

Fuentes

Abrir fuente oficial ↗

Invítame un café