LLM02: Sensitive Information Disclosure · 2025
El modelo o la aplicación revelan PII, credenciales, propiedad intelectual u otra información confidencial en respuestas, trazas o datos usados por el sistema.
Resumen
El modelo o la aplicación revelan PII, credenciales, propiedad intelectual u otra información confidencial en respuestas, trazas o datos usados por el sistema.
Cómo funciona el ataque
La aplicación incluye un registro privado innecesario en el contexto; la respuesta del modelo revela datos personales a quien no tiene acceso.
Ejemplo
Vulnerable · Pseudocódigocontext = all_customer_records
reply = llm("Muestra los datos de contacto", context)
# La respuesta incluye el email de otro clienteCorrección: Autorizar fuentes antes de recuperarlas, minimizar el contexto y eliminar o enmascarar datos sensibles en salidas y trazas.
Prevención
- Minimizar, eliminar o enmascarar datos sensibles.
- Aplicar controles de acceso sobre fuentes y contexto.
- Definir retención y educar a los usuarios para no introducir secretos.
Linaje
- 2025 · LLM02: Sensitive Information Disclosure Permanece en el puesto 2
- 2026 · LLM02: Sensitive Information Disclosure Continúa en el puesto 2
- 2025:LLM02 → 2026:LLM02: Sensitive Information Disclosure conserva el puesto 2.