LLM05: Data and Model Poisoning · 2026

Datos o artefactos manipulados corrompen de forma duradera aprendizaje, embeddings, RAG o feedback continuo y pueden ocultar puertas traseras.

Resumen

Datos o artefactos manipulados corrompen de forma duradera aprendizaje, embeddings, RAG o feedback continuo y pueden ocultar puertas traseras.

Cómo funciona el ataque

Datos de entrenamiento manipulados enseñan una asociación falsa; el modelo reproduce esa respuesta tras el ajuste.

Ejemplo

Vulnerable · Pseudocódigo

dataset += unreviewed_feedback
model = fine_tune(base, dataset)
# Las etiquetas alteradas afectan respuestas futuras

Corrección: Versionar y verificar la procedencia de datos; aislar aportes no revisados y evaluar anomalías antes y después del ajuste.

Prevención

Mantener linaje, firmas, hashes y versiones recuperables.
Restringir la inyección de datos y supervisar reentrenamiento.
Monitorizar deriva, anomalías y desencadenantes.

Linaje

2025 · LLM04: Data and Model Poisoning Baja al puesto 5 en 2026
2026 · LLM05: Data and Model Poisoning Baja desde el puesto 4

2025:LLM04 → 2026:LLM05: Data and Model Poisoning baja del puesto 4 al 5.

Fuentes

Abrir fuente oficial ↗

Invítame un café