LLM04: Data and Model Poisoning · 2025

La manipulación de datos, embeddings o artefactos del modelo introduce sesgos, degradación o puertas traseras activadas por condiciones específicas.

Resumen

La manipulación de datos, embeddings o artefactos del modelo introduce sesgos, degradación o puertas traseras activadas por condiciones específicas.

Cómo funciona el ataque

Datos de entrenamiento manipulados enseñan una asociación falsa; el modelo reproduce esa respuesta tras el ajuste.

Ejemplo

Vulnerable · Pseudocódigo

dataset += unreviewed_feedback
model = fine_tune(base, dataset)
# Las etiquetas alteradas afectan respuestas futuras

Corrección: Versionar y verificar la procedencia de datos; aislar aportes no revisados y evaluar anomalías antes y después del ajuste.

Prevención

Registrar procedencia y versiones de datos y modelos.
Aislar fuentes no verificadas y detectar anomalías.
Monitorizar comportamiento y ejecutar pruebas de robustez.

Linaje

2025 · LLM04: Data and Model Poisoning Baja al puesto 5 en 2026
2026 · LLM05: Data and Model Poisoning Baja desde el puesto 4

2025:LLM04 → 2026:LLM05: Data and Model Poisoning baja del puesto 4 al 5.

Fuentes

Abrir fuente oficial ↗

Invítame un café