LLM09: Misinformation · 2025
El modelo produce información falsa o engañosa con apariencia convincente; la sobreconfianza convierte esos errores en decisiones o acciones dañinas.
Resumen
El modelo produce información falsa o engañosa con apariencia convincente; la sobreconfianza convierte esos errores en decisiones o acciones dañinas.
Cómo funciona el ataque
El modelo inventa una referencia convincente; una persona acepta la respuesta sin comprobar la fuente y toma una decisión errónea.
Ejemplo
Vulnerable · PseudocódigoPregunta: ¿Cuál es nuestro plazo de devolución?
Respuesta: 90 días, según la sección 8 de la política.
# Esa sección no existeCorrección: Fundamentar con fuentes verificables, comprobar las citas y exigir revisión humana en decisiones importantes.
Prevención
- Fundamentar respuestas con fuentes confiables.
- Exigir verificación cruzada y supervisión humana.
- Validar automáticamente resultados críticos y código generado.
Linaje
- 2025 · LLM09: Misinformation Sube al puesto 7 en 2026
- 2026 · LLM07: Misinformation Sube desde el puesto 9
- 2025:LLM09 → 2026:LLM07: Misinformation sube del puesto 9 al 7.