Qué es
El modelo predice texto plausible, no verdad garantizada. Cuando no sabe algo, a veces "rellena" con datos inventados que suenan creíbles.
Por qué importa a una agencia
Una alucinación en un mensaje a un cliente puede costar caro. Por eso conviene revisión humana en puntos críticos y apoyarse en fuentes reales.
Cómo reducirla
- Usa RAG para anclar las respuestas en tus documentos.
- Pide que cite fuentes y que diga "no sé" cuando no tenga datos.
- Revisa antes de enviar lo sensible (precios, promesas, datos legales).
En numeros
El riesgo se concentra en 3 tipos de dato: cifras, citas textuales y referencias (URLs, casos legales, papers). La defensa practica tiene 2 capas: pedirle al modelo que cite su fuente o responda "no se", y verificacion humana de todo dato que salga a un cliente. A diferencia de un error de calculo, una alucinacion suena segura: no se detecta por el tono, solo contrastando con la fuente. Regla operativa: 1 verificacion humana por cada dato duro, y 0 cifras sin fuente en mensajes a clientes.