IA generativa en la prácticaEsencialConcepto técnico
Alucinación
Hallucination · También: confabulación, confabulation
Qué significa
Respuesta de un sistema de IA generativa que parece plausible y está bien redactada, pero contiene información falsa, inventada o sin respaldo. Ocurre porque el modelo genera texto probable, no comprobado. NIST prefiere el término «confabulación» para evitar atribuir a la máquina experiencias humanas.
Un ejemplo
Ejemplo ilustrativo: una estudiante pide bibliografía sobre ética de la IA y recibe cinco referencias con autores, títulos y años verosímiles. Al buscarlas, dos de ellas no existen.
Por qué importa
Obliga a verificar datos, citas y cifras antes de usarlos, sobre todo en contextos profesionales, académicos, sanitarios o legales.
Distinción útil
Una alucinación es un error de generación; la desinformación es contenido falso difundido, con o sin intención, que puede tener cualquier origen.
Fuentes
- Machine Learning Glossary(se abre en una pestaña nueva)Google for Developers — Entrada «hallucination»
- Generative AI Profile (NIST AI 600-1)(se abre en una pestaña nueva)NIST — Riesgo 2.2 «Confabulation»