TL;DR
Una IA no miente, adivina ni farolea — predice el siguiente fragmento de texto más plausible, y plausible no es lo mismo que verdadero. Como la maquinaria no tiene duda integrada, toda salida llega con la misma voz serena y confiada, y por eso una estadística fabricada puede verse idéntica a una verificada.
La Analogía
Imagina al actor de improvisación más comprometido del mundo, en mitad de una escena en el escenario.
Su entrenamiento es absoluto: nunca romper el personaje. Si otro actor pregunta por un primo inventado hace dos segundos, el actor de improvisación no tartamudea ni protesta — entrega una biografía completa para ese primo, con ciudad natal, una risa y un rencor, todo inventado al instante. Pídele el clima de una ciudad ficticia, y te dará un pronóstico. Eso no es engaño. Rellenar el hueco sin costuras es el trabajo. El único pecado imperdonable en la improvisación es pausar, palidecer y murmurar "Yo... realmente no sé".
Un gran modelo de lenguaje es ese actor. La escena es tu conversación, y el hueco es cualquier cosa que preguntes donde el modelo no tiene suelo firme debajo. No dudará, sudará ni señalará la invención — la duda no forma parte de la actuación. Lo que llamamos alucinación de IA es simplemente una escena de improvisación donde el público olvidó que era improvisación: fluida, segura, detallada — y hecha de nada.
El giro cruel: la voz que te dice una verdad y la voz que te dice una fabricación son la misma voz, al mismo volumen. No hay gesto que la delate. Lo que significa que la responsabilidad de verificar los hechos silenciosamente pasó del hablante a ti.
Cómo Funciona
He aquí la frase que lo explica todo: un modelo de lenguaje no sabe cosas — predice texto.
Bajo el capó, el modelo leyó una cantidad enorme de escritura humana y aprendió una habilidad a la perfección: dado todo lo anterior, ¿qué fragmento de texto viene con más plausibilidad a continuación? No "¿qué es verdadero?" — qué es probable, según patrones. Esas dos preguntas se superponen constantemente, y por eso la IA es genuinamente útil. Pero son objetivos distintos, y el modelo solo se optimiza para uno de ellos.
Nota lo que falta en esa máquina:
| Lo que la gente imagina que hay dentro | Lo que realmente hay dentro |
|---|---|
| Una base de datos de hechos donde consulta | Patrones estadísticos de cómo las palabras siguen a palabras |
| Un verificador de hechos que revisa cada respuesta | Nada — generar y revisar son el mismo acto |
| Una sensación de saber, o de duda | Ninguna sensación; la confianza es un estilo, no una señal |
| Una intención de engañar | Ninguna intención — por eso "mentir" es la palabra equivocada |
El tono confiado engaña a todos porque no es producido por certeza. Es producido por los datos de entrenamiento: el material de referencia de internet está abrumadoramente escrito en prosa asertiva, así que prosa asertiva es lo que emite el predictor. El tono es decoración. No lleva información sobre exactitud.
Los huecos lo empeoran. Pregunta por algo famoso y bien documentado, y las predicciones viajan sobre patrones sólidos — normalmente obtienes la verdad. Pregunta por algo oscuro, de nicho o numérico, y el modelo enfrenta al primo del actor de improvisación: no existe material, así que genera el material de sonido más plausible. Y una ventana de contexto abarrotada amplifica el problema — cuando tus instrucciones críticas ya se deslizaron fuera del escritorio, el modelo alegremente rellena alrededor del hueco en lugar de notarlo.
Antes y Después (Defensa)
No puedes instalar duda en el modelo, pero puedes alquilarla — con instrucciones que hacen la honestidad más barata que la invención:
Ejemplo 1 — la consulta de datos
¿Cuál es el teléfono de Odontología Blue Harbor en Portland?
Un hueco con forma de teléfono. El modelo produce una respuesta con forma de teléfono, dígito por dígito, plausible hasta el final. Puede ser real. Puede estar cosida de tres dentistas distintos. La voz no te dirá cuál.
¿Cuál es el teléfono de Odontología Blue Harbor en Portland? Si no estás seguro, di "no lo sé" — no adivines ni construyas un número plausible.
Misma pregunta, pero ahora "no lo sé" es un movimiento permitido e invitado. La predicción se desplaza hacia admitir el hueco en lugar de taparlo.
Ejemplo 2 — el resumen de investigación
Resume la investigación sobre la luz solar matutina y la calidad del sueño.
Llega un resumen fluido, posiblemente mezclando hallazgos reales con relleno confiado, sin marcar e indistinguible.
Resume la investigación sobre la luz solar matutina y la calidad del sueño. Cita los estudios específicos en los que te basas. Después del resumen, añade una sección titulada "Lo que no me consta" listando cualquier afirmación que no puedas fundamentar en un estudio citado.
Ahora la invención debe declararse. Las citas fabricadas siguen siendo posibles — verifícalas — pero el formato obliga al modelo a exponer sus propios puntos débiles en lugar de enterrarlos.
Ejemplo 3 — el escudo de precisión
Escribe sobre marketing.
Una invitación vasta y vaga — el hueco más ancho posible para que el predictor lo llene con relleno genérico.
Redacta una publicación de LinkedIn de 150 palabras anunciando el nuevo horario de sábado de nuestra panadería, tono cálido, máximo un emoji, terminando con una invitación a visitar. Si algún detalle de la panadería te es desconocido, deja un [ESPACIO ENTRE CORCHETES] en lugar de inventarlo.
Este es el prompt one-shot vistiendo su otro sombrero: la precisión como mecanismo de defensa. Un alcance estrecho deja menos espacio para que el modelo divague hacia la invención, y la regla del espacio entre corchetes le da al actor de improvisación una alternativa segura para el escenario — dejar un hueco visible que tú mismo rellenas.
Errores Comunes
- Confiar en el tono en lugar del texto. La prosa fluida, confiada y bellamente estructurada es una declaración sobre los datos de entrenamiento, no sobre los hechos. Juzga las afirmaciones, nunca la entrega.
- Hacer preguntas sugestivas. "¿Por qué beber jugo de apio revierte el envejecimiento?" presupone la conclusión — y el predictor, siempre complaciente, generará razones para ella. Pregunta "¿Hay evidencia de que...?" y deja que la respuesta gane su forma.
- Exigir detalles que el modelo no puede tener. Números exactos, citas, referencias, URLs y cualquier cosa sobre personas oscuras o eventos recientes es donde la invención se concentra. Trata cada uno de esos como un espacio por llenar hasta verificar.
- Aceptar el primer borrador en datos de alto riesgo. Nombres, fechas, estadísticas, afirmaciones legales o médicas, precios: verifica contra una fuente real cada vez, no importa cuán autoritaria sonó la frase. El costo de comprobar es de segundos; el costo de no hacerlo es público.
- Castigar la honestidad. Si le gruñes a un "no lo sé", la conversación aprende la lección — las respuestas siguientes tenderán a la suposición confiada, porque eso es lo que recompensaste. Agradece al modelo por admitir huecos y admitirá más.
Preguntas Frecuentes
¿Por qué miente la IA?
No miente — no en el sentido humano, porque mentir requiere intención, y un modelo de lenguaje no tiene ninguna. Genera la continuación más plausible de tu conversación, y cuando la verdad no está disponible en sus patrones, la plausibilidad llena el espacio sin costuras. El resultado parece mentira, y por eso el término técnico es el más amable: alucinación.
¿Qué es una alucinación de IA?
Una alucinación es cualquier salida fluida y confiada pero factualmente errónea o completamente fabricada — una estadística inventada, una cita falsa, una biografía plausible para una persona que no existe. Ocurre porque el modelo optimiza para texto probable, no texto verificado, y no tiene alarma interna que distinga ambos.
¿Cómo hago que la IA deje de inventar?
No puedes impedirlo totalmente — es la naturaleza de la maquinaria — pero puedes reducirlo drásticamente: invita el "no lo sé" explícitamente, exige citas y una sección de incertidumbre, usa prompts one-shot precisos que encojan el espacio para la invención, mantén la ventana de contexto limpia para que tus restricciones sigan visibles, y verifica tú mismo cada afirmación específica. La defensa es un hábito, no una configuración.
Próxima Lección
He aquí la percepción silenciosa escondida en todo esto: la misma arma que derrota a las alucinaciones también hace cada respuesta más barata, más afilada y más fácil de usar. Invitar el "no lo sé" es solo un sabor de un poder más amplio — decirle a la IA exactamente qué forma debe tener la respuesta antes de que empiece a hablar. El alcance y el formato son las dos perillas que la mayoría de los principiantes nunca toca, y las dos que lo cambian todo.
Continúa a la próxima lección: Limitando el Alcance y Forzando Formatos
Ejercicio práctico antes de irte: pregúntale a tu IA algo genuinamente oscuro, dos veces. Primero de forma simple, luego con "si no estás seguro, dilo — no adivines". Compara las dos respuestas, y asimila el hecho de que suenan exactamente igual de confiadas.