El problema no comienza cuando la inteligencia artificial se equivoca. Comienza cuando nosotros dejamos de sospechar que puede estar equivocándose.
Una respuesta absurda es relativamente fácil de detectar. Una fecha imposible, un nombre que no corresponde o una explicación incoherente despiertan nuestra atención. El verdadero peligro aparece cuando ocurre exactamente lo contrario: recibimos una respuesta bien escrita, ordenada, razonable, segura y suficientemente cercana a lo que esperábamos encontrar.
Entonces bajamos la guardia.
Y en ese momento una equivocación deja de ser solamente un problema tecnológico. Puede convertirse en una decisión.
Imagine una escena que ya está ocurriendo en muchas organizaciones.
Son las siete de la noche. Un gerente debe presentar al día siguiente una recomendación importante. Necesita comprender rápidamente un mercado, verificar antecedentes de una empresa, analizar una regulación, comparar competidores o justificar una inversión.
Pregunta a una inteligencia artificial.
En segundos obtiene algo extraordinariamente cómodo: contexto, cifras, explicaciones, nombres, argumentos y una conclusión que parece tener sentido.
Lee rápidamente.
Todo suena bien.
Además, la respuesta confirma algo que él ya venía pensando.
Copia varios datos en la presentación.
A la mañana siguiente esos datos llegan a una reunión donde participan cinco personas. Nadie pregunta de dónde salió exactamente cada afirmación porque la presentación parece sólida. La conversación continúa y, sobre esa información, se modifica un presupuesto, se descarta una alternativa, se cambia una prioridad o se compromete una decisión.
Tal vez uno de los datos era falso.
Ya no importa demasiado quién lo produjo.
El dato entró al sistema de decisiones de la empresa.
Y allí comienza el verdadero problema.
He trabajado durante décadas alrededor de tecnología, organizaciones y personas. Mucho antes de que habláramos de inteligencia artificial generativa aprendí algo que todavía incomoda: las empresas rara vez se equivocan únicamente por falta de información.
También se equivocan porque una explicación suficientemente convincente consigue convertirse en verdad antes de que alguien tenga el valor de cuestionarla.
La inteligencia artificial no creó ese comportamiento humano.
Lo aceleró.
Ahora podemos producir explicaciones coherentes a una velocidad que ninguna organización había tenido antes.
Podemos generar informes, análisis, correos, escenarios, recomendaciones, diagnósticos y documentos completos prácticamente en el mismo tiempo que antes necesitábamos para formular correctamente el problema.
Eso representa una oportunidad extraordinaria.
También cambia radicalmente el costo de no pensar.
A estas respuestas falsas pero plausibles suele llamárseles “alucinaciones”. NIST utiliza también el término confabulaciones para describir contenido erróneo o falso expresado de manera convincente por sistemas generativos.
No es una dificultad que haya desaparecido con modelos más capaces.
Ha mejorado.
Y esa diferencia importa.
OpenAI informó en 2026 que GPT-5.4 redujo nuevamente los errores factuales frente a GPT-5.2: en una evaluación basada en afirmaciones donde usuarios habían señalado errores, las afirmaciones individuales fueron un 33 % menos propensas a resultar falsas y las respuestas completas un 18 % menos propensas a contener algún error.
Es una mejora importante.
Pero hay una conclusión que no deberíamos confundir: reducir la frecuencia de un problema no equivale a eliminar su naturaleza.
El riesgo permanece precisamente porque las respuestas correctas son cada vez mejores.
Esto parece contradictorio.
No lo es.
Cuando una herramienta se equivoca constantemente, desconfiamos de ella.
Cuando acierta casi siempre, empezamos a confiar.
Y cuando esa confianza crece, cada error restante puede resultar más peligroso porque llega acompañado por nuestra propia expectativa de precisión.
Esa es la parte que muchas conversaciones sobre inteligencia artificial están dejando por fuera.
Estamos concentrados en medir la capacidad de las máquinas cuando también deberíamos estar examinando lo que sucede con el criterio humano frente a máquinas cada vez más convincentes.
Porque una inteligencia artificial puede equivocarse.
Pero somos nosotros quienes otorgamos autoridad a la respuesta.
Durante años aprendimos a identificar ciertas señales de credibilidad. Un documento detallado parecía más serio que uno superficial. Una explicación estructurada parecía más confiable que una desordenada. Una persona capaz de relacionar antecedentes, cifras y consecuencias transmitía preparación.
El lenguaje era una señal indirecta de conocimiento.
Ahora esa relación cambió.
Por primera vez tenemos sistemas capaces de producir una enorme sensación de competencia lingüística sin que esa fluidez garantice automáticamente que cada afirmación sea verdadera.
Eso exige reconstruir una parte de nuestro criterio.
No para desconfiar de la tecnología.
Para aprender a utilizarla.
Hay una diferencia profunda entre ambas cosas.
Yo también he sentido la comodidad de recibir en segundos una respuesta que encaja perfectamente con una pregunta compleja.
Y allí he tenido que recordar algo que parece obvio hasta que la velocidad comienza a seducirnos: que una respuesta tenga sentido no significa que sea cierta.
Mucho menos significa que debamos tomar una decisión basándonos en ella.
Nuestro cerebro tiene otra dificultad.
No recibe todas las respuestas de la misma manera.
Cuando algo confirma lo que ya creemos, nuestra exigencia disminuye.
Un empresario convencido de que su problema comercial se debe al mercado puede preguntarle a una inteligencia artificial por qué están cayendo las ventas.
Si formula la pregunta desde esa convicción, es perfectamente posible obtener una explicación sofisticada sobre inflación, competencia, comportamiento de consumidores, nuevos canales o cambios tecnológicos.
Puede ser un análisis razonable.
Puede incluso contener información correcta.
Pero quizá la caída de ventas tenga otra explicación que nadie quiere mirar.
Tal vez los clientes ya no perciben suficiente valor.
Tal vez el producto perdió relevancia.
Tal vez el equipo comercial dejó de escuchar.
Tal vez los procesos internos dificultan comprar.
Tal vez una decisión tomada por la dirección hace dos años está produciendo ahora las consecuencias.
O quizá el empresario está buscando información para justificar una conclusión que ya había tomado.
Ahí la inteligencia artificial puede convertirse involuntariamente en algo más peligroso que una fuente de información equivocada.
Puede convertirse en una máquina de confirmación.
La tecnología no necesariamente inventó nuestro error.
Nos ayudó a argumentarlo.
Ese fenómeno no pertenece solamente a las empresas.
También aparece en la vida personal.
Una persona atraviesa un conflicto con su pareja y describe a una inteligencia artificial lo sucedido.
Pero describe su versión.
Selecciona los episodios.
Escoge las palabras.
Explica cómo actuó la otra persona y pregunta qué significa ese comportamiento.
La máquina responde con una interpretación psicológica aparentemente impecable.
Quizá menciona patrones de manipulación, distancia emocional, inseguridad, control o evitación.
De repente una interpretación se transforma en diagnóstico.
Y el usuario comienza a observar la relación desde esa nueva explicación.
Cada comportamiento posterior parece confirmarla.
Una respuesta generada en treinta segundos empieza a modificar una relación construida durante años.
La tecnología puede haber ayudado a pensar.
También puede haber proporcionado una certeza que la realidad todavía no justificaba.
La diferencia depende menos de la herramienta de lo que queremos aceptar.
Depende del criterio de quien la utiliza.
Por eso este asunto toca dinero, relaciones, liderazgo y dirección de vida.
Todos esos espacios comparten algo: contienen incertidumbre.
Y nosotros tenemos una relación complicada con ella.
Nos cuesta decir “no sé”.
Nos incomoda llegar a una reunión sin respuesta.
Nos inquieta reconocer que todavía no tenemos suficiente información.
Preferimos una explicación imperfecta a permanecer demasiado tiempo delante de una pregunta abierta.
La investigación publicada por OpenAI en 2025 sobre las alucinaciones de los modelos señaló precisamente una dimensión interesante del problema técnico: los sistemas de entrenamiento y evaluación pueden terminar premiando la conjetura sobre el reconocimiento explícito de la incertidumbre.
Curiosamente, los seres humanos hacemos algo parecido.
También premiamos al que responde.
En muchas empresas, el directivo que dice “necesito verificarlo” puede parecer menos preparado que quien responde inmediatamente.
Confundimos velocidad con dominio.
Confundimos seguridad con conocimiento.
Confundimos fluidez con profundidad.
Y ahora hemos construido una tecnología extraordinariamente buena produciendo respuestas rápidas, seguras y fluidas.
La combinación merece atención.
El problema, entonces, no se resuelve escribiendo una instrucción que diga: “no alucines”.
Tampoco diciendo a los empleados que siempre deben verificar absolutamente todo.
Eso sería poco práctico.
La pregunta estructural es diferente:
¿Qué grado de certeza necesita una información antes de convertirse en acción?
No todas las consultas tienen el mismo riesgo.
Si utilizo inteligencia artificial para explorar veinte nombres posibles para un proyecto, una equivocación tiene pocas consecuencias.
Si la utilizo para mejorar la estructura inicial de un documento que después revisaré, puedo trabajar con bastante libertad.
Si quiero generar preguntas para preparar una reunión, puede convertirse en un excelente compañero intelectual.
Pero si la respuesta va a modificar una inversión, definir una contratación, comprometer jurídicamente una organización, determinar una acción médica, evaluar una persona, transformar una estrategia o afectar una relación importante, ya no estoy simplemente utilizando inteligencia artificial.
Estoy participando en un proceso de decisión.
Y los procesos de decisión requieren algo que ningún modelo debería reemplazar: responsabilidad.
Ese es el punto que más me preocupa cuando escucho a una organización hablar únicamente de “adopción de IA”.
Adoptar herramientas es relativamente sencillo.
Construir criterio organizacional es mucho más difícil.
Una empresa puede adquirir licencias esta semana.
Puede capacitar al personal durante un mes.
Puede desarrollar agentes.
Puede conectar sistemas.
Puede automatizar procesos.
Puede incorporar inteligencia artificial dentro de ventas, mercadeo, operaciones, servicio, recursos humanos y finanzas.
Pero ninguna de esas inversiones responde por sí sola a preguntas esenciales.
¿Cuáles decisiones pueden apoyarse ampliamente en inteligencia artificial?
¿Cuáles necesitan verificación independiente?
¿Cuáles exigen participación humana obligatoria?
¿Qué información jamás debería convertirse automáticamente en una decisión?
¿Quién responde cuando una recomendación generada por un sistema produce una consecuencia real?
¿Tenemos definido dónde termina la automatización y comienza la responsabilidad?
Si esas preguntas no existen, la empresa puede estar modernizando herramientas mientras debilita su capacidad de decidir.
Esa contradicción merece ser observada.
Tecnología avanzada no significa necesariamente pensamiento avanzado.
A veces solamente significa que podemos cometer errores antiguos con mayor eficiencia.
Durante años, una empresa podía tardar semanas en producir un análisis equivocado.
Ahora puede hacerlo en minutos.
La velocidad no corrige el juicio.
Lo amplifica.
Por eso utilizo una pregunta sencilla cuando una información parece importante:
¿Qué pasa si esto es falso?
La pregunta cambia completamente la manera de trabajar.
Si la respuesta es “no pasa gran cosa”, puedo avanzar.
Si la respuesta es “podríamos perder dinero, afectar a alguien, comprometer la empresa o tomar una decisión difícil de revertir”, entonces debo elevar el nivel de comprobación.
No necesito verificar cada palabra.
Necesito identificar qué afirmaciones sostienen la decisión.
Allí está la diferencia.
Una cifra crítica necesita fuente.
Una regulación necesita actualidad.
Una afirmación sobre una persona necesita evidencia.
Un dato sobre un competidor necesita contexto.
Una recomendación financiera necesita supuestos visibles.
Una interpretación psicológica necesita prudencia.
Una decisión empresarial necesita algo más que una respuesta convincente.
Necesita comprender las consecuencias.
Ese hábito modifica nuestra relación con la inteligencia artificial porque dejamos de tratarla como una especie de oráculo digital y comenzamos a utilizarla como lo que realmente puede ser: una herramienta extraordinaria para ampliar nuestra capacidad de pensar.
Puede ayudarnos a explorar escenarios.
Puede mostrar contradicciones.
Puede cuestionar una hipótesis.
Puede preparar preguntas.
Puede comparar alternativas.
Puede resumir información.
Puede buscar debilidades en nuestro razonamiento.
Incluso podemos pedirle que ataque nuestra propia conclusión.
Eso último me parece especialmente valioso.
En lugar de preguntar solamente:
“¿Por qué tengo razón?”
Podemos preguntar:
“¿Qué tendría que ser falso para que mi conclusión estuviera equivocada?”
O:
“¿Qué información estoy ignorando?”
O:
“¿Qué explicación alternativa existe?”
O:
“¿Cuál sería el costo de actuar sobre esta información si resulta incorrecta?”
La calidad de nuestro uso cambia inmediatamente.
Ya no utilizamos inteligencia artificial únicamente para producir respuestas.
La utilizamos para mejorar preguntas.
Y después de décadas alrededor de empresas, tecnología y decisiones, sigo encontrando que una pregunta correcta tiene un valor que rara vez reconocemos.
Las respuestas cierran.
Las buenas preguntas mantienen abierta la posibilidad de comprender.
Hay otra incomodidad.
La alucinación más peligrosa probablemente no será espectacular.
No será necesariamente una historia completamente inventada.
Puede ser una cifra dentro de un documento correcto.
Una fecha incorrecta.
Una atribución equivocada.
Una regulación desactualizada.
Un supuesto estudio.
Una fuente que existe pero no dice lo que la respuesta afirma.
Un nombre confundido.
Una conclusión excesiva construida sobre datos verdaderos.
Ese pequeño elemento puede modificar todo.
Las decisiones funcionan como estructuras.
Una conclusión puede estar perfectamente razonada y aun así ser incorrecta si descansa sobre una premisa falsa.
Por eso no deberíamos obsesionarnos únicamente con si “la IA alucina”.
La pregunta más madura es otra:
¿Nuestra organización sabe detectar dónde una equivocación sería crítica?
Eso requiere algo distinto de capacitación técnica.
Requiere criterio.
Y el criterio se construye comprendiendo contexto, consecuencias y responsabilidad.
Un empleado puede aprender en una tarde a escribir mejores instrucciones.
Un líder puede aprender rápidamente a utilizar una herramienta.
Pero construir la capacidad de saber cuándo confiar, cuándo cuestionar y cuándo detener una decisión exige experiencia, humildad y una comprensión más amplia del sistema.
Ese es uno de los desafíos centrales de esta nueva etapa.
Mientras más capaces sean las máquinas, menos valor tendrá competir con ellas produciendo información.
Nuestro valor estará cada vez más en comprender qué información importa.
En conectar elementos.
En interpretar contexto.
En reconocer consecuencias.
En hacer preguntas que todavía no aparecen en la pantalla.
Y, especialmente, en asumir responsabilidad por las decisiones que tomamos después de recibir una respuesta.
La inteligencia artificial no firma el contrato.
No mira a los empleados cuando una decisión obliga a reducir personal.
No explica a una familia por qué una inversión salió mal.
No reconstruye una relación deteriorada.
No responde ante un socio.
No vive las consecuencias.
Nosotros sí.
Esa realidad devuelve la conversación al lugar donde siempre debió estar.
La tecnología importa.
Pero la decisión sigue siendo humana.
Podemos exigir modelos más precisos y debemos hacerlo. Los avances recientes muestran que disminuir las alucinaciones continúa siendo una prioridad técnica real.
Pero sería ingenuo pensar que construiremos sistemas suficientemente buenos como para dejar de ejercer criterio.
La mejora tecnológica no elimina nuestra responsabilidad.
La hace más visible.
Tal vez dentro de algunos años recordemos esta etapa y nos parezca primitiva la cantidad de errores que todavía producían los sistemas actuales.
Pero habrá otra clase de error esperando.
No necesariamente en la máquina.
En nosotros.
El día en que una herramienta sea correcta el 99 % de las veces, el verdadero desafío será saber qué hacemos con el 1 % restante cuando ya nos acostumbramos a confiar.
Porque la confianza también automatiza comportamientos.
Y cuando dejamos de comprobar algo no porque lo hayamos comprendido sino porque casi siempre funciona, comenzamos a delegar silenciosamente una parte de nuestro criterio.
Ese es el límite que debemos aprender a observar.
No necesitamos temerle a la inteligencia artificial.
Necesitamos relacionarnos con ella desde una madurez distinta.
Utilizar su velocidad sin entregar nuestra responsabilidad.
Aprovechar su capacidad sin confundirla con infalibilidad.
Permitirle ampliar nuestras posibilidades sin dejar que cierre preguntas que todavía necesitan ser pensadas.
La próxima vez que una respuesta llegue perfectamente escrita, estructurada, razonable y coincida exactamente con lo que usted esperaba encontrar, no necesariamente desconfíe de ella.
Haga algo más útil.
Pregúntese qué decisión piensa tomar gracias a esa respuesta.
Después pregúntese qué ocurriría si la información fuera falsa.
Ahí aparece la medida real del riesgo.
Y posiblemente también aparezca algo más importante: la diferencia entre utilizar inteligencia artificial y entregar a la inteligencia artificial una responsabilidad que nunca fue suya.
Si este tema está apareciendo en decisiones reales de su empresa, en la forma como su equipo está utilizando inteligencia artificial o en conversaciones donde la tecnología comienza a sustituir criterio, podemos profundizarlo en una conversación estratégica, conferencia o masterclass: