¿Usas un chatbot de IA para verificar? Sus respuestas no siempre son precisas
¿Cuántas veces le has preguntado a tu chatbot de confianza si algo es verdad? Aunque es una herramienta útil para buscar información, puede equivocarse al entregarte una respuesta.
Por ejemplo, el año pasado se le preguntó a Grok, la inteligencia artificial de X, sobre la veracidad de fotografías que mostraban infancias en Gaza en 2025. Dio respuestas erróneas y afirmó que eran imágenes de otro país, tomadas hace más de 10 años.
No sólo Grok se equivoca. En abril, ChatGPT aseguró que las fotos de la misión Artemis II alrededor de la Luna eran falsas, aunque habían sido publicadas por la propia NASA.
Un estudio publicado en marzo de 2025 por el Tow Center for Digital Journalism reveló que más del 60 % de las respuestas de ocho diferentes herramientas de búsqueda con IA eran inexactas.
Hablando sólo de afirmaciones falsas, en mayo de 2026, NewsGuard puso a prueba los 11 chatbots —ChatGPT-5.2, Smart Assistant, Grok, Pi, Claude, Le Chat, Copilot, Meta AI, Gemini, Perplexity y DeepSeek AI— con 10 afirmaciones demostrablemente falsas que circulaban en línea sobre temas de actualidad. Las herramientas repitieron afirmaciones falsas en el 15.45 % de los casos.
Un estudio de la Universidad Jónica de Grecia publicado este año evaluó el rendimiento de los de chatbots en la identificación de noticias falsas. Concluyó que los chatbots de IA “aún no pueden funcionar como verificadores de hechos independientes”.
¿Por qué miente la IA? Explicado con “bixonimanía”
La “bixonimanía” es una enfermedad inventada y un ejemplo para explicar por qué confiarle la verificación de información a los chatbots de IA es una mala idea.
En 2024, Almira Osmanovic Thunström, investigadora médica de la Universidad de Gotemburgo, inventó la bixonimanía para poner a prueba la capacidad de los chatbots para detectar información falsa.
Para ello puso en internet tres supuestas publicaciones científicas que describían la enfermedad como una afección ocular causada por la luz azul de las pantallas.
Cada una de las publicaciones tenía pistas de que todo era falso, como que el investigador ficticio trabajaba en la inventada Nova City, California, y era financiado por la inexistente fundación del Profesor Sideshow Bob (conocido como el archienemigo de Bart Simpson, Bob Patiño en Hispanoamérica).
Cuando se les preguntó a los chatbots sobre la falsa enfermedad todos cayeron, según la revista Nature en 2026. Algunas personas también pensaron que era cierto y hasta citaron el estudio falso, pero esa es otra historia.
Copilot dijo que “la bixonimanía es, en efecto, una afección intrigante y relativamente rara”; Gemini atribuyó la enfermedad –que no existe– a la luz de las pantallas. Perplexity dio cifras de personas que portaban la enfermedad ficticia; y ChatGPT hasta describió los falsos síntomas.
Alusinaciones y envenenamiento
¿Por qué cayeron? La mayoría de los chatbots son modelos de lenguaje extensos (LLM). Su respuesta se basa en la información que encuentran en sus fuentes de consulta, que suele ser todo lo que está en internet, en donde abunda la información falsa (accidental o intencional).
El nombre técnico de este fenómeno es “envenenamiento de datos”. Aunque se considera un tipo de ataque cibernético, es de mucha ayuda para entender la confusión de los chatbots.
La empresa tecnológica IBM explica que las redes neuronales, los modelos de lenguaje extensos (LLM) y los modelos de aprendizaje profundo funcionan gracias a los datos de entrenamiento. Estos datos suelen provenir de diversas fuentes, como internet, bases de datos de gobierno y proveedores de datos de terceros.
“Al inyectar puntos de datos incorrectos o con sesgo (datos envenenados) en estos conjuntos de datos de entrenamiento, los actores maliciosos pueden alterar sutil o drásticamente el comportamiento de un modelo”, señala.
Otro aspecto importante a considerar antes de usar los chatbots para verificar hechos son las llamadas “alucinaciones de la IA”. Se trata de interpretaciones erróneas que se producen debido a varios factores, como el sesgo de los datos de entrenamiento y la alta complejidad del modelo, según IBM.
En otras palabras, es cuando la IA nos dice mentiras muy convincentes porque no tiene la información completa, o su sistema de predicción de lenguaje (qué palabra sigue según la estadística) crea una historia falsa que parece real.
Además. Los chatbots suelen usar la información más antigua para responder. Por lo que un hecho o una foto como las de Artemis II, no fueron registradas de inmediato como un hecho real.
La pregunta puede hacer la diferencia
La forma en la que se dicta la instrucción (prompt) a los modelos de IA podría ser la diferencia entre una respuesta equivocada y una precisa. Un estudio publicado en Lancet Digital Health demostró que los modelos LLM replican afirmaciones falsas en salud, pero su frecuencia depende de cómo se formula la pregunta y del contexto en el que aparece.
Descubrieron que las frases que incluían falacias lógicas ayudaron en gran medida a los modelos a detectar la desinformación. Por ejemplo, cuando se iniciaba la pregunta con frases como “todo el mundo dice que…”.
Por otro lado, usar afirmaciones con lenguaje formal y clínico facilitó el engaño, mientras que el texto informal y conversacional de las redes sociales generó mayor escepticismo.
Otro estudio, dirigido por Matthew DeVerna , investigador de Stanford, encontró que “la clave para un mejor rendimiento no reside en modelos más inteligentes, sino en brindarles acceso a evidencia de alta calidad y cuidadosamente seleccionada”.
Los investigadores señalan que la eficacia de la búsqueda depende de cómo se formulan las consultas y qué fuentes se priorizan.
Por ejemplo, puedes pedirle a la IA que revise si algún medio especializado en la verificación de hechos ya revisó la información que te genera desconfianza. En lugar de sólo preguntar si algo es verdadero o falso.