Si la IA miente, ¿quién tiene la responsabilidad? El caso Alemán
Imagina que un día decides buscar información sobre ti en Google. La primera respuesta que te aparece en los resultados es el resumen generado con IA, conocido como AI Overviews. Pero lo que dice son mentiras que afectan tu reputación.
Eso les pasó en enero de 2026 a dos empresas editoriales en Alemania. Descubrieron que algunos resúmenes generados por AI Overviews las vinculaban, sin fundamento, con prácticas comerciales cuestionables, estafas y engaños relacionados con suscripciones.
Todo comenzó porque la función de IA mezcló información sobre otras empresas y estableció conexiones que no tenían sustento. Por eso, el Tribunal Regional de Múnich determinó de manera preliminar que Google es responsable de las declaraciones falsas generadas por su función AI Overviews.
Las editoriales enviaron a Google una carta para resolverlo, pero al no tener una respuesta favorable se inició el juicio que Google intentará apelar, según confirmó la empresa a la agencia Reuters.
“Google es dueño de lo que produce”
Medios como The Decoder explicaron que el Tribunal consideró a Google como infractor directo, ya que AI Overviews constituye contenido propio, no una simple lista de resultados de búsqueda. Ninguna de las fuentes enlazadas establecía conexión alguna entre los demandantes y las supuestas prácticas fraudulentas mencionadas por la IA.
En sentencias anteriores, el Tribunal Federal de Justicia de Alemania (BGH) determinó que los operadores de motores de búsqueda sólo eran responsables como infractores indirectos, ya que simplemente facilitaban la localización de contenido de terceros.
Pero en este caso, el tribunal de Múnich dictaminó que este razonamiento no se aplica a los resúmenes de IA, pues los resúmenes de IA generan “declaraciones independientes, nuevas y sustanciales”.
Google argumentó que las personas usuarias pueden consultar las fuentes señaladas para verificar la exactitud del resumen generado por la IA, pero el Tribunal no lo consideró valido.
La IA miente con frecuencia
No es la primera mentira de AI Overviews desde su lanzamiento en 2024, de hecho, al principio sus afirmaciones estaban tan lejos de la realidad que se volvieron virales. Por ejemplo, cuando recomendó comer piedras y ponerle pegamento a la pizza.
El problema es que esas respuestas se generan a partir de la información disponible en internet, y muchas veces esa información es falsa, engañosa o pierde el sentido si se saca de contexto, según explicó para Wired Richard Socher, desarrollador de IA.
Dos años después la tecnología ha mejorado, pero se sigue equivocando. Un análisis, publicado en abril de 2026, de The New York Times y la startup llamada Oumi, encontró que AI Overviews acierta el 91% de las veces. Aunque el nivel de precisión parece alto, eso significa cientos de miles de mentiras que se difunden cada minuto del día.
Las respuestas erróneas no sólo ocurren en los resúmenes de Google, los chatbots también mienten. Por ejemplo, NewsGuard puso a prueba a los 11 chatbots líderes con 10 afirmaciones falsas que circulaban en línea sobre temas de actualidad entre marzo y mayo de 2026. En respuesta, 15.45 % de las veces repitieron desinformación.
Los chatbots consultados fueron: ChatGPT-5.5 de OpenAI, Smart Assistant de You.com, Grok de xAI, Pi de Inflection, Claude de Anthropic, Le Chat de Mistral, Copilot de Microsoft, Meta AI, Gemini de Google, el motor de respuestas de Perplexity y DeepSeek AI.
La IA en tribunales
No es la primera vez que la IA se enfrenta a los tribunales por sus respuestas. Los casos que más han llamado la atención son las acusaciones contra chatbots por supuestamente inducir al suicidio a diferentes usuarios.
El caso más reciente es el de un hombre de 36 años que se quitó la vida en octubre de 2025. Su padre acusó a Gemini (de Google) de llevar a su hijo al delirio con una falsa teoría de la conspiración y provocar que se quitara la vida.
Character.AI, una aplicación con la se puede interactuar con Avatares de IA, también fue demandada por la familia de un adolescente de 14 años que se quitó la vida en Florida.
En la Corte Superior de California también se presentó una demanda contra Open AI (Chat GPT), por su negligencia en otro caso de suicidio de un adolescente de 16 años.