Enjambres de Inteligencia Artificial: El mayor desafío informativo de nuestra era
Según un reporte de 22 especialistas, publicado en la revista Science, miles de inteligencias artificiales podrían interactuar entre sí y suplantar a seres humanos para inventar realidades capaces de desatar el caos. El documento advierte sobre el peligro de estos “enjambres de IA” y detalla cómo detenerlos
Imagina que es la noche de la elección más importante de tu vida. La jornada transcurrió tranquila, fuiste a votar… todo normal. Sin embargo, al llegar a casa, abres tus redes sociales y te encuentras con un escenario de caos total.
En cada plataforma la historia es la misma: “¡Están quemando paquetes electorales!”.
Ves cientos de videos de “testigos” presenciales denunciando los hechos, los cuales en realidad no ocurrieron.
Los paquetes con las boletas electorales están seguros, la elección fue impecable.
Nada de lo que se vio en las pantallas fue verdad. Los videos fueron fabricados por Inteligencia Artificial y la marea de cuentas que denunciaban los supuestos hechos no correspondían a personas de carne y hueso; eran robots de IA programados para inventarlo todo.
Los científicos llaman a este fenómeno “enjambre de Inteligencia Artificial”: millones de agentes digitales autónomos coordinados para conseguir un solo objetivo: destruir la confianza institucional.
A diferencia de los viejos y torpes bots, estos nuevos monstruos digitales imitan el comportamiento del ser humano:
- Fingen una identidad real: Tienen fotos de domingos familiares, historias de vida y opiniones sobre añejos partidos de futbol que los hacen parecer personas comunes.
- Conversan con lógica: Si les compartes una duda, te dan una respuesta argumentada que los hace sentir genuinos y cercanos: “Yo también estuve ahí, vecino, fue un robo descarado, hay que salir a protestar”.
El estudio revela que estas IA utilizan técnicas de “razonamiento en cadena” (conocido en inglés como Chain-of-Thought o CoT) para estructurar sus respuestas.
El resultado es escalofriante: en las pruebas que se han hecho sobre estas herramientas, los humanos calificaron las mentiras generadas por estas máquinas como más “humanas” y creíbles que las escritas por personas reales.
Al actuar juntos, en “enjambres”, estos algoritmos coordinados fabrican una mentira tan bien armada que ninguna autoridad puede desmentirla lo suficientemente rápido.
La mayor amenaza ya no es que las máquinas piensen como nosotros, sino que nos hagan creer que millones de personas perdieron la fe en la democracia, cuando en realidad la gran mayoría confía en ella.
La ciencia detrás del engaño
Esto no es una exageración ni el argumento de una serie de ciencia ficción; está pasando.
En enero de este año, 22 especialistas de primer nivel con experiencia en tecnología, psicología y comportamiento humano —de universidades como Harvard, Oxford, Yale y el Instituto Max Planck— publicaron un estudio en la revista Science.
El reporte, titulado “How malicious AI swarms can threaten democracy” (Cómo los enjambres maliciosos de IA pueden amenazar la democracia), es una advertencia con datos duros.
Su veredicto es definitivo: la tecnología para desplegar estos enjambres de IA ya existe y se puede usar en cualquier momento.
La trampa matemática consiste en fusionar los modelos de lenguaje actuales con “arquitecturas multiagente”, es decir, programas diseñados explícitamente para trabajar en equipo, coordinarse en secreto de manera autónoma e infiltrarse en comunidades digitales para fabricar un consenso artificial.
El peligro real no es que un algoritmo te convenza con argumentos, sino que se produzca lo que los expertos identificaron como el “consenso fabricado”.
Hablamos de simular apoyo absoluto para una candidatura en específico o de inventar la ineficacia abrumadora de una autoridad electoral que, en realidad, hizo bien su trabajo.
El engaño ataca directo contra nuestra psicología social: “Los humanos decidimos en qué creer observando lo que hace la mayoría”, advierte el artículo.
Desarmar al enjambre: tres acciones urgentes
Para evitar que los enjambres de IA manipulen las creencias y comportamientos a escala poblacional, los expertos recomiendan tres acciones urgentes que los gobiernos y las plataformas deben aplicar de inmediato:
- Bloquear el comportamiento, no las palabras. Las políticas basadas en vigilar o verificar contenidos individuales son insuficientes ante la impresionante capacidad de estas tecnologías. El peligro real radica en la coordinación automatizada. Las intervenciones deben concentrarse en detectar la “acción colectiva maliciosa”. El reporte es tajante:
“Se necesitan urgentemente nuevos métodos de monitoreo que identifiquen la orquestación, no sólo el contenido”.
El problema central no radica en la libre expresión o en el mensaje aislado, no es ahí donde se debe buscar; sino en el uso de “arquitecturas multiagente” que son diseñadas para infiltrar comunidades en línea y simular consensos inexistentes y mayorías artificiales.
- Saber quién está detrás. A diferencia de las interacciones humanas, las herramientas generativas permiten expandir la propaganda a una escala sin precedentes sin invertir casi nada. Por eso, el estudio exige mecanismos técnicos que identifiquen el origen de los contenidos automatizados, garantizando que los usuarios reconozcan la naturaleza de la cuenta con la que interactúan.
“Los usuarios deben recibir señales claras cuando interactúen con agentes de IA o consuman contenido generado por ellas”, se lee en el artículo.
Hacer esta distinción es fundamental para detener a las IA que imitan el comportamiento humano con el único fin de distorsionar el debate.
- Quitarles el control a las redes. El control de internet no puede depender de las ganancias ni de las políticas internas de las empresas tecnológicas. El estudio exige que los sistemas de IA se sometan a una revisión externa:
“La gobernanza de estos sistemas debe ser transparente y abierta al escrutinio público independiente”.
La ciencia es clara: para frenar el daño de estos algoritmos, se requieren leyes obligatorias, dejando atrás la utopía de que las empresas se van a regular a sí mismas de forma voluntaria, agrega el documento.
Las herramientas técnicas para frenar a estos enjambres ya existen; su éxito depende de que los gobiernos las impongan por ley.
El estudio concluye en que la democracia depende de “nuestra capacidad de distinguir la voz de un ciudadano real del ruido de un enjambre fabricado”.
Las firmas detrás de la advertencia
Detrás de esta alerta hay 22 especialistas pertenecientes a 21 instituciones globales.
El reporte en Science lo lideran Daniel Thilo Schroeder, investigador del instituto noruego SINTEF y Meeyoung Cha, científica principal en el Instituto Max Planck de Seguridad y Privacidad, quienes coordinaron a expertos en sistemas complejos y ciencia computacional para demostrar las implicaciones de los enjambres de agentes autónomos.
Entre las firmas del reporte destaca Nick Bostrom, filósofo especialista en riesgos y control de la Inteligencia Artificial. Al documento se sumaron Andrea Baronchelli, profesor de la Universidad de Londres, experto en dinámicas de redes; Maria Ressa, periodista galardonada con el Premio Nobel de la Paz, así como otros investigadores de instituciones como Harvard, Cambridge y Stanford.