Corea del Sur: el país que blindó sus elecciones contra los deepfakes
Cuando la inteligencia artificial comenzó a fabricar mensajes políticos creíbles, Corea del Sur entendió que el riesgo no estaba en el futuro. Antes de su elección de 2024, el país construyó una de las primeras barreras legales y tecnológicas contra los deepfakes electorales.
La desinformación electoral ha ido sembrando crisis por el mundo. Ha alimentado teorías conspirativas, erosionado la confianza pública y, en no pocas ocasiones, avivado la polarización social. En algunos casos, incluso, ha sido un factor que contribuyó a episodios de violencia, de mucha violencia social.
Corea del Sur decidió no esperar a que algo así le ocurriera. Antes de su primera gran elección en la era de la inteligencia artificial generativa, el país asiático tomó una decisión inédita: blindar sus comicios contra los deepfakes antes de que estos pudieran convertirse en una amenaza para su sistema electoral y para su democracia.
Las alarmas se encendieron en 2022.
Durante las elecciones locales de ese año circuló un video falso generado con IA. En el video se veía al entonces mandatario Yoon Suk-yeol dando su apoyo a un candidato local. Las autoridades tomaron nota: la IA podía ya producir y manufacturar mensajes políticos “convincentes” utilizando la imagen y la voz de personas reales.
Lo que hasta entonces parecía una amenaza futurista, se desveló de pronto como un desafío de hoy.
Para las autoridades electorales, la preocupación iba más allá de un video engañoso. El temor era que una campaña pudiera verse inundada por contenidos falsos difíciles de distinguir de los reales, haciendo añicos la confianza de la gente en la información política.
A finales de 2023, los congresistas surcoreanos modificaron su legislación electoral y restringieron la difusión de deepfakes sobre temas políticos durante tiempos de campañas.
La reforma prohibió la difusión de videos políticos creados con inteligencia artificial durante los 90 días previos a una elección. La restricción aplica a contenidos que imiten la apariencia, la voz o las expresiones de candidatos y figuras públicas con fines politio-electorales.
La ley y su espíritu fueron acompañados de nuevas capacidades de monitoreo para la Comisión Nacional Electoral, el equivalente del INE en el país asiático. El asunto no era sólo castigar infracciones, sino detectarlas rápidamente antes de que se viralizaran y llegaran a grandes audiencias.
La lógica era simple: en Internet, una mentira que se viraliza puede causar daño mucho antes de que llegue una rectificación. El efecto nocivo puede estar completamente fuera de control para cuando alguien intente detenerlo.
La primera prueba para la nueva legislación llegó durante las elecciones legislativas del 10 de abril de 2024.
Mientras millones de surcoreanos se preparaban para acudir a las urnas, la autoridad electoral desplegó mecanismos especiales para rastrear contenidos manipulados.
Los resultados fueron reveladores. En apenas unas semanas, las autoridades detectaron 129 publicaciones ilegales que utilizaban inteligencia artificial para crear deepfakes sobre temas políticos. Muchas de ellas alteraban discursos de candidatos, modificaban declaraciones reales o fabricaban mensajes completos para desacreditar a políticos rivales.
El hallazgo confirmó que la amenaza era real y, al mismo tiempo, sugirió que las medidas preventivas estaban funcionando. Los deepfakes aparecieron, pero las autoridades lograron identificarlos y actuar antes de que dominaran la conversación pública.
A diferencia de otros países que han tenido que reaccionar después de enfrentar campañas masivas de desinformación, Corea del Sur llegó preparada a las urnas.
La experiencia surcoreana dejó al menos cinco lecciones:
– La inteligencia artificial no es el problema. El problema es usarla para hacer pasar mentiras por hechos.
– La desinformación puede influir en una elección mucho antes de que se lleve a cabo la jornada electoral.
– Las leyes ayudan, pero no resuelven todo. La tecnología cambia más rápido que las regulaciones.
– Corea del Sur decidió actuar antes de enfrentar una crisis, no después.
– Hoy, proteger una elección implica mucho más que cuidar las urnas y contar los votos. También implica cuidar la información que reciben los ciudadanos.