Ley de IA de la UE: así obliga a identificar el contenido fabricado
Imágenes, textos o videos. Desde agosto será más fácil detectar contenido fabricado con Inteligencia Artificial (IA), gracias al Código de Transparencia de la Unión Europea (UE).
La nueva legislación, que entró en vigor el 2 de agosto, obliga a las compañías de IA a identificar todos los contenidos que generen. Esto, mediante una huella digital invisible previsto en el artículo 50 de la Ley de IA.
En términos prácticos, eso significa que si le pides a herramientas como ChatGPT crear un texto o editarlo, la compañía responsable debe colocar un código — invisible para el ojo humano— para poder identificar que se trata de un contenido fabricado o manipulado mediante herramientas digitales.
¿Qué dice el artículo 50?
El artículo 50 de la Ley de la UE sobre la IA establece obligaciones de transparencia en cuatro situaciones:
- Cuando la IA interactúa directamente con las personas: esto significa que, si una persona mantiene una conversación con herramientas como Gemini o Alexa, es obligatorio que el proveedor informe que se está comunicando con una IA.
- Cuando la IA genera contenido sintético: por ejemplo, cuando se usa Claude para crear una imagen o un video.
- Cuando se utiliza la IA para el reconocimiento de emociones o la clasificación biométrica: por ejemplo, si emplea un sistema para evaluar el estrés, el estado de ánimo o las características demográficas de las personas en un espacio público.
- Cuando la IA crea deepfakes o publica textos sobre asuntos de interés público: por ejemplo, cuando se generen o manipulen imágenes o videos sobre personas; o cuando los editores publiquen texto generado o manipulado por IA con el fin de informar.
Sobre este último punto, esta obligación no aplica si el contenido generado por IA pasa por una revisión humana o control editorial y cuando una persona física o jurídica tenga la responsabilidad editorial de la publicación del contenido.
¿Quiénes se han sumado?
Alrededor de 190 organizaciones firmaron el Código de Buenas Prácticas sobre Transparencia del Contenido Generado por IA antes del 2 de agosto.
Entre ellas, destacan: Aleph Alpha, Anthropic, Black Forest Labs, Cohere, Google, Meta, Microsoft, Mistral, Open AI y Synthesia, Getty Images, Iberdrola, Lenovo y Lufthansa.
Acciones en marcha
Una de las empresas que ya anunció acciones al respecto es Anthropic, la empresa responsable de Claude.
El 11 de agosto la empresa anunció que el texto generado con su IA llevará marcas de agua incrustadas, y los archivos generados incluirán metadatos de procedencia firmados digitalmente donde sea compatible.
Aunque es una disposición aplicable dentro de la Unión Europea, este marcaje se mantendrá en cualquier parte del mundo. También explican que esta marca permanece, aunque el texto se copie y se pegue en otro lugar.
En el caso de archivos como imágenes también se aplicará una marca y ya están trabajando para que las personas puedan aprender a encontrarlas.
Antes de que entrará en vigor la legislación europea, Google ya había puesto en marcha la herramienta SynthID, diseñada específicamente para insertar y detectar marcas de agua digitales directamente en imágenes, audio, texto o video generados por IA generativa de Google.
Por ahora, para usarla puedes solicitar a Gemini que te ayude a detectar marcas SynthID en el contenido que quisieras analizar.