E-Cloud conversó con Santiago Lyon, jefe de Promoción y Educación de la Iniciativa de Autenticidad de Contenidos (Content Authenticity Initiative – CAI), acerca de la importancia de la autenticidad y transparencia del contenido digital.
1. ¿Por qué es crucial combatir la desinformación en la era digital y cómo contribuye CAI a esta causa?
Las encuestas que hemos realizado muestran que las personas tienen grandes dificultades para distinguir entre contenido falso y real. Por lo tanto, la tendencia natural es comenzar a desconfiar de todo, y eso es un gran problema para el negocio de las noticias y la democracia.
La credibilidad es un valor básico e irreemplazable en el negocio de las noticias y en muchos otros. Sin ella, tu producto no tiene valor. En la era de la inteligencia artificial (IA), el problema solo ha empeorado. Con la IA generativa, prácticamente cualquiera puede crear imágenes, videos, audios y textos muy creíbles que son totalmente sintéticos, falsos. Se les llama ‘deep fakes’. En el pasado, esto requería una gran habilidad, pero hoy puedes lograrlo con un simple texto.
Lo que propone la iniciativa es brindar al público información básica sobre el origen de todo el contenido digital que consume. El concepto es similar al de las etiquetas de información nutricional en los productos alimenticios envasados: informará al público si el contenido fue creado o alterado por inteligencia artificial, o si es real, cuándo, dónde y por quién fue capturado, y qué modificaciones, si las hubo, se hicieron antes de su publicación. Con esta información en mano, las personas pueden juzgar por sí mismas si el contenido es creíble.
2. ¿Cómo aseguran la autenticidad y la transparencia en la creación de contenido digital?
El concepto básico es que se adjunta metadatos al contenido desde el momento de su creación y que nos informan sobre su origen. Como los metadatos podrían ser eliminados, también incluiremos marcas de agua invisibles y huellas digitales que enlacen con la información de procedencia.
Usando una foto de noticias como ejemplo, una vez que se publica, tendrá un pequeño ícono de CR incrustado en la esquina superior derecha o izquierda. Cuando el público haga clic en el ícono, aparecerá en una ventana emergente la información sobre el origen de la imagen.
Creemos que, en el futuro, el contenido que no tenga esta información será considerado sospechoso.
La información de procedencia también permitirá a los creadores y organizaciones de noticias firmar su contenido de manera segura. Esto tiene un doble propósito. En primer lugar, haría más difícil para los actores malintencionados imitar la marca de una empresa de noticias, utilizando su credibilidad para distribuir información falsa. En segundo lugar, permitiría a los creadores reclamar de manera segura la autoría del contenido, ayudándolos a protegerse contra violaciones de derechos de autor.
3. En E-Cloud acompañamos a los medios en el proceso de digitalización y preservación de sus archivos periodísticos. ¿Qué papel juegan estos archivos en la misión de CAI y cómo pueden ayudar a mejorar la transparencia y la confianza en el contenido digital?
George Orwell imaginó un futuro en el que los archivos históricos serían editados por conveniencia política en el presente. Como ejemplo, un político que cayera en desgracia podría ser borrado de las fotografías en las que aparecía con los líderes del partido. Podrían afirmar que nunca lo conocieron.
La idea es que, con el estándar de procedencia, esto ya no sería posible. Una fotografía tomada el 3 de agosto de 2024, a las 11:24 de la mañana, en el distrito de San Isidro, en Lima, reflejaría toda esa información y siempre estaría vinculada al archivo original. Los metadatos de la imagen se actualizarían con cada edición sucesiva, indicando la fecha y hora de la edición, así como la naturaleza del cambio.
Con los archivos antiguos, que reflejan información capturada o producida antes de la implementación del estándar, la idea sería hacer una copia «certificada» de la información, digamos en agosto de 2024, incluso si el contenido fue producido originalmente en 1940. La copia sería sellada con la marca del propietario y asociada a su credibilidad. Cualquier modificación realizada a partir de ese momento sería registrada, evitando así la posibilidad de cambiar el contenido para ajustarlo a interpretaciones actuales de la historia.
4. ¿Cómo puede la autenticidad de estos archivos contribuir a la confianza pública en los medios y qué medidas recomienda CAI para mantener esta integridad?
La iniciativa está haciendo un gran esfuerzo para asegurar que el estándar de procedencia sea seguro y, al mismo tiempo, accesible para todos. Hasta ahora, las cámaras y otros dispositivos de grabación han tenido información sobre cuándo, dónde y cómo se creó el archivo. Pero esta información podía cambiarse fácilmente. Eso es lo que va a cambiar.
Una vez que comiencen las implementaciones a gran escala en un futuro cercano, la amplia gama de empresas que participan en la iniciativa ayudará a llevar a cabo una campaña para educar al público sobre cómo funciona el estándar de procedencia. Creemos que es importante no decirles a las personas si algo es verdadero o falso. Lo que el estándar hace es proporcionar al público la información que necesita para tomar su propia decisión sobre la naturaleza de la información que está consumiendo.
5. ¿Qué principios éticos deben seguir los creadores de contenido para asegurar la transparencia y cómo puede CAI apoyar estas prácticas?
La mayoría de los códigos de ética modernos consideran la transparencia como un principio fundamental. Proporcionas a las personas la mayor cantidad de información posible sobre cómo se creó o capturó algo. Eso es lo que propone la iniciativa. Suena simple, pero es una tarea enorme en el mundo digital de hoy, ya que el contenido no solo se basa en sitios web, sino que fluye a través de la web en correos electrónicos, chats grupales, redes sociales, motores de búsqueda, etc. Pero la iniciativa cuenta con un respaldo tremendo, con más de 3.000 miembros de todos los sectores económicos: empresas de IA, medios de comunicación, firmas de relaciones públicas y comunicación, empresas tecnológicas, redes sociales, grupos que representan a artistas, autoridades electorales, artistas, etc.