Un proyecto científico europeo estudia cómo regular la desinformación creada mediante IA
6/07/23
La Universidad Carlos III de Madrid (UC3M) participa en un proyecto europeo de investigación, denominado SOLARIS, para analizar los riesgos políticos asociados a los contenidos multimedia creados mediante Inteligencia Artificial (IA). El objetivo es plantear innovaciones regulatorias al respecto desde el ámbito del Derecho para luchar contra las noticias falsas y la desinformación creada con esta tecnología.
Las Generative Adversarial Networks (GANs) son una clase de modelos de IA capaces de crear contenidos multimedia (audio y video) que se asemejan a la realidad. El reto principal que plantean estas tecnologías está relacionado con los llamados deepfakes (falsificaciones profundas), imágenes o vídeos falsos que simulan hechos reales con extrema precisión. Ocurrió recientemente, por ejemplo, con la imagen del Papa Francisco con un abrigo Balenciaga, que luego se demostró que era falsa. “Esta tecnología plantea una amenaza política urgente, porque ya se están utilizando para difundir noticias falsas y desinformación. Todo ello plantea un desafío crucial para la gobernanza y la regulación democrática. Resulta urgente mejorar la rendición de cuentas, la transparencia y la confiabilidad de las GANs”, señala el profesor del Dpto. de Derecho Público del Estado, Antonio Estella de Noriega, que es uno de los investigadores de la UC3M, junto con María Dolores Sánchez Galera, que forman parte del proyecto SOLARIS.
Este consorcio europeo de I+D+i reacciona a estos desafíos de dos maneras. Por un lado, se analizarán los riesgos políticos asociados con estas tecnologías para prevenir posibles implicaciones negativas para las democracias de la UE. Y como resultado, se establecerán innovaciones regulatorias para detectar y mitigar los riesgos de los deepfakes. Por otro lado, se evaluarán las oportunidades que plantean las GANs para revitalizar el compromiso democrático de los ciudadanos.
Para ello, en el marco de SOLARIS se desarrollarán tres estudios de caso. El primero tiene como objetivo comprender los aspectos psicológicos de la confiabilidad percibida de las GANs a través de un experimento controlado en condiciones de laboratorio. El segundo, simula la circulación de contenidos amenazantes de GANs en redes sociales para detectar riesgos y diseñar estrategias de mitigación. El tercero, co-crea contenidos GAN basados en valores para aumentar la conciencia sobre temas democráticos globales clave (como por ejemplo, el cambio climático, la dimensión de género o la migración humana).
“Las GANs también constituyen una oportunidad para mejorar la conciencia democrática y expandir la ciudadanía activa e inclusiva”, señala Antonio Estella de Noriega, que también ostenta una Cátedra Jean Monnet ad personam de Derecho de la Gobernanza Económica Europea en la UC3M. En este sentido, los GANs “se pueden utilizar para hacer el bien y tener usos positivos en el ámbito periodístico, histórico o jurídico, por ejemplo”, añade el profesor.
En la UC3M se desarrolla la parte regulatoria de este proyecto, que consiste en hacer una propuesta de normas jurídicas en este ámbito. “El mayor reto es precisamente lo rápido que se están produciendo los cambios. Por su propia naturaleza, el Derecho lo que hace es trabajar sobre una determinada imagen congelada de la realidad y, en términos generales, la realidad no avanza tan rápido como está avanzando la IA”, explica. “Lo que podemos estar regulando hoy a lo mejor ya no nos vale para dentro de seis o nueve meses porque se podría quedar obsoleto”, añade.
El proyecto SOLARIS (Strengthening demOcratic engagement through vaLue-bAsed geneRative adversarIal networkS) está financiado con casi tres millones de euros por el Programa de Investigación e Innovación Horizonte Europa (GA 101094665) de la Unión Europea (UE). Coordinado por la Universidad de Amsterdam, se desarrollará entre los años 2023 y 2026 y participan una docena de instituciones y empresas privadas de Albania, Alemania, Bulgaria, Eslovenia, España, Italia, Países Bajos y Reino Unido.
Más información:
