AI-GENBIAS: Identificación de sesgos de género en inteligencia artificial

AI-GENBIAS: Identificación de sesgos de género en inteligencia artificial.  Discursos tecnológico, científico y mediático

El proyecto AI-GENBIAS: Identificación de sesgos de género en inteligencia artificial. Discursos tecnológico, científico y mediático. PID2019-106695RB-I00 / AEI /10.13039/501100011033 es una iniciativa pionera financiada por el Ministerio de Ciencia e Innovación a través de la Agencia Estatal de Investigación, que se ha centrado en el análisis de la relación entre la inteligencia artificial (IA) y los sesgos de género desde una perspectiva interdisciplinar.

El proyecto, desarrollado durante 3 años y 9 meses, ha contado con la participación de un equipo de expertas y expertos en IA, género y comunicación, de la Universidad Carlos III de Madrid, la Universidad Complutense de Madrid y la Universidad Camilo José Cela, coordinados por las directoras del proyecto Teresa Sandoval Martín y Clara Sainz de Baranda, profesoras de Periodismo de la Universidad Carlos III de Madrid y miembros del grupo Periodismo y Análisis Social: Evolución, Efectos y Tendencias (PASEET) y del Instituto de Estudios de Género.

Este equipo interdisciplinar ha abordado la problemática de los sesgos de género en la IA desde diferentes frentes, incluyendo la representación de las mujeres en el ámbito de la IA, tanto en ciencia ficción como en medios de comunicación; la ética y la legislación actual; la brecha de género en las fuentes de información sobre IA y en los proyectos que desarrollan proyectos de I+D+I sobre estos sistemas inteligentes; las consecuencias de la no aplicación de la perspectiva de género en las tecnologías de la IA, y el desarrollo de estrategias para identificar y prevenir sesgos de género en la IA, entre otros.

A través de acciones de difusión de resultados (jornadas), y publicaciones (libro, artículos científicos y capítulos de libro) la investigación supone un aporte sustancial al conocimiento de los riesgos y posibles soluciones al problema, y a la reflexión científica y social sobre los desafíos y oportunidades que presenta la IA para la igualdad de género.

Resultados

- Organización de las Jornadas de Inteligencia Artificial, Género y Comunicación: Hacia una IA más justa e igualitaria. Fecha: 29 de febrero de 2023.

- Colaboración u organización en: IV Congreso Internacional Tecnologías I+D+i para la igualdad: Soluciones, perspectivas y retos;  III Congreso Internacional Tecnologías I+D+i para la igualdad: Soluciones, perspectivas y retos (2023); II Congreso Internacional Tecnologías I+D+i para la igualdad: Soluciones, perspectivas y retos 

Participación en congresos científicos internacionales fuera y dentro de España. 

Publicaciones científicas (en abierto)

• Sandoval-Martin, Teresa, & Sainz-de-Baranda Andújar, Clara (Ed.) (2024).  El género entre algoritmos. Rediseñando el futuro de la IA en comunicación y ciencia. Fragua. ISBN 978-84-128539-3-3. 
• Sandoval-Martín, Teresa, & La-Rosa Barrolleta, Leonardo. (2024). The Artificial intelligence versus Journalists: quality of automated news and bias by authorship through a Turing test. Anàlisi 70, 2024: 15-36. https://analisi.cat/article/view/v70-la-rosa-sandoval/3681-pdf-en (SJR Q1) 
• Sandoval-Martin, Teresa, & Martínez-Sanzo, Ester. (2024). Perpetuation of Gender Bias in Visual Representation of Professions in the Generative AI Tools DALL·E and Bing Image Creator. Social Sciences, 13(5) https://doi.org/10.3390/socsci13050250 (SJR Q2)
• Gai, Xiaoyu, Sainz-de-Baranda Andújar, Clara, Yanna G. Franco. (2024) Las fotografías que ilustran las informaciones sobre inteligencia artificial en los medios españoles (2017-2021). Un análisis desde la perspectiva de género. Historia y Comunicación Social 29(1) 2024: 201-21 (SJR Q1) DOI:10.5209/rced.85790 https://revistas.ucm.es/index.php/HICS/article/view/95830/4564456569369
• Molina García, Berta; Franco, Yanna G. y Tajahuerce Ángel, I. (2024). Mujeres artificiales en el cine de ciencia ficción [Artificial women in the science fiction film]. Revista Latina de Comunicación Social, 82, 0124. https://www.doi.org/10.4185/RLCS-2024-2257 (SJR Q1) 
• Sandoval-Martín, Teresa, & La-Rosa Barrolleta, Leonardo. (2023). Investigación sobre la calidad de las noticias automatizadas en la producción científica internacional: metodologías y resultados. Cuadernos.Info 55, 114–136. https://doi.org/10.7764/cdi.55.54705 (SJR Q2) 
• Sandoval Martín, Teresa; Moreno-Gil, Victoria; Martínez-Sanzo, Esther. (2023). Ausencias de género en la ética de la IA: de las recomendaciones internacionales a la Estrategia Española. En Desafíos éticos y tecnológicos del avance digital. Páginas: 315-328. Portal de Derecho, S.A. Iustel. ISBN: 978-84-9890-452-9. https://aigenbias.com/wp-content/uploads/2024/05/DESAFIOS-ETICOS.pdf 
• Romero-Perales, E.; Sainz-de-Baranda Andujar, C.; López-Ongil, C. (2023).  Electronic Design for Wearables Devices Addressed from a Gender Perspective: Cross-Influences and a Methodological Proposal. Sensors 2023, 23, 5483. https://doi.org/10.3390/s23125483 (SJR Q1)  
• Martínez-Sanzo, Ester; Moreno Gil, Victoria; Sandoval Martín, Teresa (2022). La IA se olvida de las mujeres: la falta de perspectiva de género en los marcos éticos y regulatorios. En Feminismo en la línea del tiempo, desde las (In)visibilidades al concepto de felicidad, Elena Bandrés-Goldáraz, Dykinson, S. L. Colección Conocimiento Contemporáneo. ISBN 978-84-1122-925-8 https://dialnet.unirioja.es/servlet/articulo?codigo=8996555 
• Sandoval-Martín, Teresa; Martínez-Sanzo, Esther; Moreno-Gil, Victoria (2022). Gender in the global debate on AI policy: international ethical frameworks, findings and shortcomings. En Tecnologías I+D+i para la Igualdad: Soluciones, Perspectivas y Retos. López Ongil, Celia (editoras). Instituto de Estudios de Género, Universidad Carlos III de Madrid. Páginas: 27-33. ISBN 978-84-16829-81-1. ISBN. 978-84-16829-82-8. Accesible en abierto en: https://e-archivo.uc3m.es/bitstream/handle/10016/36222/tecnologias_lopez_IEG_2022.pdf?sequence=3&isAllowed=y 
• Sainz de Baranda Andújar, Clara; Romero Perales, Elena (2022). Investigadores e investigadoras principales en proyectos nacionales sobre inteligencia artificial. En Tecnologías I+D+i para la Igualdad: Soluciones, Perspectivas y Retos. López Ongil, Celia (editoras). Instituto de Estudios de Género, Universidad Carlos III de Madrid. Páginas: 49-57. ISBN. 978-84-16829-82-8. Accesible en abierto en: https://e-archivo.uc3m.es/bitstream/handle/10016/36222/tecnologias_lopez_IEG_2022.pdf?sequence=3&isAllowed=y 
• Sainz-de-Baranda Andujar C, Gutiérrez-Martín L, Miranda-Calero J &, Blanco-Ruiz M and López-Ongil C (2022) Gender biases in the training methods of affective computing: Redesign and validation of the Self-Assessment Manikin in measuring emotions via audiovisual clips. Front. Psychol. 13:955530. doi: 10.3389/fpsyg.2022.955530. 
• Sainz-de-Baranda, C. de-Lamo, I. & Nieto, P. (2022). Use of Technological Devices and (Re)victimization in Gender-based Crimes in Spain:  A Qualitative  Study  on  Professionals’ Perceptions. Sociología y Tecnociencia, 12.1 (2022): 56-72. DOI: https://doi.org/ 10.24197/st.1.2022.56-72 (SJR Q4) 
• Franco, Yanna; Tajahuerce, Isabel. (2022). Communicating advances in technology and robotics: a gender issue. Sociología y Tecnociencia, 12.1 (2022): 56-72 ISSN: 1989-8487 (SJR Q4)  
• Blanco-Ruiz, Marian (2021). Perspectiva de género en el entorno digital. En Curación digital y género en la ciencia de la información: acceso y preservación, Rosa San Segundo & Daniel Martínez-Ávila (Editores del equipo). Páginas: 53-67.  Universidad Salamanca. DOI: https://doi.org/10.36311/2022.978-65-5954-269-7
• Martínez-Ávila, Daniel (2021). El campo de la curación digital con perspectiva de género. En  Curación digital y género en la ciencia de la información: acceso y preservación, Rosa San Segundo & Daniel Martínez-Ávila (Editores del equipo). Páginas. 37-51. Universidad Salamanca. DOI: https://doi.org/10.36311/2022.978-65-5954-269-7 
• Sandoval-Martín, Teresa; Sainz de Baranda, Clara. y La-Rosa Barrolleta, Leonardo (2021). La expansión de los sesgos de género con la inteligencia artificial. En: Estudios de Género en tiempos de amenaza. Bandrés, Elena (Coord.). Dykinson. (566-583). Libro completo: https://dialnet.unirioja.es/servlet/libro?codigo=830223
• La-Rosa Barrolleta, Leonardo, Sandoval-Martín, Teresa (2021). El periodismo de datos como proceso colaborativo de innovación en las redacciones de los medios. En La comunicación a la vanguardia. Tendencias, métodos y perspectivas. Sánchez-Gey, Nuria y Cárdenes-Rica, María Luisa (Coords.). Fragua. (421-442). 
• Daniel Martínez-Ávila (2020). Patrones y Tendencias Emergentes de la Estructura Científica Internacional en el Dominio “Discurso del Odio”. Revista Ibero-americana de Ciência da Informação, 13 (3), 963-978. https://doi.org/10.26512/rici.v13.n3.2020.33017 

Leer más...