Proyecto Lena: Investigación sobre estereotipos de género en la IA generativa de imágenes

Enfoque

Introducción

En la actualidad la inteligencia artificial (IA) ha avanzado espectacularmente, permitiendo la creación de modelos generativos que producen imágenes realistas a partir de descripciones textuales. Esta capacidad ha sido posible gracias al notable desarrollo de algoritmos de “deep learning” , que han hecho de la transformación de texto en imagen una de las aplicaciones más impresionantes de la visión por computadora. Sin embargo, estos avances también han traído consigo preocupaciones sobre la perpetuación de sesgos de género y estereotipos en las imágenes generadas por IA.

Objetivo

El objetivo principal del proyecto Lena es investigar y abordar los sesgos de género que aparecen en los sistemas de inteligencia artificial que generan imágenes. Queremos entender cómo y por qué estos sesgos se manifiestan en los modelos que usamos para crear imágenes, y desarrollar soluciones para identificar y cuantificar la presencia de estos sesgos en diferentes modelos de IA generativa.

Metodología

La metodología del proyecto incluye una revisión exhaustiva de la literatura sobre sesgos de género en la generación de imágenes por IA, seguida de la creación y validación de diferentes prompts que describan a personas y situaciones diversas. Estos prompts se aplican a generadores de imágenes como DALL-E y Midjourney, realizando pruebas piloto y ajustando los prompts según los resultados iniciales. Posteriormente, se implementarán técnicas de análisis de imágenes para detectar sesgos de género en los resultados generados, procesando un conjunto de datos representativo para este análisis. Se realizarán evaluaciones a ciegas de imágenes generadas por IA y se compararán con imágenes reales, utilizando un grupo representativo de evaluadores humanos.

Resultados

Los primeros resultados del proyecto indican que las imágenes generadas por IA a partir de descripciones textuales a menudo incorporan sesgos y estereotipos de género. Por ejemplo, se ha observado que las IA tienden a asociar ciertas profesiones y comportamientos con un género específico, perpetuando estereotipos culturales preexistentes. Estos hallazgos subrayan la necesidad de estrategias efectivas para mitigar estos sesgos y promover una representación más equitativa en las tecnologías de IA.

Conclusiones

El contenido generado por los modelos de IA incluye información con sesgo de género basado en estereotipos culturales. Este proyecto no solo busca revelar la presencia de estos sesgos, sino también crear conciencia en la comunidad tecnológica sobre la importancia de desarrollar tecnologías inclusivas y éticas. Los resultados de nuestra investigación servirán de base para futuras iniciativas y políticas que promuevan la equidad en la inteligencia artificial, contribuyendo a la creación de sistemas más justos y representativos de la diversidad social.