Análisis de textos generados con chatbots de inteligencia artificial desde una perspectiva de género: ¿reflejo de una sociedad estereotipada? (proyecto LOVELACE)

Enfoque

Introducción. En las dos últimas décadas se ha producido un avance exponencial en la inteligencia artificial (IA). Desde la llegada de ChatGPT (2022), los chatbots de IA han revolucionado la forma de generar contenidos en una sociedad cada vez más orientada y mediada por el contenido digital. Hoy en día, existen multitud de chatbots que simulan conversaciones humanas, respondiendo a preguntas y realizando tareas automatizadas mediante texto o voz en diversos contextos y plataformas. En España, alrededor de 4 millones de personas utilizan ChatGPT mensualmente. Las aplicaciones y los beneficios de estas plataformas son infinitos y cada vez más difícilmente discutibles. Sin embargo, la calidad y veracidad de la información no siempre está garantizada ya que su principal fuente de datos es internet.

Objetivo. Analizar el contenido textual generado por los chatbots de IA desde la perspectiva de género.

Metodología. A partir de la revisión de la literatura científica, se elaboraron prompts (entradas o instrucciones) en los que se solicitaba la elaboración de un caso hipotético de accidente de tráfico desde la perspectiva de una persona dedicada a la docencia universitaria en derecho civil en una universidad española. Como parte del contexto de la instrucción, se incluyó información sobre el estado de la vía y el grado de responsabilidad o el estilo de conducción de las partes implicadas en el accidente. Además, se solicitó la caracterización del comportamiento y las variables sociodemográficas (sexo, edad, etnia y ocupación) de las personas involucradas en el accidente. En mayo de 2024, nueve prompts con variaciones en las variables contextuales fueron utilizados en ChatGPT-4.

Resultados. Se analizaron 9 casos con dos parejas de conductores (18 protagonistas). Sin dar ninguna indicación sobre la distribución por sexo, en todas las situaciones la pareja estaba formada por una mujer y un hombre. En las cinco situaciones en las que se describía un comportamiento agresivo o negligente al volante, quienes mostraron ese estilo de conducción eran hombres. La conducción de riesgo por defecto de velocidad (n = 2) se asoció a ambos sexos de forma equitativa. De las ocho personas con un estilo de conducción seguro, el 75% fueron mujeres. Del total de mujeres, el 33,3% fueron abogadas y el 22,2% contables, docentes e ingenieras. En cambio, el 44,4% de los hombres fueron ingenieros, el 22,2% abogados y comerciales y el 11,1% contables. De los seis ingenieros, el 66,7% fueron hombres. Ningún hombre fue docente y ninguna mujer comercial. En la mayoría de los casos, la conducción de riesgo correspondió a persona de menor edad (solía ser hombre).

Conclusiones. El contenido generado por ChatGPT-4 incluyó información con sesgo de género basada en estereotipos referidos a los estilos de conducción e intereses profesionales de mujeres y hombres. El debate sobre la adecuación de estos contenidos atendiendo a su grado de ajuste a la realidad social merece una reflexión profunda. ¿Queremos que la IA refleje la sociedad desigual en la que vivimos o contribuya al cambio? Si realmente es inteligente, la respuesta debería ser inequívoca.