S01-03 26

El sesgo androcéntrico en la IA

Compartir en TWITTER/FACEBOOK/LINKEDIN

Deja tu comentario

Participa en esta ponencia enviádole tu pregunta o comentario a los autores

Añadir comentario

Firmantes

profile avatar
Ester Micó AmigoUniversidad de las Islas Baleares

Enfoque

 

Introducción

            El concepto de ciencia androcéntrica refiere a una forma de pensar y hacer ciencia  sesgada, privilegiando la perspectiva masculina en detrimento de la femenina. La base de mi investigación se centra en constatar dicho sesgo androcéntrico tanto en ciencia, como en tecnología  e ingeniería de metadatos en la construcción de la inteligencia artificial generativa. La visión androcèntrica, sin prespectiva de género ha estado presente desde los orígenes de la ciencia y ha dado lugar a una serie de consecuencias negativas que aún hoy se reflejan en su desarrollo y aplicación.

Justificación

            Así pues las mujeres han estado presentes en la ciencia desde los orígenes, aunque su papel haya sido invisibilizado o reducido. Desde las primeras observaciones astronómicas hasta los albores de la medicina, las mujeres han poseído un conocimiento profundo del mundo natural y han aplicado su ingenio para resolver problemas prácticos. Sin embargo, el patriarcado, sistema social que otorga el poder a los varones, ha erigido barreras para que las mujeres accedan a la educación científica y desarrollen su potencial en este ámbito. A lo largo de la historia, se les ha negado el acceso a la educación formal, se ha cuestionado su capacidad intelectual y se las ha excluído de los espacios de investigación y reconocimiento.       

Objetivos      

Ø  Contrastar la existencia de un sesgo androcéntrico que limita de facto el acceso de las mujeres a los estudios en Ciencia y Tecnología

Ø  Concretar el sesgo específico en Ciencia y Tecnología según áreas de conocimiento científico y titulaciones así como su participación en la generación  y desarollo de la inteligencia artificial.

Ø  Analizar si la combinación algorítmica de la inteligencia artificial puede presentar un sesgo androcéntrico en la generación de información.

 

Metodología

            La metodología que se implementará se fundamenta en las bases de datos y la fundamentación bibliográfica teórica haciendo especial hincapié en el sesgo androcéntrico que presentan las titulaciones de ingeniería y el desarrollo e implementación de la inteligencia artificial

Conclusiones

Es fundamental reconocer y visibilizar las contribuciones de las mujeres en la ciencia y en la tecnología. Además de ser un acto de justicia histórica, es esencial para construir un futuro más inclusivo y equitativo. La ciencia y la tecnología deben beneficiar a la ciutadania,  pudiendo ser partícipes las mujeres en el desarrollo y construcción de la inteligencia artificial generativa.

La ciencia y la tecnología necesitan de la diversidad de perspectivas que las mujeres pueden aportar. Su participación activa en estos campos es crucial para generar soluciones innovadoras a los desafíos globales que enfrentamos, como el cambio climático, la pobreza, las enfermedades y la industria.

 

 

 

 

 

 

 

 

 

 

 

 

 

Preguntas y comentarios al autor/es

    • profile avatar

      Blanca Serrano San Segundo

      Comentó el 10/08/2024 a las 12:04:44

      Estimada Ester. Enhorabuena y gracias por tu ponencia, muy interesante. En especial, resulta de gran interés que abordes el sesgo androcéntrico desde las ciencias tecnológicas y de la salud, pues ambas áreas son destacadas por ser de mayor factor de impacto en análisis bibliométricos y por tanto académicos . ¿A qué se debe este sesgo en estas áreas? Muchísimas gracias por tu aportación.

      • profile avatar

        Ester Micó Amigo

        Comentó el 11/08/2024 a las 00:27:11

        Buenas noches, y muchas gracias por tu pregunta. En primer lugar los estereotipos de género condicionan a nuestros jóvenes en la elección de estudios de ciencias, las chicas los descartan en un gran porcentaje. La reducida presencia femenina en estos estudios perpetúa el patriarcado instaurado en las ciencias, particularmente destacado en las ramas tecnológicas.
        Buenas noches,
        Ester

    • profile avatar

      Neus Caparrós Civera

      Comentó el 29/07/2024 a las 18:25:14

      Gracias por tu presentación.
      En ella hablas de sensibilización, cómo crees que debería ser? cómo tendría más calado?
      Muchas gracias

      • profile avatar

        Ester Micó Amigo

        Comentó el 06/08/2024 a las 00:38:41

        Buenas noches,
        En primer lugar, muchas gracias por tu pregunta ya que es de vital importancia la sensibilización como medida de prevención. Yo la plantearía como una formación necesaria del profesorado haciendo hincapié en el profesorado de Secundaria, haciendo hincapié en el profesorado que imparte materias científicas como tecnología, física y matemáticas. Después culminaría la formación con el profesorado de las Escuelas de Ingeniería que son referentes en la formación de las futuras generaciones de programadores y programadoras. En lo que respecta a los que ya estan en activo supervisaría las acciones legales que regulan la equidad en la IA e incluso incentivaría las acciones correctas en el sector.
        Espero haberte dado un poco de luz en tu cuestión. Saludos cordiales,
        Ester Micó

    • profile avatar

      Roberto Cruz Palmera

      Comentó el 26/07/2024 a las 20:44:44

      Estimada Ester, buenos días:
      Gracias por tan importante aportación. ¿Cómo influye el sesgo androcéntrico en los datos de entrenamiento en la precisión y equidad de los sistemas de IA, y qué medidas pueden implementarse para mitigar este sesgo?
      Un saludo,
      Roberto

      • profile avatar

        Ester Micó Amigo

        Comentó el 29/07/2024 a las 00:06:08

        Hola Roberto, gracias por tu interesante pregunta. Tenía pendiente contestarte. El sesgo androcéntrico influye notablemente en los datos de entrenamiento pues genera desigualdades sistémicas y los desequilibrios de poder.
        Una propuesta sería fomentar la colaboración entre las partes interesadas de la industria, los gobiernos, el mundo académico y la sociedad civil para abordar las cuestiones de equidad de datos y promover el desarrollo de una IA justa e inclusiva. Si necesitas más i formación no dudes en decirme, aquí en Baleares se ha constituído por ejemplo un órgano/comisión multidisciplinar para tratar este tema entre otros. Un saludo,
        Ester

    • profile avatar

      Juan José Lorenzo Castiñeiras

      Comentó el 26/07/2024 a las 12:01:28

      Buenos días Ester, muchas gracias por la interesante propuesta. Compartiendo las preocupaciones, ¿crees que la ponderación de los datos más actuales o la reducción de las series históricas podrían ser medidas positivas que contribuyan a que el perfil de hombre blanco, heterosexual y capacitado vaya reduciendo su centralidad como referencia para las herramientas basadas en IA? Muchas gracias.

      • profile avatar

        Ester Micó Amigo

        Comentó el 26/07/2024 a las 14:32:11

        Hola Juan José! Gracias por tu observación. Es cierto que la historia documental no nos favorece demasiado como repositorio, pero no sé hasta qué punto podemos omitirla. Quizá darle una nueva perspectiva de género, reinterpretándola destacando el rol de las mujeres sería más oportuno. Un saludo cordial,
        Ester

    • profile avatar

      Sálvora Feliz Ricoy

      Comentó el 26/07/2024 a las 11:01:31

      Hola Ester,
      Muchas gracias por tu aportación, la cuál se ve que se complementa con otras investigaciones que haces en paralelo. La reflexión efectivamente, parece muy oportuna. Si la IA funciona con acumulación de datos y los datos están sesgados, el resultado no puede evolucionar. Entiendo que para ello, sería necesario alterar el algoritmo y que tuviera "criterio" de selección. Yo de esto no sé mucho... no sé si tú podrías aportar algo sobre ello.
      Un saludo

      • profile avatar

        Ester Micó Amigo

        Comentó el 26/07/2024 a las 11:26:44

        Hóla Sálvora, muchas gracias por tu comentario.
        Evidentemente la IA acumula datos sesgados y genera nuevos datos sesgado por lo que el principio de actuación debería revertir a largo plazo en la formación de los docentes (en etapas previas a la universidad) para que el alumnado tenga una formación y sensibilidad sobre la igualdad de oportunidades con perspectiva de género. Así mismo propondría una actuación, a plazo menor, incidiendo en los comités de ética y control de la IA con una perspectiva de género en su toma de decisiones. Esta toma de decisiones no debiera ser consultiva sino vinculante y regulada por normativa. ¡Necesitamos avanzar!. Muchas gracias, Ester

    • profile avatar

      Laura Ortega Cano

      Comentó el 25/07/2024 a las 16:28:15

      Me pregunto si la incorporación de mujeres al desarrollo de la IA es realmente por donde pasa la solución al problema del sesgo androcéntrico. Me explico: el sesgo citado se da porque la IA solo puede elaborar contenidos a partir de las bases de datos disponibles. Y, como la información disponible en Internet, es totalmente androcéntrica (como muestra cualquier resultado de búsqueda en Google), el sesgo al hacer la selección y síntesis es inevitablemente androcéntrica. Creo, entonces, que una buena manera de trabajar contra el sesgo es elaborar nueva información, nuevos datos y corregir los errores pasados en la información en la que se basa la IA. Y esto puede llevar muchísimos años.
      ¿Cómo lo ves? Gracias

      • profile avatar

        Ester Micó Amigo

        Comentó el 26/07/2024 a las 10:31:45

        Buenos días Laura,
        En primer lugar muchas gracias por tu interesante intervención. Coincido absolutamente con tu argumento pero creo que hay que distimguir y plantearnos propuestas a corto plazo y otras a medioo largo plazo.
        En las propuestas a corto plazo sería controlar/filtrar los contenidos sesgados generados por la IA. A medio plazo tal vez la incorporación de mujeres como desarrolladoras de contenido. A largo plazo propondría el cambio social/formativo de la comunidad educativa.
        Un saludo cordial,
        Ester

    • profile avatar

      César Fernández Peris

      Comentó el 25/07/2024 a las 10:29:23

      Buenos días, Ester.

      Me ha parecido una comunicación muy interesante, en particular en lo relativo a la minoritaria elección de titulaciones tecnológicas entre las mujeres. Soy profesor en ingenierías desde hace ya 26 años, y el porcentaje de mujeres en las clases, aunque pareció aumentar progresivamente entre 2000 y 2010, posteriormente volvió a reducirse. A día de hoy, ronda el 10%, similar al que existía cuando estudié Ingeniería Industrial, muchos años atrás, en 1985. En mi Universidad hemos tomado algunas medidas, como la creación de la asociación Mujeres Ingenieras, pero los resultados en cuanto a aumento del número de matriculaciones no son los esperados. ¿Cuál piensas que es el principal factor que limita la elección de titulaciones tecnológicas en mujeres?

      Gracias, un saludo.

      • profile avatar

        Ester Micó Amigo

        Comentó el 25/07/2024 a las 10:46:32

        Buenos días César, U
        Un millón de gracias por tu comentario. De hecho en primer lugar me encantaría que me escribas un correo a mi dirección email ester.mico@uib.es o a la personal emicoamigo@gmail.com y quizá pueda colaborar contigo pues deduzcco que pertececes a mi Universidad Politécnica de origen y titulación, motivo por el que empecé a investigar el problema, ¡éramos siempre tan pocas estudiantes de ingeniería en clase!. A groso modo y centrámdome en responder tu pregunta, creo que los estereotipos de género que comienzan en edades tempranas y se consolidan en la Secundaria son los factores determinantes de la porblemática. Por esta razón hace falta más formación y sensibilización por y para los docentes. Un saludo y escríbeme!.

      • profile avatar

        Maria Asuncion Vicente Ripoll

        Comentó el 25/07/2024 a las 19:33:30

        te lo puedo decir yo que soy ingeniera....el problema fundamental es que el ambiente en ingeniería es muy misógino!!!!
        pero tengo esperanzas en que la IA generativa va a modificar radicalmente esto.
        LA IA tiene nombre de Mujer!!!

        • profile avatar

          Ester Micó Amigo

          Comentó el 26/07/2024 a las 10:34:22

          Buenos días, yo también coincido contigo respecto al ambiente misógeno de ciertas escuelas de ingeniería que yo he vivido en primera persona. Respecto a las espereanzas de que la IA generativa va a modificar esta situación, tengo serias dudas a corto plazo.
          Un saludo,
          Ester

    • profile avatar

      Néstor Banderas Navarro

      Comentó el 25/07/2024 a las 10:25:04

      Buenos días, Ester, por tan interesante ponencia. ¿De qué modo piensas que puede afectar este sesgo androcéntrico en las IA en el espacio educativo universitario? ¿Habría que intervenir en las IA para evitar este sesgo o limitar su uso, ante estos problemas?
      Un saludo

      • profile avatar

        Ester Micó Amigo

        Comentó el 25/07/2024 a las 10:49:08

        Buenos días,
        Su repercusión es a todos los niveles, no únicamente en la Universidad. Limitarlo no creo sea la solución pero depurarlo y contralarlo son factores necesarios.
        Un saludo

    • profile avatar

      Yolanda de Gregorio Robledo

      Comentó el 25/07/2024 a las 09:02:10

      Gracias Ester por la presentación. ¿Hay posibilidades reales de ir eliminando el sesgo de los sistemas de IA? Gracias.

      • profile avatar

        Ester Micó Amigo

        Comentó el 25/07/2024 a las 10:07:09

        Buenos días,
        En primer lugar gracias por tu pregunta. A mi parecer sería posible reducirlo, quizá eliminarlo sea más utópico. Desde la formación con perspectiva de género a los progamadores y programadoras de la herramienta, sería una de las iniciativas

        • profile avatar

          Yolanda de Gregorio Robledo

          Comentó el 26/07/2024 a las 11:18:05

          Gracias

          • profile avatar

            Ester Micó Amigo

            Comentó el 27/07/2024 a las 15:03:27

            Cuando quieras información actualizada me puedes escribir a ester.mico@uib.es y puedes seguir la evolución del proyecto. Un saludo, Ester

    • profile avatar

      Luz María Meléndez Llanes

      Comentó el 25/07/2024 a las 07:53:09

      Enhorabuena ¿Qué estrategias de sensibilización propone a las mujeres para que descienda el sesgo androcéntrico en la IA?

      • profile avatar

        Ester Micó Amigo

        Comentó el 25/07/2024 a las 10:12:19

        Buenos días y muchas gracias por tu pregunta. Como estrategia de sensibilización para que descienda el sesgo androcéntrico en la IA, debería haber una mayor participación de mujeres ingenieras en el desarrollo de la herramienta. Así mismo considero un factor esencial la formación en género y con perspectiva de género en el seno de las Escuelas de Ingeniería y etapas previas como el Bachillerato.
        Un saludo

    • profile avatar

      Antonio Rosa Castillo

      Comentó el 25/07/2024 a las 03:30:43

      Felicidades por tu presentación, Ester.
      En un contexto donde ya existe el sesgo y la tendencia es que, con la retroalimentación continua de datos, el sesgo siga creciendo, ¿qué mecanismos propondrías para monitorear y corregir el sesgo androcéntrico en los programas educativos y en el desarrollo de inteligencia artificial a largo plazo?
      Gracias

      • profile avatar

        Ester Micó Amigo

        Comentó el 25/07/2024 a las 10:16:43

        Buenos días Antonio,
        Precisamente en los programas educativos es donde considero se ha realizar un mayor hincapié. Realicé una propuesta para que la educación en género sea obligatoria y gradual en la formación inicial de los docentes tal y como se realiza con otras áreas de conocimiento como las herramientas digitales o los idiomas.
        Un saludo


Deja tu comentario

Lo siento, debes estar conectado para publicar un comentario.

Organizan

Colaboran

Configuración de Cookies

Utilizamos cookies para mejorar su experiencia y las funcionalidades de esta web. Ver política de cookies

Revisar