S01-04 09

IA en la Educación Superior: reduciendo sesgos de género en la elaboración de rúbricas de evaluación.

Compartir en TWITTER/FACEBOOK/LINKEDIN

Deja tu comentario

Participa en esta ponencia enviádole tu pregunta o comentario a los autores

Añadir comentario

Firmantes

profile avatar
Juan José Lorenzo CastiñeirasUniversidade de A Coruña
profile avatar
Andrea Fernández SánchezUniversidade de A Coruña

Enfoque

La irrupción de la inteligencia artificial en los sistemas de Educación Superior está teniendo un impacto significativo y debe prestarse atención tanto a los potenciales beneficios como a los desafíos que implica dicho proceso. Con el centro en el proceso de enseñanza-aprendizaje, el principal objetivo de esta investigación se centra en validar la metodología de investigación acción en su funcionalidad de reducir los sesgos de género en el uso de una herramienta basada en inteligencia artificial (en adelante IA). Al efecto, se analiza el proceso de elaboración de 27 rúbricas de evaluación creadas con chat GPT por alumnado universitario de 1er curso del Grado en Educación Primaria de la Universidade da Coruña, trabajo desempeñado con el acompañamiento del profesorado de la materia Diseño, desarrollo y evaluación del currículum en una propuesta desarrollada en las aulas tomando como guía la metodología de investigación-acción. Se estudian tanto los resultados, materializados en las rúbricas elaboradas, como el proceso de creación y la secuencia seguida, a través de las instrucciones asignadas en el diálogo con chat GPT complementadas con la observación participante del profesorado durante la realización de la tarea en el aula.

Los resultados se estructuran en torno a dos dimensiones de análisis interrelacionadas, siempre teniendo en cuenta la composición de los grupos por sexos: por una parte, a partir de las informaciones introducidas por el alumnado y desde la revisión de las rúbricas obtenidas se observa que no existen diferencias en función de la composición de los grupos en cave de género; en una segunda dimensión analítica, se constata que un desarrollo adecuado de este procedimiento guiado por la investigación-acción, permite reducir los sesgos de género en el uso de la IA. La discusión con las fuentes bibliográficas consultadas permite constatar que, si bien supone un complemento importante  en la labor docente –en nuestro caso para la elaboración de rúbricas de evaluación-, la IA no debe substituir nunca al profesorado, siendo fundamental el acompañamiento por personas con conocimiento amplio sobre las cuestiones abordadas -en nuestro estudio, tanto sobre evaluación como sobre el uso de IA en la elaboración de rúbricas, en el marco de análisis de la perspectiva de género- y realizar un aprovechamiento técnicamente adecuado y éticamente responsable de este recurso.

Como conclusiones cabe destacar la validez de la investigación-acción para una adecuada utilización de herramientas de IA orientadas a la enseñanza-aprendizaje. Atendiendo a su carácter procesual y a la operatividad para dar feedback continuado a lo largo de toda la tarea, aporta información valiosa al profesorado y al alumnado sobre el proceso de aprendizaje y permite, de este modo, introducir mejoras y reducir sesgos, específicamente los de género.

Preguntas y comentarios al autor/es

    • profile avatar

      César Fernández Peris

      Comentó el 25/07/2024 a las 10:37:34

      Buenos días, Juan José.

      Me ha parecido una ponencia muy interesante, recalcando la necesidad de supervisión para las interacciones con la IA. Me surge una pregunta: ¿se han comparado los resultados obtenidos elaborando rúbricas con ayuda de IA y los obtenidos cuando las rúbricas se elaboraban sin esa ayuda, tal vez en cursos previos? ¿Hay diferencias significativas en cuanto a sesgo de género?

      Gracias, un saludo.

      • profile avatar

        Juan José Lorenzo Castiñeiras

        Comentó el 25/07/2024 a las 14:07:50

        Hola César, gracias por tus comentarios. No se han comparado los resultados debidamente con las rúbricas elaboradas artesanalmente en años anteriores, pues todavía estamos en el inicio de esta línea de investigación, pero sin duda puede ser interesante y exploraremos esa línea de investigación. En todo caso, dado que trabajamos desde hace bastantes cursos en esa materia en la elaboración de unidades didácticas, podemos indicar que los resultados son significativamente de mayor calidad con la ayuda de la IA. En cuanto a sesgos de género, tienen a aumentar con el uso de chatGPT, en la línea comentada (algorítmicos y de refuerzo), de ahí la importancia de la supervisión acompañada de una mirada con perspectiva de género entre el profesorado. Gracias!

    • profile avatar

      Yolanda de Gregorio Robledo

      Comentó el 25/07/2024 a las 09:21:00

      Gracias por vuestra presentación. ¿Qué dificultad tienen los estudiantes para reconocer los sesgos preexistentes de la IA y los que pueden escribir en los 'prompts'? Gracias

      • profile avatar

        Juan José Lorenzo Castiñeiras

        Comentó el 25/07/2024 a las 14:13:13

        Gracias por tu pregunta Yolanda. Desde nuestra experiencia, las dificultades están en identificar roles y estereotipos para evitar caer en resultados sesgados desde la propia introducción de la información. De otra parte, existe un generalizado desconocimiento sobre los sesgos algorítmicos y lo que implica él tratamiento estadístico a partir de bases de datos históricas, lo que hace que muchos resultados se centren en un perfil de hombre blanco y capacitado. Muchas gracias.

    • profile avatar

      Luz María Meléndez Llanes

      Comentó el 25/07/2024 a las 08:13:45

      Muy buena participación, la elaboración de rúbricas de evaluación es de suma importancia para evaluar de manera más clara y precisa ¿Cuáles herramientas recomienda para elaborar rúbricas en IA?

      • profile avatar

        Juan José Lorenzo Castiñeiras

        Comentó el 25/07/2024 a las 14:17:45

        Gracias Luz María. En este caso se ha empleado la versión gratuita de chatGPT (mejora con la versión de pago pero no es imprescindible para obtener una rúbrica de calidad). Redacta.me podría ser otra herramienta de IA más específica para esta tarea. Un saludo

    • profile avatar

      Irene Carrillo Murcia

      Comentó el 25/07/2024 a las 08:07:37

      Estimado Juan José y estimada Andrea:
      Enhorabuena por la iniciativa y la detallada exposición. Estoy completamente de acuerdo con la necesidad de formar a docentes y al estudiantado en el diseño de prompts específicos que promuevan respuestas inclusivas por parte de los chatbots de inteligencia artificial. Me gustaría conocer algún ejemplo específico de sesgo algorítmico que hayáis observado en las rúbricas. Por otro lado, me surge la duda de si ChatGPT, con las instrucciones adecuadas, podría actuar como herramienta de filtrado para la detección de sesgos y, por tanto, servir al profesorado de segundo control en el proceso de acompañamiento al estudiantado, es decir, si el chatbot es capaz de identificar los sesgos de género presentes en las rúbricas elaboradas.
      Gracias.

      • profile avatar

        Juan José Lorenzo Castiñeiras

        Comentó el 25/07/2024 a las 14:32:42

        Muchas gracias por tus comentarios Irene. Un ejemplo de sesgo algorítmico común a todas las rúbricas estuvo relacionado con el uso de un lenguaje poco inclusivo en las respuestas, aun cuando el alumnado lo empleaba. Es posible que chatGPT, con instrucciones muy detalladas y claras, pudiera revisar los propios sesgos de género en las rúbricas, sería interesante probarlo para detallar en qué medida y si compensa su uso, aunque deberemos mantener en todo caso la atención en los sesgos algorítmicos. Gracias por tu interés


Deja tu comentario

Lo siento, debes estar conectado para publicar un comentario.

Organizan

Colaboran

Configuración de Cookies

Utilizamos cookies para mejorar su experiencia y las funcionalidades de esta web. Ver política de cookies

Revisar