S01-13 08

Análisis de especificidades de género en pacientes virtuales basados en Inteligencia Artificial.

Compartir en TWITTER/FACEBOOK/LINKEDIN

Deja tu comentario

Participa en esta ponencia enviádole tu pregunta o comentario a los autores

Añadir comentario

Firmantes

profile avatar
César Fernández PerisUniversidad Miguel Hernández
profile avatar
Maria Asuncion Vicente RipollUniversidad Miguel Hernández
profile avatar
Irene Carrillo MurciaUniversidad Miguel Hernández de Elche
profile avatar
Mercedes Guilabert MoraUniversidad Miguel Hernández

Enfoque

Introducción

La inteligencia artificial (IA) ha transformado, entre otros sectores, la educación en medicina. En este campo, los pacientes virtuales permiten simular escenarios clínicos complejos, permitiendo a las y los estudiantes mejorar sus habilidades diagnósticas y terapéuticas sin poner en riesgo a pacientes reales. Nos centraremos en los pacientes virtuales conversacionales, que simulan una consulta médica, donde cada estudiante realiza preguntas al paciente virtual e intenta un diagnóstico correcto a partir de sus respuestas. El avance de la IA generativa ha revolucionado estos pacientes virtuales, consiguiendo conversaciones mucho más naturales y realistas. La IA es capaz de comprender prácticamente cualquier pregunta que le pueda hacer cada estudiante y puede responder (en función de la enfermedad o los síntomas que previamente se le han introducido como contexto) con una gran naturalidad, de modo que la conversación estudiante-paciente resulta muy realista. Sin embargo, existen enfermedades en las que los síntomas son diferentes en función de que el paciente sea hombre o mujer, y no existen evidencias que permitan asegurar que las IAs representan adecuadamente estas particularidades de género.

 

Objetivos

El objetivo de este estudio es evaluar si los pacientes virtuales conversacionales basados en IA pueden recrear adecuadamente los síntomas de una misma enfermedad cuando estos varían entre hombres y mujeres, dado que las manifestaciones clínicas pueden ser significativamente diferentes según el género y es patente una prioridad por considerar los síntomas de los pacientes masculinos.

 

Metodología

Se ha desarrollado un protocolo experimental para evaluar el comportamiento de las IAs como pacientes virtuales. El primer paso es la selección de enfermedades con manifestaciones clínicas diferentes según el género, como el infarto de miocardio y la depresión. Para cada enfermedad, se crearán pacientes virtuales con dos IAs diferentes (ChatGPT y Mistral) y ante diferentes contextos (diferentes prompts o diferentes descripciones de la enfermedad). A cada paciente virtual se le realizará el mismo conjunto de preguntas y se analizará si las respuestas (en términos de síntomas que expresa el paciente virtual) son adecuadas en función del género del paciente. En todos los casos, se realizarán 20 repeticiones de cada experimento (10 con pacientes virtuales hombres y 10 con pacientes virtuales mujeres) dada la aleatoriedad de las respuestas ofrecidas por las IAs.

 

Resultados

Se espera que los resultados del estudio muestren la capacidad de cada una de las IAs analizadas para simular correctamente los síntomas diferenciados por género. Adicionalmente, se identificarán los mejores contextos (mejores prompts) en términos de ajuste de los síntomas a las especificidades de cada género.

 

Conclusiones

Los pacientes virtuales conversacionales basados en IAs generativas serán muy utilizados en un futuro próximo. Es crucial que simulen con precisión síntomas específicos de género, para proporcionar una educación médica precisa y que contemple las particularidades de las pacientes de género femenino. Los hallazgos del estudio reforzarán la importancia de considerar la diversidad de síntomas en la práctica médica y permitirán tratamientos más precisos y personalizados en la atención sanitaria real.

Preguntas y comentarios al autor/es

    • profile avatar

      Roberto Cruz Palmera

      Comentó el 26/07/2024 a las 20:53:47

      Estimado César, buenas tardes:
      ¿De qué manera las especificidades de género en los datos de entrenamiento utilizados para desarrollar pacientes virtuales basados en Inteligencia Artificial afectan la precisión y la equidad de los diagnósticos y tratamientos generados por estos sistemas, y qué enfoques metodológicos podrían implementarse para identificar y corregir sesgos de género en estos modelos?
      Un afectuoso saludo,
      Robert

      • profile avatar

        César Fernández Peris

        Comentó el 27/07/2024 a las 18:21:39

        Buenas tardes, Roberto.

        Creo que se trata de un comentario muy relacionado con el anterior. Los sesgos de género realmente se encuentran en los datos de entrenamiento, y no en los algoritmos. Como indico en la respuesta anterior, un diseño meticuloso de los pacientes virtuales, añadiendo datos de contexto, permite conseguir pacientes virtuales 100% fiables, incluyendo especificidades de género, a pesar de los sesgos existentes en los datos de entrenamiento. Esa es la estrategia a seguir para conseguir pacientes virtuales libres de sesgos de género.

    • profile avatar

      Roberto Cruz Palmera

      Comentó el 26/07/2024 a las 20:52:23

      Estimados todos;
      ¿Cómo pueden los sesgos de género presentes en los algoritmos de aprendizaje automático utilizados en la creación de pacientes virtuales basados en Inteligencia Artificial influir en el diagnóstico y tratamiento personalizado de enfermedades, y qué estrategias se pueden implementar para garantizar que estos sistemas ofrezcan una atención equitativa y precisa para todos los géneros?
      Un saludo,
      Roberto

      • profile avatar

        César Fernández Peris

        Comentó el 27/07/2024 a las 18:17:04

        Buenas tardes, Roberto.

        Gracias por su pregunta. Los pacientes virtuales se utilizan por estudiantes y profesionales de medicina con fines de aprendizaje. Cuanto más realistas sean, mejor será el aprendizaje; por eso es importante que reflejen bien los síntomas de cada enfermedad y, en particular, los síntomas específicos de cada género. De ese modo, las y los futuros profesionales tendrán un mejor entrenamiento y podrán realizar una atención mejor, particularizada a cada paciente en función de su género. ¿Qué estrategias implementar? Simplemente un diseño y desarrollo meticuloso de los pacientes virtuales, con procedimientos de prueba exhaustivos para garantizar su realismo, tanto en términos generales como en aspectos específicos de cada género.

    • profile avatar

      Luz María Meléndez Llanes

      Comentó el 25/07/2024 a las 04:40:25

      Excelente, esta herramienta como simulador de paciente es muy interesante para la prácticas de los estudiantes de medicina, por las preguntas que hacen para identificar los síntomas y realizar un diagnóstico lo más cercano posible. ¿Qué porcentaje de certeza aportaría la IA?

      • profile avatar

        César Fernández Peris

        Comentó el 25/07/2024 a las 09:28:12

        Buenos días, Luz María.

        En nuestras pruebas iniciales, la IA ha resultado sorprendentemente fiable, a pesar de crear los pacientes virtuales con muy poca información. Estamos detectando algunas respuestas erróneas, pero que se corrigen fácilmente añadiendo contexto. Es decir, en lugar de crear el paciente virtual con una instrucción o prompt como "eres una mujer de 50 años que ha sufrido una apendicitis". se añade información como "has tenido 38.5 grados de fiebre", "no has tenido síntomas similares en ninguna ocasión", etc. En particular, hemos detectado que esta información extra es particularmente necesaria en enfermedades cuyos síntomas son diferentes en mujeres y hombres. Pero, con esta información de contexto añadida, los pacientes virtuales nos han funcionado hasta ahora con un 100% de fiabilidad.

    • profile avatar

      Antonio Rosa Castillo

      Comentó el 25/07/2024 a las 03:38:34

      Felicidades por la presentación.
      ¿Qué medidas recomendarían para asegurar que los algoritmos utilizados en pacientes virtuales conversacionales basados en IAs generativas no perpetúen sesgos de género? ¿Sería necesaria una revisión continua?
      Gracias

      • profile avatar

        César Fernández Peris

        Comentó el 25/07/2024 a las 09:40:05

        Buenos días, Antonio.

        Gracias por tu pregunta. Como he comentado a la compañera Luz María, las medidas simplemente consisten en una definición más detallada de la enfermedad, teniendo en cuenta el género. Por ejemplo, en lugar de crear el paciente virtual con un prompt como "eres una mujer de 45 años que ha sufrido un infarto de miocardio", añadimos detalles sobre síntomas específicos de mujeres: "has experimentado una fatiga inusual", o "sientes dolor epigástrico"; y opcionalmente, incidimos en que no se han presentado otros síntomas, más específicos de hombres: "no has sentido dolor torácico". Una vez que el paciente virtual está bien definido, se puede utilizar para el entrenamiento de profesionales con una gran certeza de que no se perpetuarán los sesgos de género. Por supuesto, también es posible una supervisión continua, y no es complicada: simplemente se analiza cada respuesta de la IA y se evalúa si entra en conflicto con los síntomas específicos de cada género... para esto, lo más sencillo es utilizar otra IA.


Deja tu comentario

Lo siento, debes estar conectado para publicar un comentario.

Organizan

Colaboran

Configuración de Cookies

Utilizamos cookies para mejorar su experiencia y las funcionalidades de esta web. Ver política de cookies

Revisar