S04-11 09

Inteligencia artificial, deepfakes y nueva explotación del cuerpo femenino: implicaciones éticas y sociales

Compartir en TWITTER/FACEBOOK/LINKEDIN

Deja tu comentario

Participa en esta ponencia enviádole tu pregunta o comentario a los autores

Añadir comentario

Firmantes

profile avatar
Maria Mont VerdaguerAIVANCITY, School for Technology, Business & Society
profile avatar
Antonio Rosa CastilloUniversitat de Barcelona

Enfoque

Introducción

A lo largo de la historia, la representación del cuerpo femenino ha sido un reflejo de las dinámicas socioculturales y de poder. Desde las figuras de fertilidad en la prehistoria hasta las imágenes idealizadas en el arte renacentista, y la objetualización en la publicidad moderna, el cuerpo de la mujer ha sido moldeado por las percepciones masculinas dominantes. Hoy, en la era digital, la inteligencia artificial (IA) introduce nuevos desafíos éticos y legales, especialmente con la aparición de los ”deepfakes”. Este artículo examina cómo la tecnología ha transformado la representación del cuerpo femenino y plantea nuevas problemáticas éticas y sociales.

Objetivos

El objetivo de este artículo es analizar la evolución histórica de la representación del cuerpo femenino, evaluar el impacto de la tecnología y la IA en su representación actual, e identificar los nuevos problemas y desafíos éticos derivados del uso de deepfakes. Se busca proporcionar una comprensión de cómo estas tecnologías perpetúan la objetualización del cuerpo femenino y violan los derechos y la dignidad de las mujeres.

Metodología

Para comprender estos cambios, se realizó una revisión de la literatura existente, incluyendo artículos académicos, noticias de actualidad en diferentes medios de comunicación y estudios de casos recientes. La metodología incluyó una evaluación crítica de los efectos de la IA en la representación del cuerpo femenino con las nuevas herramientas de generación de imágenes y videos con inteligencia artificial, con la finalidad de proporcionar un contexto contemporáneo amplio.

Discusión

Históricamente, la representación del cuerpo femenino ha evolucionado significativamente. En la prehistoria, las figuras femeninas enfatizaban características como los senos y las caderas, símbolos de fertilidad. Durante el Renacimiento, el cuerpo femenino se idealizó según los cánones estéticos de la época. En la era moderna, la publicidad y los medios han perpetuado la objetualización del cuerpo femenino, presentando a las mujeres como meros objetos de consumo.

Con la llegada de la tecnología y la IA, estos problemas se han intensificado. Los deepfakes representan un nuevo nivel de explotación, donde el cuerpo femenino es manipulado digitalmente para crear contenido falso, a menudo pornográfico. Esta tecnología no solo perpetúa la objetualización, sino que también introduce graves violaciones de la privacidad y la dignidad de las mujeres. Las víctimas de deepfakes experimentan daños psicológicos profundos, pérdida de reputación y, en muchos casos, se enfrentan a la imposibilidad de eliminar el contenido de internet.

Resultados

El análisis muestra que la IA ha exacerbado la objetualización del cuerpo femenino. Los deepfakes han demostrado ser una herramienta poderosa para la manipulación y el abuso, afectando desproporcionadamente a las mujeres. La facilidad con la que se pueden crear y distribuir estos contenidos plantea preocupaciones sobre la protección de los derechos de las mujeres en la era digital dominada por la IA, así como desafíos éticos y la necesidad de regulación.

Conclusiones

Los deepfakes representan un desafío que requiere una respuesta coordinada y efectiva. Se han de desarrollar marcos regulatorios que aborden las violaciones de privacidad y dignidad, y promover tecnologías de detección avanzadas, además de educar al público sobre los riesgos de los deepfakes y fomentar una mayor conciencia y sensibilidad hacia los derechos de las mujeres.

Preguntas y comentarios al autor/es

    • profile avatar

      Dra. María de Jesús Hernández Garza

      Comentó el 26/07/2024 a las 21:19:59

      Maria y Antonio, muchas gracias y felicidades por su estudio.
      Me poarece muy interesante y con el paso del tiempo esto se pondra peor, por lo tanto, las reguaciones en este aspecto es de lo más importante.

      Muchisimas gracias por su aportación.

      Saludos y gran ab razo desde el Norte de México.
      María de Jesús Hernández G.

      • profile avatar

        Maria Mont Verdaguer

        Comentó el 26/07/2024 a las 23:28:05

        ¡María de Jesús hola!

        ¡Muchas gracias a usted por leernos y escribirnos! Nos gustaría mucho mantener el contacto par posibles colaboraciones, le dejo mi correo electrónico y espero podamos encontrar la manera de armar algo junt@s. Ahí va: mariamont2009@gmail.com o si teien linkedin podemos por ahí conectar.

        ¡Saludos para usted y las bellísimas gentes de México!
        Maria Mont

    • profile avatar

      Cecilia Rollano

      Comentó el 26/07/2024 a las 13:41:42

      Enhorabuena por la comunicación, muy interesante. Se sabe poco sobre la prevalencia de esta práctica entre adolescentes. Pero a nivel informal, me han comentado numerosos casos, incluso en centros de mi zona ¿Tenéis alguna estimación tentativa?

      • profile avatar

        Maria Mont Verdaguer

        Comentó el 26/07/2024 a las 14:16:39

        Hola Cecilia,

        Gracias por tu comentario. Sin embargo, no entiendo muy bien a qué te refieres con la prevalencia de esta práctica entre adolescentes, ¿te refieres a los deepfakes?
        Cordialmente,
        Maria

        • profile avatar

          Cecilia Rollano

          Comentó el 26/07/2024 a las 15:32:28

          Hola María, lo he explicado muy mal... Me refiero al nude deepfake o deepfake porn, tenéis datos sobre la prevalencia de la victimización, o el número/% de centros en los que se han producido casos? Muchas gracias :)

          • profile avatar

            Maria Mont Verdaguer

            Comentó el 26/07/2024 a las 17:50:21

            Hola de nuevo,

            Aquí tienes una de las fuentes consultadas si era eso a lo que te referías: https://finaletheorie.org/30225/2019-09-deeptrace-the-state-of-deepfakes-an-overview/.
            Cordialmente,
            Maria Mont

    • profile avatar

      Sileny Mena Gómez

      Comentó el 25/07/2024 a las 02:23:37

      Muchas gracias por la ponencia, el tema sumamente interesante. Quería consultar si tienen más información acerca del alcance de la carta abierta que realizan personas expertas para regular los deepfakes, comprendo que realmente esta acción es muy reciente, pero me gustaría saber ¿Qué se ha generado a partir de la firma de este documento? si ha influenciado de alguna manera en otras acciones a nivel legar, social, educativo, etc. Gracias de antemano.

      • profile avatar

        Maria Mont Verdaguer

        Comentó el 25/07/2024 a las 15:43:27

        Bien, muchos de los primeros firmantes eran norteamericanos creo porque justamente en ambos países se carece aún de una ley jurídicamente vinculante a este propósito. Algo que en Europa y en ese momento, febrero del 2024, ya se sabía que se iba a aprobar en breve con el AI ACT. En los USA se trató a finales de octubre del 2023 de lanzar, y así adelantarse a Europa, de una EO sobre la IA, la Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence, en ella se intentaba crear una capacidad verificadora de noticias para evitar deepfakes, así como una especie de marca de agua para tales contenidos. Sin embargo, hemos de recordar que esa EO no era ni es vinculante con lo que todas esas medidas no se han puesto en práctica, ni está previsto que lo hagan.
        Como decía aquí en Europa el panorama es diferente puesto que el año pasado entró además en vigor el DSA (Digital Service ACT) cuyo artículo 30a, habla de falsificaciones profundas y dice lo siguiente:
        'Cuando una plataforma en línea muy grande se da cuenta de que una pieza de contenido es una imagen, audio o video generado o manipulado que se asemeja apreciablemente a personas, objetos, lugares u otras entidades o eventos existentes y falsamente parece ser auténtico o veraz para una persona (falsificaciones profundas), el proveedor etiquetará el contenido de manera que informe que el contenido no es auténtico y que sea claramente visible para el destinatario de los servicios.
        Es decir que se encomienda a un control por parte de desarrolladores y distribuidores a vigilar con cierta exhaustividad los contenidos creados y distribuidos por sus sistemas de IA. Lo que supone ya de por sí, una de las tres exigencias de dicha carta.
        Además, la entrada en vigor el próximo día 1 de agosto del 2024 del famoso AI Act puede ayudar a intensificar la vigilancia hacia los deepfakes en particular si estos son previamente considerados como de alto riesgo o riesgo inaceptable. Está aún por ver el alcance de dichas leyes a nivel internacional que aunque de momento

        Espero haber respondido a tus dudas, al menos en parte puesto que no hay aún reacciones demasiado claras por parte de las GAFAM , y ¡gracias por tu interés!

        Saludos cordiales,

        Antonio y Maria

        • profile avatar

          Sileny Mena Gómez

          Comentó el 25/07/2024 a las 20:09:40

          Gracias Antonio y María por su respuesta, un tema que si duda será necesario seguir analizando. Saludos!


Deja tu comentario

Lo siento, debes estar conectado para publicar un comentario.

Organizan

Colaboran

Configuración de Cookies

Utilizamos cookies para mejorar su experiencia y las funcionalidades de esta web. Ver política de cookies

Revisar