Continuando con el proyecto realizado el pasado año y en el que participaron 492 personas decidimos implementar un elemento más para la observación del efecto generado tras una formación intensa en lectura de imagen. El rigor del proceso que envuelve esta herramienta cualitativa denominada «Photovoice» nos lleva a predecir un futuro donde el análisis profundo de lo visual, además de metodologías de investigación, deberían aplicarse de forma inminente en los centros escolares de todo el panorama nacional.

La aplicación de la Ley Orgánica de Educación 3/2020, de 29 de diciembre, incluye tras su entrada en vigor una serie de modificaciones con respecto a la Ley Orgánica 2/2006, de 3 de mayo. Probablemente, el punto en el que más reparamos los investigadores inmersos en las áreas de comunicación audiovisual sea la importancia que para los gobernantes y la sociedad en general se le otorga a esta realidad social.

Sin duda, nos resulta alentador observar las aportaciones y modificaciones que afectan a las disciplinas audiovisuales y artísticas en la fase de Educación Primaria: El «Artículo 18. Organización»describe en detalle la estructura que dicha fase debe incluir. Como novedad, establece el área de Educación plástica y visual dentro del Conocimiento del Medio natural, social y cultural. Fomenta una primera aproximación a las tecnologías de la información y la comunicación, y en la expresión visual y musical; El «Artículo 24. Organización de los cursos primero a tercero de educación secundaria obligatoria» también establece las materias que se podrán agrupar en ámbitos, dando espacio y lugar a la Educación Plástica, Visual y Audiovisual (BOE, 2020).

Con esta premisa, el proyecto Photovoice: Empoderamiento a través de la fotografía para el cambio climático, da continuidad al compromiso con la educación medioambiental, desde una perspectiva coherente y alineada con los paradigmas de la educación que el Estado español pretende imponer de manera inmediata.

Fase 0: formación previa en «Lectura de imagen»

Tras los análisis del primer experimento realizado entre los meses de febrero a junio del año 2022, los investigadores implicados reparamos en un asunto referido a la fabricación de las imágenes por parte de los participantes: teniendo en cuenta que en gran porcentaje se trataba de un primerísimo acercamiento al universo visual – la denotación está absolutamente supeditada a las normas que rigen el mensaje interno y connotado – observamos un paradójico déficit en el entendimiento de dicho concepto. Las explicaciones escritas que acompañaban a las propuestas fotográficas que los diferentes grupos de trabajo realizaron daban lugar a cierta confusión conceptual; la poética (connotación) y la expresión directa del mensaje (denotación), en ciertos momentos, carecieron de sentido o se perdieron en la ambigüedad. Sí que se apreció cierto esfuerzo estético en la forma, pero no tanto en el fondo.

Probablemente, sin el requerimiento de incluir un texto en las imágenes fabricadas – por parte de los conductores del experimento hacia los participante – apelando al significado interno de la pieza fotográfica, no nos hubiéramos cerciorado de la falta de comprensión imagen-mensaje. No hay connotación sino denotación en el mundo en sus manos ya que resulta absolutamente directo y sin interpretación abierta; en el caso de Aviación, se especifica información de los efectos contaminantes, es decir, sigue sin dar cabida a la interpretación abierta al tratarse de un mensaje claro y conciso.

El pasado mes de febrero, 2023 comenzamos un segundo experimento en el que una vez más usábamos la herramienta cualitativa Photovoice. La muestra estuvo representada por 273 participantes, aunque esta vez quisimos incluir un punto diferenciador con respecto al primer experimento: formación previa en «lectura de imagen».  

Tras la impartición de una previa formación en aspectos puramente formales de la imagen audiovisual, gramáticas cinematográficas y lenguajes poéticos, se les propuso a los participantes del experimento una actividad en la que deberían ser ellos mismos los responsables de la elaboración del discurso emotivo, siguiendo el legado y los recursos estilísticos propios del artista fotógrafo Chema Madoz.

A pesar de que fuimos conscientes de que se trataba de un ejercicio tradicionalmente realizado en escuelas de cine, fotografía o asignaturas impartidas en facultades de comunicación – incluso con el mismo creador artístico, Chema Madoz -, nos pareció que el impacto podría ser positivo, aun corriendo el riesgo de que alguno de los miembros del experimento lo hubiera ya confeccionado en el pasado. El objetivo, sin duda, incrementar la percepción visual para la profunda lectura del mensaje no visible.

La verificación del efecto de esta variable (formación previa en lectura de imagen) puede ser interesante de cara al análisis que durante este segundo semestre (S2) está por concluir.

Esta tarea dio resultados muy relevantes: Las personas involucradas conformaron grupos de trabajo, establecieron líneas comunicativas estratégicas – algo que, por otro lado, nos estaba ayudando a anticipar una de las fases a seguir en el protocolo Photovoice – y, finalmente, se materializó en forma de imágenes con alta dosis de significación y relato poético.

Fase 1: Experimento Photovoice para el cambio climático, 2023

En febrero 2023, se procede a la activación de las reuniones donde se establecerían las instrucciones necesarias para el desarrollo del experimento que vio su origen el pasado febrero 2022 (concluyó con 49 proyectos fotográficos y un análisis cualitativo en profundidad). La diferencia de ambos periodos de experimentación (febrero, 2022 y febrero, 2023) fue fundamentalmente la inclusión de un nuevo agente denominado «formación en lectura de imagen». En este caso la muestra fue un tanto menor (31 grupos, 273 participantes).

Los resultados están aun en proceso de elaboración y tratamiento para, posteriormente, su futuro análisis. Se pueden vaticinar ciertos aspectos, de modo general, tras la presentación oral de los proyectos y la discusión que se llevó a cabo durante la fase «plantilla Showed, en la que los miembros de los grupos respondieron a los aspectos referidos a: descripción; connotación; relación; razón; educación; solución; oportunidad; emoción; identificación de lo racional; eficacia informativa; dificultades, de sus propios proyectos Photovoice. No obstante, y siguiendo la solidez que exige la investigación, optamos por no aventurar resultados, en aras de continuar con la buena praxis de la investigación y que, sin duda, nos conduce a la excelencia y el rigor.

Referencias

BOE. (2020). Ley Orgánica 3/2020, de 29 de diciembre, por la que se modifica la Ley Orgánica 2/2006, de 3 de mayo, de Educación. Recuperado de https://www.boe.es/diario_boe/txt.php?id=BOE-A-2020-17264

Derr, V. y Simons, J. (2019). A review of photovoice applications in environment, sustainability, and conservation contexts: is the method maintaining its emancipatory intents. Environmental Education Research, DOI: 10.1080/13504622.2019.1693511

Madoz, C., Castro Flórez, F., & Castro Flórez Fernando. (2016). Chema Madoz (7ª, Ser. Biblioteca de fotógrafos españoles). La Fábrica.

Red4C. Investigación social de la percepción del cambio climático en España. 2021. (Consultado el 3/11/2022.) Disponible en: https://red4c.es/wpcontent/uploads/2020/03/percepcionCC_red4C.pdf

Tobias, J., Díaz, M. Saez y J.C. Alberdi (2001). Use of poisson regression and box-jenkins models to evaluate the short-term effects of environmental noise levels on daily emergency admissions in Madrid, Spain Eur. J. Epidemiol., 17 (8) pp. 765-771

Vergara,  A.,  Peña,  M.,  Chávez,  P.  &  Vergara,  E.  (2015).  Los  niños  como  sujetos  sociales:  El  aporte  de  los  Nuevos  Estudios Sociales  de  la  infancia  y  el  Análisis  Crítico  del  Discurso.  Psicoperspectivas,  14(1),  55-65.  Recuperado  desde  http://www. psicoperspectivas.cl doi:10.5027/PSICOPERSPECTIVAS-VOL14-ISSUE1-FULLTEXT-544

Wals, E.J., Benavot, A. (2017). Can we meet the sustainability challenges? The role of education and lifelong learning European Journal of Education, 52 (4) (2017), pp. 404-413, 10.1111/ejed.12250

Wang C, Burris MA. 1997 Photovoice: concept, methodology, and use for participatory needs assessment. Heal Educ Behav. 24:369–87

El avance de la IA en los últimos años y su importante impacto social ha conducido a generar un debate sobre el doble uso de estas tecnologías y sus campos potenciales de aplicación, poniendo el foco en las amenazas para la seguridad que éstas representan y su evolución futura.

Entre las enormes posibilidades de aplicación que tienen los modelos algorítmicos de IA, debemos ubicar nuestro interés en las denominadas deepfakes o falsificaciones profundas, por el elevado riesgo que representan para nuestras sociedades, debido a sus implicaciones para la convivencia, la confianza institucional y la estabilidad democrática. El término procede del acrónimo anglosajón resultante de la combinación de los términos deep como abreviatura de deep learning y fake (falso) y designa aquellos contenidos (imagen, audio, vídeo o texto) creados o manipulados mediante IA incluyendo modelos de aprendizaje automático (machine learning) o aprendizaje profundo (deep learning). La difusión de deepfakes se ha incrementado de forma exponencial en los últimos años. Entre la confluencia de factores que permiten explicar este auge destaca la democratización en el acceso de estas tecnologías[1], por no requerir de conocimiento técnico previo por parte del usuario, con el añadido además de que en muchos casos resultan gratuitas o bien presentan un precio muy reducido, circunstancia ésta que ha llevado a que reciban el nombre de cheapfakes[2]. Asimismo, hay que destacar cómo factor intensificador de la amenaza que estas aplicaciones representan la rápida evolución de los modelos algorítmicos en las que se basan en un intento constante por alcanzar un mayor realismo, lo cual supone un problema a la hora de desarrollar arquitecturas de detección eficaces, ya que en buena parte sus modelos se orientan a la identificación de atributos que muestran inconsistencia con la realidad (parpadeo y movimiento ocular, flujo sanguíneo, inflexiones de voz, etc…).

Se han establecido modos, herramientas y recursos propios y ajenos para contar los hallazgos y descubrimientos producto de los resultados de las investigaciones, o simplemente contar aspectos referentes a la ciencia. Ahora, qué elementos de la narrativa audiovisual como componentes del lenguaje, recursos de edición y sobre todo principios estructurales pueden ayudar a transmitir mejor nuestros mensajes.

En esta entrada comentaremos algunos recursos tanto narrativos como de herramientas específicas de la edición que permiten organizar de manera más atractiva nuestros mensajes. Recursos como las figuras estructurales y herramientas como los modos de edición o las formas de articulación entre planos.

USOS ILÍCITOS DE LAS DEEPFAKES

El uso de tecnología deepfake por parte de actores hostiles se ha convertido en una práctica regular como parte de sus actividades ilícitas (Marwan & Almalki, 2019).Ya la primera mención al término en 2017 estuvo ligada a la pornografía no consensuada (Westerlund, 2019; (Collins & Ebrahim, 2021), empleándose para simular la representación de reconocidas celebridades. Posteriormente, el repertorio fue ampliado a personas anónimas. Hoy el abanico de usos ilícitos resulta infinito. Así se ha constatado el uso de deepfake de audio en casos de estafa, para simular la voz de presidentes y ejecutivos de empresas[3][4]. También se ha observado su utilización como prueba fraudulenta en procesos penales o para desprestigiar u ocasionar daños reputacionales. Desde hace tiempo, también están presentes en campañas de influencia informativa (ligadas a prácticas de microtargeting, acompañando el contenido desinformativo o bien de manera aislada)[5], siendo observadas en procesos electorales o en contextos de crisis. Menciónese como ejemplo la difusión de videos del presidente Zelensky declarando la rendición de las tropas ucranianas[6].

De acuerdo con un informe de 2021 elaborado conjuntamente por EUROPOL, TrendMicro y UNICRI16 titulado ‘Malicious Uses and Abuses of Artificial Intelligence’[7] se ha identificado su aplicación ilícita en los siguientes ámbitos:

ENFOQUES REGULATORIOS EXISTENTES

Existe una amplia controversia en torno a la promulgación de legislaciones nacionales específicas para regular las deepfakes debido a la dificultad que entraña su conciliación con derechos y libertades fundamentales, pero también por la problemática a la hora de atribuir responsabilidades ligadas a la autoría y difusión de los contenidos. Asimismo, es importante mencionar la existencia en algunos países de vacíos legales significativos, pudiendo destacar la ausencia de responsabilidad civil extracontractual, como por ejemplo en el caso de la vulneración de los derechos de imagen de las personas fallecidas.

Esta situación ha llevado a que en la actualidad, la adopción de mecanismos legales para regular las deepfakes sea una excepción apenas relegada a un conjunto reducido de casos. Los estados de Virginia (2019) y California (2019) en EE.UU[8] y Gales e Inglaterra (2022)[9] cuentan con legislaciones contra las deepfakes que simulan pornografía; en Texas (2019) su difusión en comicios electorales está prohibida. El gobierno chino (2020), por su parte, ha abogado por la restricción completa de estos contenidos[10].  

En el caso de la UE la adopción de mecanismos reguladores quedará englobado dentro de la proposición de ley sobre IA (2021), con referencias concretas contenidas en los art. 52 y 71. Según el planteamiento general de la normativa que establece un sistema de etiquetado para las tecnologías de IA avisando sobre su nivel de riesgo (mínimo, limitado, alto e inaceptable), los proveedores de software deepfake estarían obligados a cumplir con esta obligación. Asimismo, el art. 52 impone a los usuarios el requerimiento de etiquetar los contenidos como artificiales o manipulados. La propuesta no recoge, sin embargo, mecanismos punibles.  

Adicionalmente, este marco es ya complementado por diferentes mecanismos en vigor como las leyes de copyright, de derechos de imagen, la ley General de Protección de Datos, la Digital Service Act, la Digital Market Act y la EU Audiovisual Media Service Directive.

En la actualidad, existe un debate sobre la suficiencia de estos mecanismos. La ausencia de sanciones en la propuesta europea de regulación de la IA, unido a los vacíos o exenciones recogidas en el resto de legislaciones citadas -supeditación de derechos absolutos a fundamentales, exenciones relativas al uso de los contenidos,…- , junto con la dificultad añadida de la atribución de autorías hace que en la práctica los actores maliciosos puedan seguir obteniendo ventaja del uso de esta tecnología. Es por ello que se requiere de enfoques preventivos complementarios, resultando esencial una mayor implicación por parte de las plataformas de distribución de contenidos unido a un mayor esfuerzo y despliegue de recursos destinados a la alfabetización visual.

Referencias

Albahar, Marwan & Almalki, Jameel (2019). Deepfakes: threats and countermeasures systematic review, Journal of Theoretical and Applied Information Technology, 97:22, pp. 3242-3250. http://www.jatit.org/volumes/Vol97No22/7Vol97No22.pdf

Collins, Aengus; Touradj Ebrahimi (2021). Risk governance and the rise of deepfakes, International Risk Governance Centre https://infoscience.epfl.ch/record/285637

European Parliament (2020). Tackling deepfakes in European policy, European Parliament Research Service, https://www.europarl.europa.eu/RegData/etudes/STUD/2021/690039/EPRS_STU(2021)690039_EN.pdf

Leong, Dymples (2023). Deepfakes and Disinformation Pose a Growing Threat in Asia, The Diplomat, 23 de marzo 2023. https://thediplomat.com/2023/03/deepfakes-and-disinformation-pose-a-growing-threat-in-asia/

UK Government (2022). New laws to better protect victims from abuse of intimate images https://www.gov.uk/government/news/new-laws-to-better-protect-victims-from-abuse-of-intimate-images

US Congressional Research Service, Deep fakes and National Security, In focus, 3 june, 2022. https://crsreports.congress.gov/product/pdf/IF/IF11333/1

US Homeland Security Department (2021). Increasing Threat of Deepfake Identities. https://www.dhs.gov/sites/default/files/publications/increasing_threats_of_deepfake_identities_0.pdf Westerlund, Mika (2019). The Emergence of Deepfake Technology: A Review, Technology Innovation Management Review, 9:11, pp. 39-52 https://timreview.ca/sites/default/files/article_PDF/TIMReview_November2019%20-%20D%20-%20Final.pdf

[1] Congressional Research Service, Deep fakes and National Security, In focus, 3 june, 2022. https://crsreports.congress.gov/product/pdf/IF/IF11333/1

[2] https://www.dhs.gov/sites/default/files/publications/increasing_threats_of_deepfake_identities_0.pdf

[3] https://www.forbes.com/sites/thomasbrewster/2021/10/14/huge-bank-fraud-uses-deep-fake-voice-tech-to-steal-millions/?sh=2e21ace17559

[4] https://www.wsj.com/articles/fraudsters-use-ai-to-mimic-ceos-voice-in-unusual-cybercrime-case-11567157402

[5]https://www.europarl.europa.eu/RegData/etudes/STUD/2021/690039/EPRS_STU(2021)690039_EN.pdf

[6] https://www.youtube.com/watch?v=X17yrEV5sl4

[7] https://www.europol.europa.eu/publications-events/publications/malicious-uses-and-abuses-of-artificial-intelligence

[8] https://www.dhs.gov/sites/default/files/publications/increasing_threats_of_deepfake_identities_0.pdf [1]

[9] https://www.gov.uk/government/news/new-laws-to-better-protect-victims-from-abuse-of-intimate-images

[10] https://thediplomat.com/2023/03/deepfakes-and-disinformation-pose-a-growing-threat-in-asia/