Usos ilícitos de las deepfakes: marcos legales y desafíos de futuro

¿Qué avances e impactos ha generado la IA en los últimos años?

por Cristina María Arribas Mato | May 14, 2023

El avance de la IA en los últimos años y su importante impacto social ha conducido a generar un debate sobre el doble uso de estas tecnologías y sus campos potenciales de aplicación, poniendo el foco en las amenazas para la seguridad que éstas representan y su evolución futura.

Entre las enormes posibilidades de aplicación que tienen los modelos algorítmicos de IA, debemos ubicar nuestro interés en las denominadas deepfakes o falsificaciones profundas, por el elevado riesgo que representan para nuestras sociedades, debido a sus implicaciones para la convivencia, la confianza institucional y la estabilidad democrática. El término procede del acrónimo anglosajón resultante de la combinación de los términos deep como abreviatura de deep learning y fake (falso) y designa aquellos contenidos (imagen, audio, vídeo o texto) creados o manipulados mediante IA incluyendo modelos de aprendizaje automático (machine learning) o aprendizaje profundo (deep learning). La difusión de deepfakes se ha incrementado de forma exponencial en los últimos años. Entre la confluencia de factores que permiten explicar este auge destaca la democratización en el acceso de estas tecnologías[1], por no requerir de conocimiento técnico previo por parte del usuario, con el añadido además de que en muchos casos resultan gratuitas o bien presentan un precio muy reducido, circunstancia ésta que ha llevado a que reciban el nombre de cheapfakes[2]. Asimismo, hay que destacar cómo factor intensificador de la amenaza que estas aplicaciones representan la rápida evolución de los modelos algorítmicos en las que se basan en un intento constante por alcanzar un mayor realismo, lo cual supone un problema a la hora de desarrollar arquitecturas de detección eficaces, ya que en buena parte sus modelos se orientan a la identificación de atributos que muestran inconsistencia con la realidad (parpadeo y movimiento ocular, flujo sanguíneo, inflexiones de voz, etc…).

Se han establecido modos, herramientas y recursos propios y ajenos para contar los hallazgos y descubrimientos producto de los resultados de las investigaciones, o simplemente contar aspectos referentes a la ciencia. Ahora, qué elementos de la narrativa audiovisual como componentes del lenguaje, recursos de edición y sobre todo principios estructurales pueden ayudar a transmitir mejor nuestros mensajes.

En esta entrada comentaremos algunos recursos tanto narrativos como de herramientas específicas de la edición que permiten organizar de manera más atractiva nuestros mensajes. Recursos como las figuras estructurales y herramientas como los modos de edición o las formas de articulación entre planos.

USOS ILÍCITOS DE LAS DEEPFAKES

El uso de tecnología deepfake por parte de actores hostiles se ha convertido en una práctica regular como parte de sus actividades ilícitas (Marwan & Almalki, 2019).Ya la primera mención al término en 2017 estuvo ligada a la pornografía no consensuada (Westerlund, 2019; (Collins & Ebrahim, 2021), empleándose para simular la representación de reconocidas celebridades. Posteriormente, el repertorio fue ampliado a personas anónimas. Hoy el abanico de usos ilícitos resulta infinito. Así se ha constatado el uso de deepfake de audio en casos de estafa, para simular la voz de presidentes y ejecutivos de empresas[3][4]. También se ha observado su utilización como prueba fraudulenta en procesos penales o para desprestigiar u ocasionar daños reputacionales. Desde hace tiempo, también están presentes en campañas de influencia informativa (ligadas a prácticas de microtargeting, acompañando el contenido desinformativo o bien de manera aislada)[5], siendo observadas en procesos electorales o en contextos de crisis. Menciónese como ejemplo la difusión de videos del presidente Zelensky declarando la rendición de las tropas ucranianas[6].

De acuerdo con un informe de 2021 elaborado conjuntamente por EUROPOL, TrendMicro y UNICRI16 titulado ‘Malicious Uses and Abuses of Artificial Intelligence’[7] se ha identificado su aplicación ilícita en los siguientes ámbitos:

ENFOQUES REGULATORIOS EXISTENTES

Existe una amplia controversia en torno a la promulgación de legislaciones nacionales específicas para regular las deepfakes debido a la dificultad que entraña su conciliación con derechos y libertades fundamentales, pero también por la problemática a la hora de atribuir responsabilidades ligadas a la autoría y difusión de los contenidos. Asimismo, es importante mencionar la existencia en algunos países de vacíos legales significativos, pudiendo destacar la ausencia de responsabilidad civil extracontractual, como por ejemplo en el caso de la vulneración de los derechos de imagen de las personas fallecidas.

Esta situación ha llevado a que en la actualidad, la adopción de mecanismos legales para regular las deepfakes sea una excepción apenas relegada a un conjunto reducido de casos. Los estados de Virginia (2019) y California (2019) en EE.UU[8] y Gales e Inglaterra (2022)[9] cuentan con legislaciones contra las deepfakes que simulan pornografía; en Texas (2019) su difusión en comicios electorales está prohibida. El gobierno chino (2020), por su parte, ha abogado por la restricción completa de estos contenidos[10].

En el caso de la UE la adopción de mecanismos reguladores quedará englobado dentro de la proposición de ley sobre IA (2021), con referencias concretas contenidas en los art. 52 y 71. Según el planteamiento general de la normativa que establece un sistema de etiquetado para las tecnologías de IA avisando sobre su nivel de riesgo (mínimo, limitado, alto e inaceptable), los proveedores de software deepfake estarían obligados a cumplir con esta obligación. Asimismo, el art. 52 impone a los usuarios el requerimiento de etiquetar los contenidos como artificiales o manipulados. La propuesta no recoge, sin embargo, mecanismos punibles.

Adicionalmente, este marco es ya complementado por diferentes mecanismos en vigor como las leyes de copyright, de derechos de imagen, la ley General de Protección de Datos, la Digital Service Act, la Digital Market Act y la EU Audiovisual Media Service Directive.

En la actualidad, existe un debate sobre la suficiencia de estos mecanismos. La ausencia de sanciones en la propuesta europea de regulación de la IA, unido a los vacíos o exenciones recogidas en el resto de legislaciones citadas -supeditación de derechos absolutos a fundamentales, exenciones relativas al uso de los contenidos,…- , junto con la dificultad añadida de la atribución de autorías hace que en la práctica los actores maliciosos puedan seguir obteniendo ventaja del uso de esta tecnología. Es por ello que se requiere de enfoques preventivos complementarios, resultando esencial una mayor implicación por parte de las plataformas de distribución de contenidos unido a un mayor esfuerzo y despliegue de recursos destinados a la alfabetización visual.

Referencias

Albahar, Marwan & Almalki, Jameel (2019). Deepfakes: threats and countermeasures systematic review, Journal of Theoretical and Applied Information Technology, 97:22, pp. 3242-3250. http://www.jatit.org/volumes/Vol97No22/7Vol97No22.pdf

Collins, Aengus; Touradj Ebrahimi (2021). Risk governance and the rise of deepfakes, International Risk Governance Centre https://infoscience.epfl.ch/record/285637

European Parliament (2020). Tackling deepfakes in European policy, European Parliament Research Service, https://www.europarl.europa.eu/RegData/etudes/STUD/2021/690039/EPRS_STU(2021)690039_EN.pdf

Leong, Dymples (2023). Deepfakes and Disinformation Pose a Growing Threat in Asia, The Diplomat, 23 de marzo 2023. https://thediplomat.com/2023/03/deepfakes-and-disinformation-pose-a-growing-threat-in-asia/

UK Government (2022). New laws to better protect victims from abuse of intimate images https://www.gov.uk/government/news/new-laws-to-better-protect-victims-from-abuse-of-intimate-images

US Congressional Research Service, Deep fakes and National Security, In focus, 3 june, 2022. https://crsreports.congress.gov/product/pdf/IF/IF11333/1

US Homeland Security Department (2021). Increasing Threat of Deepfake Identities. https://www.dhs.gov/sites/default/files/publications/increasing_threats_of_deepfake_identities_0.pdf Westerlund, Mika (2019). The Emergence of Deepfake Technology: A Review, Technology Innovation Management Review, 9:11, pp. 39-52 https://timreview.ca/sites/default/files/article_PDF/TIMReview_November2019%20-%20D%20-%20Final.pdf

[1] Congressional Research Service, Deep fakes and National Security, In focus, 3 june, 2022. https://crsreports.congress.gov/product/pdf/IF/IF11333/1

[2] https://www.dhs.gov/sites/default/files/publications/increasing_threats_of_deepfake_identities_0.pdf

[3] https://www.forbes.com/sites/thomasbrewster/2021/10/14/huge-bank-fraud-uses-deep-fake-voice-tech-to-steal-millions/?sh=2e21ace17559

[4] https://www.wsj.com/articles/fraudsters-use-ai-to-mimic-ceos-voice-in-unusual-cybercrime-case-11567157402

[5]https://www.europarl.europa.eu/RegData/etudes/STUD/2021/690039/EPRS_STU(2021)690039_EN.pdf

[6] https://www.youtube.com/watch?v=X17yrEV5sl4

[7] https://www.europol.europa.eu/publications-events/publications/malicious-uses-and-abuses-of-artificial-intelligence

[8] https://www.dhs.gov/sites/default/files/publications/increasing_threats_of_deepfake_identities_0.pdf [1]

[9] https://www.gov.uk/government/news/new-laws-to-better-protect-victims-from-abuse-of-intimate-images

[10] https://thediplomat.com/2023/03/deepfakes-and-disinformation-pose-a-growing-threat-in-asia/

Te puede interesar

Photovoice: formación y actualización docente para la correcta aplicación de la ley educativa vigente

Continuando con el proyecto realizado el pasado año y en el que participaron 492 personas decidimos implementar un elemento más para la observación del efecto generado tras una formación intensa en lectura de imagen. El rigor del proceso que envuelve esta herramienta cualitativa denominada «Photovoice» nos lleva a predecir un futuro donde el análisis profundo de lo visual, además de metodologías de investigación, deberían aplicarse de forma inminente en los centros escolares de todo el panorama nacional.

La aplicación de la Ley Orgánica de Educación 3/2020, de 29 de diciembre, incluye tras su entrada en vigor una serie de modificaciones con respecto a la Ley Orgánica 2/2006, de 3 de mayo. Probablemente, el punto en el que más reparamos los investigadores inmersos en las áreas de comunicación audiovisual sea la importancia que para los gobernantes y la sociedad en general se le otorga a esta realidad social.

Sin duda, nos resulta alentador observar las aportaciones y modificaciones que afectan a las disciplinas audiovisuales y artísticas en la fase de Educación Primaria: El «Artículo 18. Organización»describe en detalle la estructura que dicha fase debe incluir. Como novedad, establece el área de Educación plástica y visual dentro del Conocimiento del Medio natural, social y cultural. Fomenta una primera aproximación a las tecnologías de la información y la comunicación, y en la expresión visual y musical; El «Artículo 24. Organización de los cursos primero a tercero de educación secundaria obligatoria» también establece las materias que se podrán agrupar en ámbitos, dando espacio y lugar a la Educación Plástica, Visual y Audiovisual (BOE, 2020).

Con esta premisa, el proyecto Photovoice: Empoderamiento a través de la fotografía para el cambio climático, da continuidad al compromiso con la educación medioambiental, desde una perspectiva coherente y alineada con los paradigmas de la educación que el Estado español pretende imponer de manera inmediata.

Fase 0: formación previa en «Lectura de imagen»

Tras los análisis del primer experimento realizado entre los meses de febrero a junio del año 2022, los investigadores implicados reparamos en un asunto referido a la fabricación de las imágenes por parte de los participantes: teniendo en cuenta que en gran porcentaje se trataba de un primerísimo acercamiento al universo visual – la denotación está absolutamente supeditada a las normas que rigen el mensaje interno y connotado – observamos un paradójico déficit en el entendimiento de dicho concepto. Las explicaciones escritas que acompañaban a las propuestas fotográficas que los diferentes grupos de trabajo realizaron daban lugar a cierta confusión conceptual; la poética (connotación) y la expresión directa del mensaje (denotación), en ciertos momentos, carecieron de sentido o se perdieron en la ambigüedad. Sí que se apreció cierto esfuerzo estético en la forma, pero no tanto en el fondo.

Texto exigido en el proyecto Photovoice (imagen izquierda): *el mundo en sus manos, 2022*.
Texto exigido en el proyecto Photovoice(imagen derecha): *Aviación: La aviación contribuye en al menos un 2% a las emisiones de efecto invernadero a nivel mundial, 2022*.

Probablemente, sin el requerimiento de incluir un texto en las imágenes fabricadas – por parte de los conductores del experimento hacia los participante – apelando al significado interno de la pieza fotográfica, no nos hubiéramos cerciorado de la falta de comprensión imagen-mensaje. No hay connotación sino denotación en el mundo en sus manos ya que resulta absolutamente directo y sin interpretación abierta; en el caso de Aviación, se especifica información de los efectos contaminantes, es decir, sigue sin dar cabida a la interpretación abierta al tratarse de un mensaje claro y conciso.

El pasado mes de febrero, 2023 comenzamos un segundo experimento en el que una vez más usábamos la herramienta cualitativa Photovoice. La muestra estuvo representada por 273 participantes, aunque esta vez quisimos incluir un punto diferenciador con respecto al primer experimento: formación previa en «lectura de imagen».

Tras la impartición de una previa formación en aspectos puramente formales de la imagen audiovisual, gramáticas cinematográficas y lenguajes poéticos, se les propuso a los participantes del experimento una actividad en la que deberían ser ellos mismos los responsables de la elaboración del discurso emotivo, siguiendo el legado y los recursos estilísticos propios del artista fotógrafo Chema Madoz.

A pesar de que fuimos conscientes de que se trataba de un ejercicio tradicionalmente realizado en escuelas de cine, fotografía o asignaturas impartidas en facultades de comunicación – incluso con el mismo creador artístico, Chema Madoz -, nos pareció que el impacto podría ser positivo, aun corriendo el riesgo de que alguno de los miembros del experimento lo hubiera ya confeccionado en el pasado. El objetivo, sin duda, incrementar la percepción visual para la profunda lectura del mensaje no visible.

La verificación del efecto de esta variable (formación previa en lectura de imagen) puede ser interesante de cara al análisis que durante este segundo semestre (S2) está por concluir.

Presentación de la *Actividad Lectura de Imagen: Creación de imágenes a través de la obra de Chema Madoz* (Elaboración H. Gómez y V. Levratto, 2023).

Esta tarea dio resultados muy relevantes: Las personas involucradas conformaron grupos de trabajo, establecieron líneas comunicativas estratégicas – algo que, por otro lado, nos estaba ayudando a anticipar una de las fases a seguir en el protocolo Photovoice – y, finalmente, se materializó en forma de imágenes con alta dosis de significación y relato poético.

Resultados obtenidos. Actividad Ch. Madoz (De izquierda a derecha); Lucas Torre, Ana Guapo, Malena Merino, Rubén Cortés.

Fase 1: Experimento Photovoice para el cambio climático, 2023

En febrero 2023, se procede a la activación de las reuniones donde se establecerían las instrucciones necesarias para el desarrollo del experimento que vio su origen el pasado febrero 2022 (concluyó con 49 proyectos fotográficos y un análisis cualitativo en profundidad). La diferencia de ambos periodos de experimentación (febrero, 2022 y febrero, 2023) fue fundamentalmente la inclusión de un nuevo agente denominado «formación en lectura de imagen». En este caso la muestra fue un tanto menor (31 grupos, 273 participantes).

Los resultados están aun en proceso de elaboración y tratamiento para, posteriormente, su futuro análisis. Se pueden vaticinar ciertos aspectos, de modo general, tras la presentación oral de los proyectos y la discusión que se llevó a cabo durante la fase «plantilla Showed, en la que los miembros de los grupos respondieron a los aspectos referidos a: descripción; connotación; relación; razón; educación; solución; oportunidad; emoción; identificación de lo racional; eficacia informativa; dificultades, de sus propios proyectos Photovoice. No obstante, y siguiendo la solidez que exige la investigación, optamos por no aventurar resultados, en aras de continuar con la buena praxis de la investigación y que, sin duda, nos conduce a la excelencia y el rigor.

Referencias

BOE. (2020). Ley Orgánica 3/2020, de 29 de diciembre, por la que se modifica la Ley Orgánica 2/2006, de 3 de mayo, de Educación. Recuperado de https://www.boe.es/diario_boe/txt.php?id=BOE-A-2020-17264

Derr, V. y Simons, J. (2019). A review of photovoice applications in environment, sustainability, and conservation contexts: is the method maintaining its emancipatory intents. Environmental Education Research, DOI: 10.1080/13504622.2019.1693511

Madoz, C., Castro Flórez, F., & Castro Flórez Fernando. (2016). Chema Madoz (7ª, Ser. Biblioteca de fotógrafos españoles). La Fábrica.

Red4C. Investigación social de la percepción del cambio climático en España. 2021. (Consultado el 3/11/2022.) Disponible en: https://red4c.es/wpcontent/uploads/2020/03/percepcionCC_red4C.pdf

Tobias, J., Díaz, M. Saez y J.C. Alberdi (2001). Use of poisson regression and box-jenkins models to evaluate the short-term effects of environmental noise levels on daily emergency admissions in Madrid, Spain Eur. J. Epidemiol., 17 (8) pp. 765-771

Vergara, A., Peña, M., Chávez, P. & Vergara, E. (2015). Los niños como sujetos sociales: El aporte de los Nuevos Estudios Sociales de la infancia y el Análisis Crítico del Discurso. Psicoperspectivas, 14(1), 55-65. Recuperado desde http://www. psicoperspectivas.cl doi:10.5027/PSICOPERSPECTIVAS-VOL14-ISSUE1-FULLTEXT-544

Wals, E.J., Benavot, A. (2017). Can we meet the sustainability challenges? The role of education and lifelong learning European Journal of Education, 52 (4) (2017), pp. 404-413, 10.1111/ejed.12250

Wang C, Burris MA. 1997 Photovoice: concept, methodology, and use for participatory needs assessment. Heal Educ Behav. 24:369–87

https://journals.sagepub.com/doi/10.1177/109019819702400309

Herramientas narrativas para los vídeos de comunicación científica

Las herramientas como recursos expresivos ayudan a comunicar mejor con los vídeos y a estructurarlos de manera más atractiva.

¿Cómo narrar la ciencia?

Desde que la comunicación científica está en el orden del día referente a su popularidad, han surgido no pocas muestras y manifestaciones para contarla. Desde la comunicación institucional de los organismos que gestionan la ciencia hasta las redes sociales como canales abiertos multiacceso.

¿Cómo organizar los resultados para que se puedan comunicar mejor y llegar a mayor audiencia?

La tendencia en las redes sociales es hacer vídeos divulgativos con un presentador hablando a cámara en una escala de planos variable, acompañado con imágenes científicas referentes al proyecto o simplemente de apoyo, de fondo o como un inserto. Muy presente en canales específicos de divulgadores en redes sociales.

Cuando son canales de difusión de instituciones u organismos dedicados a la ciencia, la tendencia varía en el tipo de formato y en los recursos usados. En este sentido debemos tener en cuenta el nivel de difusión que pretende cada vídeo.

Es importante representar las diferencias entre los vídeos científicos según el público al que va dirigido

Los divulgadores científicos más desenfadados, con un tono más festivo, parecen tener más éxito. Esto no debe desalentarnos, pero sí hacernos reflexionar sobre los tipos de contenidos que somos capaces de ofrecer. Seguramente un mismo contenido en tres formatos, organizados por niveles, puede ser una buena opción y seguramente más efectiva.

Como divulgadores científicos debemos buscar recursos para hacer más atractivos nuestros vídeos y como comunicadores audiovisuales tenemos que poder ofrecer herramientas para que los contenidos lleguen a más audiencia, sin necesidad de adaptarnos a los modos más populares en los diversos canales de difusión.

Estructura narrativa y sus tipos

Las etapas de la investigación y la relación con la narrativa audiovisual, con la estructura, facilita la organización de los contenidos audiovisuales. Taborda-Hernández, 2018.

Si dejamos a un lado los elementos de la estructura y nos centramos en las figuras estructurales más comunes podemos aportar ideas para organizar nuestros vídeos. Igualmente si lo juntamos con la propuesta de Rajas, 2021 y las cuatro formas de empezar con fuerza un vídeo científico nos aseguramos el éxito. Estas formas son: la pregunta, la enumeración, la historia o una conversación.

Asimismo, las figuras estructurales sirven como herramientas, aunque no siempre son aplicables por la extensión del vídeo o por la temática, pero conocerlas ayudan a que sepamos en qué momento aplicarlas con solvencia.

Las formas de estructurar las historias representan un complejo universo que se debe estudiar con detalle

De estas seis seguramente lo más usual es usar el in media res o el racconto como figura más empleada, pero la estructura alterna/paralela es un recurso muy vistoso y dinámico a la hora de editar nuestros vídeos.

Los modos y las formas de articulación

Los modos de edición tienen relación directa con las figuras estructurales, tanto que el modo paralelo y alterno es al mismo tiempo una figura y un modo, en oposición al modo y estructura lineal que resguarda la lógica narrativa por excelencia.

Al igual que el montaje interno como recurso donde el plano secuencia, el foco selectivo y la profundidad de campo son excelentes recursos expresivos a tener en cuenta.

Por otro lado, las formas de articulación son las relaciones que se establecen entre dos planos, básicamente el corte como unidad sintagmática esencial y las transiciones, tanto de vídeo como de audio, como relación temporal entre ellos.

Las herramientas de edición son unos recursos técnicos que se deben comprender

El uso de estas herramientas en nuestras producciones otorga dinamismo, atractivo visual e impacto a los vídeos. La calidad técnica y la solvencia narrativa es un ingrediente más en la búsqueda de la visibilidad máxima deseada para atrapar esas audiencias sobre todo de nivel tres. (Taborda-Hernández, 2022)

Por ejemplo, si planteamos un vídeo que proponga una estructura paralela donde un investigador/divulgador transita por un espacio cualquiera de un punto A a otro B en un movimiento con cortes pero en un falso plano secuencia.

Mientras está hablando a cámara o en voz en off contando los elementos más importantes de la investigación, va mostrando paralelamente imágenes de otro lugar donde está ocurriendo un experimento o algo referente al proyecto. En algunos momentos se muestra la pantalla dividida, de un lado al investigador hablando y del otro una gráfica animada con hallazgos.

Al llegar al punto B el investigador se entrevista con un colaborador que completa la información. En la conversación se muestra a ambos frente a una pantalla y mientras hablan se hace foco selectivo conformando un montaje interno. Este guion y las herramientas propuestas nos ayudará en la realización de un vídeo atractivo.

Referencias

Rajas Fernández, M (2021) ¿Por dónde empiezo? Fórmulas infalibles para iniciar un vídeo científico (I) Blog Ciberimaginario. www.ciberimaginario.es
Taborda-Hernández, E (2018) ¿Es posible una verdadera narrativa científica desde una efectiva divulgación audiovisual? Blog Ciberimaginario. www.ciberimaginario.es
(2020) ¿Por qué funcionan los contenidos científicos en las redes sociales de vídeos cortos? (I) Blog Ciberimaginario. www.ciberimaginario.es

Confianza, clave para la comunicación de la ciencia

Hoy, una comunicación estratégica, responsable y orientada a las personas, construye reputación, ayuda a evitar la pérdida de confianza, potencia la fidelización y el compromiso y es un signo inequívoco de liderazgo. En las organizaciones que comunican bien se aprovechan todos los recursos; los propios responsables de las mismas son un activo de comunicación importantísimo cumpliendo, como constructores de una visión e impulsores del propósito de la organización, un papel fundamental en ello. Esto suma a la credibilidad y a la reputación profesional e institucional, pues la comunicación efectiva en general, y de la ciencia en particular, ayuda a generar confianza, legitimidad y apoyo.

En este camino, la comunicación estratégica en las organizaciones ha evolucionado enormemente desde la mera información unidireccional con públicos generalistas a través de medios de comunicación tradicionales offline hacia nuevas formas de comunicación, donde la clave está en la implicación, la emoción y la empatía y la credibilidad a través de la coherencia y la autenticidad. A pesar de la sofisticación tecnológica, cada vez mayor, los principios básicos de la eficacia de la comunicación que fundamentan su eficacia no se ven alterados.

Vivimos tiempos de infodemias y fake news. En un contexto generalizado de desconfianza generalizada y de desinformación como el actual, cobra un nuevo protagonismo la credibilidad de la fuente y en comunicación científica esto se convierte en una clara oportunidad.

Según el Barómetro de Confianza de Edelman (2023), las personas entregan su confianza cuando reconocen dos características: la primera es el grado de competencia; la segunda tiene que ver con el comportamiento ético, y en este ámbito las entidades gubernamentales y los medios de comunicación están catalogados como los menos competentes y éticos. Edelman determina que los valores que motivan como impulsores éticos para generar reputación son la integridad, confiabilidad y el propósito.

El estudio ‘Edelman Trust Barometer Spain 2023’ desvela que en nuestro país, como ocurre en casi todos los países del mundo, existe una crisis de confianza institucional importantísima. Los resultados de este informe, que la firma de comunicación Edelman realiza anualmente en más de 28 países, señalan que sólo cuatro de cada diez españoles confían en que las instituciones hagan lo correcto, y solo las organizaciones no gubernamentales superan el aprobado (53%). La confianza hacía los gobiernos es la más baja con un 36%, mientras que los propios medios de comunicación (38%) y las empresas (49%) suspenden en confianza y caen con respecto a los datos de 2022.

No hay que olvidar que “La comunicación es acción y la acción es comunicación. Los hechos no solo son, sino que significan” (Costa, 2015). Y es que hoy más que nunca, la comunicación está marcada por los hechos, más que por las palabras. Es imprescindible alinear lo que se dice con lo que se hace para contrarrestar la crisis de confianza en las instituciones, y trabajar la coherencia.

El correcto proceder deontológico aumenta el prestigio, al generar confianza en la población, sin embargo, se pueden evidenciar pérdidas de credibilidad ante las malas prácticas. Recientemente, el pasado mes de marzo, hemos conocido el caso de un científico suspendido de empleo y sueldo por 13 años, uno de los científicos más citados del mundo, el español Rafael Luque. Su prolífica labor, ahora bajo sospecha, le llevaba a publicar un artículo científico cada 37 años y ha sido sancionado por publicar trabajos como investigador de instituciones cuestionables por su credibilidad en Rusia o Arabia Saudí. Este tipo de hechos afecta la reputación de la comunicación científica, si bien es necesario recordar que las publicaciones científicas auténticas, serias, sí miden de alguna manera la calidad, y utilidad de lo investigado y hallado y verificado. Para colmo, el químico admitió que lleva tiempo usando el programa de inteligencia artificial ChatGPT para “pulir” sus textos. Y aquí entramos en otro ámbito que dará pie a nuevas publicaciones en este blog, pues ChatGPT no solo es una herramienta que pone en jaque la generación de contenidos como la hemos entendido hasta ahora, sino que está incluso integrando hechos inventados y desinformación en sus procedimientos. De hecho, ChatGPT se está inventando artículos de medios generalistas y científicos para justificar sus respuestas que, en realidad, nunca han existido, algo que alerta de la incapacidad para distinguir de manera confiable la verdad de la mentira, lo que es un serio problema añadido trascendental para la propia confianza de esta tecnología.

Por ejemplo, varios periodistas del diario USA Today se sorprendieron al descubrir que ChatGPT había presentado citas de estudios de investigación completos sobre cómo el acceso a las armas no aumenta el riesgo de mortalidad infantil. ChatGPT explicó que las referencias que proporcionó eran genuinas de revistas científicas revisadas por pares, sin embargo esto era falso, los estudios citados no existían.

El tema, apasionante por las posibilidades que puede ofrecer, no es pequeño ni sencillo por los retos que presenta, como tampoco la solución de los mismos y de hecho ya distintos países como España han abierto una investigación contra ChatGPT por posible vulneración de la protección de datos.

Y es que, una vez más se demuestra que la confianza, es clave para la eficacia de la comunicación científica.

REFERENCIAS

AEPD (2023). La AEPD inicia de oficio actuaciones de investigación a OpenAI, propietaria de ChatGPT. https://www.aepd.es/es/prensa-y-comunicacion/notas-de-prensa/aepd-inicia-de-oficio-actuaciones-de-investigacion-a-openai

Ansede, M.. (2023, March 31). Suspendido de empleo y sueldo por 13 años uno de los científicos más citados del mundo, el español Rafael Luque. El País. https://elpais.com/ciencia/2023-03-31/suspendido-de-empleo-y-sueldo-por-13-anos-uno-de-los-cientificos-mas-citados-del-mundo-el-espanol-rafael-luque.html

Edelman (2023) Edelman Trust Barometer. Edelman España. https://www.edelman.com.es/2023-edelman-trust-barometer

Costa, J. (2015): El paradigma DirCom. Barcelona: Costa Punto Com.

ChatGPT: El modelo de lenguaje por IA que está cambiando las reglas del juego

Entre los avances experimentados en el ámbito de la Inteligencia Artificial (IA), en los últimos años, destacan los asociados con la mejora y el entrenamiento de los denominados modelos de lenguaje. Estos modelos posibilitan que maquinas (entendido esta idea en su sentido más amplio) puedan analizar e interpretar el lenguaje, posibilitando así que estas interactúen con humanos mediante flujos de comunicación bidireccional, siguiendo patrones propios de la conducta humana (Mariani et al., 2023).

Basado en el modelo de lenguaje de IA generativa GPT-3, ChatGPT (desarrollado por la compañía americana de investigación participada por el empresario Elon Musk, OpenAI) es, probablemente, el ejemplo de este tipo de tecnología conversacional más conocido en todo mundo.

El valor diferencial de ChatGPT, con respecto a otros sistemas similares, es su potencial para comprender y analizar el contexto que rodea a la conversación entre la máquina y el sujeto. Esto es consecuencia directa del exhaustivo proceso de entrenamiento previo al que es sometido el sistema por parte de sus desarrolladores.

Otra característica clave de ChatGPT es su capacidad para aprender y adaptarse con el transcurso del tiempo. A medida que el sistema recibe nuevos inputs de los sujetos, puede mejorar sus respuestas, haciéndolas cada vez más efectivas. Por tanto, la apertura del sistema a millones de usuarios ha posibilitado que ChatGPT continúe en la actualidad su proceso de aprendizaje.

Ese entrenamiento exhaustivo inicial unido al de aprendizaje continuado que experimenta la aplicación permite que ChatGPT esté siempre actualizado y que pueda proporcionar además respuestas no solo más relevantes y precisas, sino también más naturales (Kasneci et al., 2023).

Aplicaciones de ChatGPT

Para los profanos en la materia, ChatGPT genera, de manera automática y prácticamente inmediata, respuestas (outputs) a las entradas (inputs), en forma de texto, realizadas por humanos a través de una interfaz web. Por consiguiente, parece lógico pensar que esta tecnología puede tener utilidades que permitirán mejoras en muchos aspectos de nuestra vida cotidiana.

Las aplicaciones potenciales de este sistema de IA son muy diversas. Desde los chatbots y asistentes virtuales, hasta el apoyo en diagnósticos médicos, pasando por la traducción de textos, la creación de contenidos periodísticos e informativos (o des informativos), la producción de contenidos docentes, o la ayuda en tareas de asesoramiento legal, entre otras (Halaweh, 2023).

Por otro lado, también cabe destacar las posibilidades de aplicación de ChatGPT en contextos comerciales. Su poder para entender la entrada de lenguaje natural y generar respuestas relevantes y precisas en tiempo real, posicionan a ChatGPT como una herramienta extraordinaria para aquellas empresas que buscan automatizar su servicio hacia el cliente o mejorar su experiencia de compra (Chong et al., 2021).

Así, esta tecnología puede emplearse en tareas de atención al cliente, personalización de servicios, creación de publicaciones en redes sociales, comercio electrónico, e incluso en trabajos de prospección de mercado (Cheng et al., 2022).

En conclusión, ChatGPT es un sistema que, sin lugar a duda, está cambiando las reglas del juego en el mundo de la IA. Con sus capacidades avanzadas y su proceso de aprendizaje continuo, esta herramienta tiene el potencial para revolucionar la forma en que interactuamos con las máquinas, pero también la manera en la que nos comunicamos entre nosotros. A medida que avanzamos hacia el futuro, seguro que podremos ver más y más aplicaciones para esta increíble tecnología.

REFERENCIAS

Cheng, X., Bao, Y., Zarifis, A., Gong, W., & Mou, J. (2022). Exploring consumers’ response to text-based chatbots in e-commerce: the moderating role of task complexity and chatbot disclosure. Internet Research, 32(2), 496–517. https://doi.org/10.1108/INTR-08-2020-0460

Chong, T., Yu, T., Keeling, D. I., & de Ruyter, K. (2021). AI-chatbots on the services frontline addressing the challenges and opportunities of agency. Journal of Retailing and Consumer Services, 63, 102735. https://doi.org/10.1016/J.JRETCONSER.2021.102735

Halaweh, M. (2023). ChatGPT in education: Strategies for responsible implementation. Contemporary Educational Technology, 15(2), ep421. https://doi.org/10.30935/CEDTECH/13036

Kasneci, E., Sessler, K., Küchemann, S., Bannert, M., Dementieva, D., Fischer, F., Gasser, U., Groh, G., Günnemann, S., Hüllermeier, E., Krusche, S., Kutyniok, G., Michaeli, T., Nerdel, C., Pfeffer, J., Poquet, O., Sailer, M., Schmidt, A., Seidel, T., … Kasneci, G. (2023). ChatGPT for good? On opportunities and challenges of large language models for education. Learning and Individual Differences, 103, 102274. https://doi.org/10.1016/J.LINDIF.2023.102274

Mariani, M. M., Hashemi, N., & Wirtz, J. (2023). Artificial intelligence empowered conversational agents: A systematic literature review and research agenda. Journal of Business Research, 161, 113838. https://doi.org/10.1016/J.JBUSRES.2023.113838

Usos ilícitos de las deepfakes: marcos legales y desafíos de futuro

¿Qué avances e impactos ha generado la IA en los últimos años?

Hablamos sobre

USOS ILÍCITOS DE LAS DEEPFAKES

ENFOQUES REGULATORIOS EXISTENTES

Referencias

Te puede interesar

Photovoice: formación y actualización docente para la correcta aplicación de la ley educativa vigente

Fase 0: formación previa en «Lectura de imagen»

Fase 1: Experimento Photovoice para el cambio climático, 2023

Referencias

Herramientas narrativas para los vídeos de comunicación científica

¿Cómo narrar la ciencia?

¿Cómo organizar los resultados para que se puedan comunicar mejor y llegar a mayor audiencia?

Estructura narrativa y sus tipos

Los modos y las formas de articulación

Referencias

Confianza, clave para la comunicación de la ciencia

REFERENCIAS

ChatGPT: El modelo de lenguaje por IA que está cambiando las reglas del juego

REFERENCIAS

En nuestro blog

IMV Paper, una alternativa interactiva para comunicar los resultados de tu investigación

La ciencia no es un acertijo envuelto en un misterio dentro de un enigma

¿Por qué la comunicación científica no despierta el interés del público?

El vídeo interactivo y su potencial para comunicar sobre ciencia

¿PISA es de fiar? La evaluación del evaluador. La competencia científica en PISA

Sobre nosotros

I+D+I

Servicios

Eventos