Una mirada al impacto de los deepfakes sobre los medios de comunicación y la sociedad

"Es importante recordar que los deepfakes son solo una herramienta, y que su éxito o fracaso depende de su uso responsable”

 

 

DeepFake es un término utilizado para describir la tecnología de inteligencia artificial que permite a los usuarios crear y manipular contenido digital. Esta tecnología, desarrollada en 2015, permite a los usuarios crear contenido falso y manipular contenido existente. En la actualidad, los deepfakes, tecnología que también se utiliza para crear reproducciones realistas de rostros famosos utilizando inteligencia artificial (IA), son ahora lo bastante sofisticados como para funcionar en tiempo real.

Lo más relevante de esta tecnología es que está cambiando la forma en que consumimos contenido digital. Las imágenes y videos manipulados, generados por inteligencia artificial, están afectando los medios de comunicación y la confianza en los contenidos en línea. La tecnología de los deepfakes ha avanzado aceleradamente, lo que significa que la diferenciación entre lo real y lo falso se ha vuelto cada vez más difícil. Esta amenaza a la veracidad de la información en línea, ha generado un gran temor entre las personas, causando que la gente se pregunte qué contenido es creíble y cómo evitar ser engañado. Debido a esto, muchas organizaciones están buscando formas de detectar deepfakes y proteger la integridad de los contenidos en línea.

A pesar de los desafíos que plantean los deepfakes, esta tecnología también ofrece grandes oportunidades. Los deepfakes pueden mejorar la forma en que se crean contenidos ya que se pueden crear imágenes y videos más realistas y convincentes. Esto podría ayudar a los medios de comunicación a proporcionar contenido más convincente para sus lectores. También podría ayudar a la educación y a la formación al permitir a los educadores generar contenido de simulación realista. Igualmente, los deepfakes podrían usarse para el entretenimiento, permitiendo a los creadores de contenido crear experiencias únicas e inmersivas para sus usuarios.

Lamentablemente, también hay grandes desventajas que se asocian a los deepfakes. En primer lugar, la falta de regulación de los deepfakes puede dar lugar a la difusión de contenido falso y engañoso, lo que puede causar una gran confusión entre los usuarios. Además, los deepfakes también pueden afectar negativamente la privacidad de las personas, ya que los datos recopilados por la tecnología pueden usarse para fines indebidos.

Repasemos con mas detenimiento, las ventajas y desventajas de los deepfakes y como pueden estas creaciones impactar los medios de comunicación y la sociedad.

 

Impacto de los deepfakes en los medios de comunicación

 

• Los deepfakes son capaces de crear videos y audios que parecen reales, lo que significa que es posible que la audiencia sea engañada por contenido falso. Esto puede tener un gran impacto en la forma en que la gente recibe noticias y contenido informativo, y puede llevar a la difusión de información falsa y desinformación.
• Los deepfakes también pueden ser utilizados para violar la privacidad de la gente, ya que los videos y audios creados con deepfakes pueden usarse para generar contenido comprometedor o para chantajear a alguien.
• Los deepfakes también están cambiando la manera de informar y, ahora, los medios de comunicación tienen que ser más cuidadosos al verificar el contenido que publican. Esto significa que los medios de comunicación ahora tienen que pasar más tiempo en la verificación de la veracidad de un video o audio antes de publicarlo. Además, los medios de comunicación también tienen que considerar la forma en que usan los deepfakes para presentar contenido, ya que los deepfakes pueden manipular fácilmente el contenido para crear una versión distorsionada de la realidad. Esto significa que los medios de comunicación tienen que ser muy cuidadosos cuando usen deepfakes para contar historias.
  
• Finalmente, el uso de deepfakes puede provocar una desconfianza generalizada en los medios de comunicación, ya que es difícil distinguir el contenido real del contenido falso. Esto podría conducir a una falta de confianza en el contenido de los medios de comunicación y a un descenso de la credibilidad de los mismos.

Ventajas del uso de los medios sintéticos o deepfakes

 

Los deepfakes pueden crear numerosas posibilidades y oportunidades para todos. Esta  tecnología es una excelente facilitadora y puede ser muy empoderadora. Han surgido nuevas ideas y capacidades de desarrollo gracias a los avances en la ciencia de datos y la inteligencia artificial. La Inteligencia Artificial puede crear posibilidades y oportunidades para todos, y ahí, la importancia de las tecnologías que se desarrollan y que nos regalan posibilidades infinitas. Solo cabe agregar que, aunque los deepfakes pueden hacer mucho daño, a medida que la tecnología evolucione, los deepfakes serán usados para mejorar la vida de las personas y empoderar a las comunidades e instituciones ya que podrá darle a la gente voz, propósito y la capacidad de causar impacto a gran escala y con rapidez.

Educación

 

La tecnología Deepfake ofrece numerosas posibilidades en el ámbito educativo. Las escuelas y los profesores llevan bastante tiempo utilizando medios de comunicación, audio y vídeo en las aulas. Los deepfakes pueden ayudar a un educador a impartir lecciones innovadoras mucho más atractivas que los formatos visuales y multimedia tradicionales.

Los medios sintéticos generados por IA pueden devolver la vida a figuras históricas para que la clase sea más atractiva e interactiva. Un vídeo sintético de recreaciones o de voz y vídeo de una figura histórica puede tener más impacto, compromiso y será una mejor herramienta de aprendizaje. Por ejemplo, el discurso de JFK sobre la resolución para acabar con la guerra fría, que nunca llegó a pronunciarse, se recreó utilizando una voz sintética con su voz y estilo de hablar que claramente conseguirá que los alumnos aprendan sobre el tema de una forma creativa.

La anatomía humana sintética, la maquinaria industrial sofisticada y los proyectos industriales complejos pueden modelarse y simularse en un mundo de realidad mixta para enseñar a los estudiantes y colaborar utilizando Microsoft Hololens.

El uso creativo de la voz y el vídeo sintéticos puede aumentar el éxito general y los resultados del aprendizaje con escala y coste limitado.

Arte

 

Durante muchas décadas, Hollywood ha utilizado tecnologías de alta gama para crear mundos artificiales pero creíbles para narrar historias convincentes. En la película de 1994, Forest Gump, el protagonista se encuentra con JFK y otras figuras históricas. La creación del escenario y los efectos se logró mediante CGI y diferentes técnicas con millones de dólares. Hoy en día se utilizan sofisticadas tecnologías CGI y VFX en las películas para generar medios sintéticos con los que contar una historia cautivadora.

Los deepfakes pueden democratizar la costosa tecnología VFX como una poderosa herramienta para los narradores independientes a una fracción del coste.

Los medios sintéticos generados por IA pueden ofrecer oportunidades sin precedentes en el negocio del entretenimiento, y vemos que los creadores independientes o YouTube se están dando cuenta de ello. Aquí un ejemplo:

 

Las empresas culturales y de entretenimiento pueden utilizar deepfakes con fines artísticos. El Museo Dalí de San Petersburgo (Florida) creó una exposición titulada Dalí lives, en la que le devolvía a la vida utilizando deepfakes para que los visitantes interactuaran y se hicieran un selfie con el pintor surrealista Salvador Dalí.

 

Del mismo modo, el laboratorio de IA de Samsung en Moscú dio vida a la Mona Lisa utilizando tecnología Deepfake.

 

La narración de audio y de libros es otro buen caso de uso de la voz sintética. La fuente de voz sintética del autor puede utilizarse para crear el formato de audio del libro del autor. Las empresas pueden utilizar locuciones sintéticas del mismo actor en distintos idiomas para ampliar el alcance de sus contenidos.

Autonomía y expresión

 

Los medios sintéticos pueden ayudar a los activistas de derechos humanos y a los periodistas a permanecer en el anonimato en regímenes dictatoriales y opresivos. El uso de la tecnología para denunciar atrocidades en los medios tradicionales o sociales puede dar mucho poder a los periodistas ciudadanos y a los activistas. Los deepfakes pueden utilizarse para anonimizar la voz y los rostros con el fin de proteger su privacidad.

Los deepfakes pueden utilizarse para crear experiencias avatares para individuos en línea para la autoexpresión. El avatar digital personal da autonomía y puede ayudar a los individuos a ampliar sus propósitos, ideas y creencias y permitir la autoexpresión, que de otro modo puede ser difícil para algunos. Las personas que sufren ciertas discapacidades físicas o mentales podrían utilizar avatares sintéticos de sí mismas para expresarse en línea.

Accesibilidad

 

La inteligencia artificial puede construir herramientas para oír, ver y, pronto con la Inteligencia General Artificial (AGI), razonar con una precisión cada vez mayor. Los medios sintéticos generados por IA pueden ayudar a que las herramientas de accesibilidad sean más inteligentes y, en algunos casos, incluso asequibles y personalizables, lo que puede ayudar a las personas a ganar independencia. La tecnología, y en concreto las herramientas basadas en IA, pueden aportar soluciones accesibles para todos.

Canetroller, un controlador háptico de bastón, puede ayudar a los discapacitados visuales a navegar por el mundo de la realidad virtual mediante simulación e interacciones con el bastón. Puede permitir a las personas con discapacidad visual navegar por un entorno virtual transfiriendo sus habilidades con el bastón al mundo virtual. Esta tecnología puede contribuir a la igualdad y la autonomía.

También existen increíbles beneficios para los pacientes de esclerosis lateral amiotrófica (ELA), donde la voz sintética es muy útil, ya que esta horrible enfermedad afecta a la capacidad de hablar, comunicarse y a las habilidades motoras. Imagínese poder hablar con tu propia voz con tus seres queridos incluso después de haber perdido la capacidad de hablar. El equipo Gleason, que proporciona tecnología, equipos y servicios para personas con ELA, trabaja con empresas tecnológicas para crear y desarrollar escenarios de medios sintéticos generados por IA para personas con ELA (enfermedad de Lou Gehrig).

 

Existen otros casos de uso de la voz sintética. VOCALiD aprovecha el banco de voces y la tecnología patentada de combinación de voces para crear personajes vocales únicos para cualquier dispositivo que convierta el texto en habla para las personas con dificultades de habla y audición. La voz sintética también es esencial para que estos pacientes puedan ser independientes. Las voces creadas con Deepfake también puede ayudar con impedimentos del habla desde el nacimiento.

Entre otras ventajas de los deepfakes tenemos:

Diagnóstico y tratamiento médicos a distancia: los deepfakes pueden proporcionar un medio para que los médicos realicen diagnósticos y tratamientos a distancia. Por ejemplo, un paciente puede usar un deepfake para recrear la apariencia de una lesión en la piel para ayudar a un médico a diagnosticarla.

Creación de arte a escala: los deepfakes también pueden ayudar a los artistas a crear obras de arte a escala. Por ejemplo, un artista puede usar deepfakes para generar versiones de sus obras en diferentes tamaños y formatos para adaptarse a diferentes medios de distribución.

Mejora de la precisión de imágenes médicas: los deepfakes pueden ayudar a mejorar la precisión de las imágenes médicas. Por ejemplo, los médicos pueden usar deepfakes para completar imágenes de resonancia magnética incompletas, mejorar la calidad de imágenes borrosas o aumentar la resolución de imágenes para una mejor visualización. Además, los deepfakes también pueden ayudar a los médicos a identificar patrones en las imágenes médicas que de otra forma pasarían desapercibidos.

Animación de personajes en videojuegos: los deepfakes pueden ayudar a mejorar la animación de los personajes en los videojuegos. Los desarrolladores de videojuegos pueden usar deepfakes para crear personajes más realistas con movimientos más fluidos y expresiones faciales más auténticas.

Reconocimiento facial para la seguridad: los deepfakes también pueden ayudar con el reconocimiento facial para la seguridad. Por ejemplo, los sistemas de reconocimiento facial pueden usar deepfakes para mejorar la precisión al detectar características distintivas en los rostros, lo que ayudaría a mejorar la seguridad.

Desventajas de los deepfakes

 

Lamentablemente esta tecnología tiene terribles consecuencias para las personas, la sociedad, la democracia

Amenaza para las personas

 

El primer caso de uso malicioso de deepfake se vio en la pornografía, infligiendo violencia emocional, reputacional y, en algunos casos, hacia el individuo, principalmente mujeres. Según el informe de Deeptrace, ahora sensity.ai, el 96% de los deepfakes son vídeos pornográficos.

Los deepfakes pornográficos reduce a las mujeres a objetos sexuales, las atormenta, causándoles angustia emocional, daños a su reputación, abusos y, en algunos casos, daños materiales como pérdidas económicas y consecuencias colaterales como la pérdida del empleo.

Un deepfake también puede mostrar a una persona adoptando comportamientos antisociales y diciendo cosas viles que nunca hizo. Estos deepfakes pueden tener graves consecuencias para su reputación. Puede sabotear su vida actual y futura, incluyendo y no limitándose a la carrera, el mercado profesional, la política, las relaciones y el romance. Incluso si la víctima pudiera desacreditar la falsificación mediante una coartada o de otro modo, esa solución podría llegar demasiado tarde para remediar el daño inicial.

En muchos casos, es difícil anular los consiguientes daños a su reputación, agencia y material. La falsedad escandalosa se propaga más rápidamente con el poder de distribución de los medios sociales y el deseo humano innato de cotilleo y falsedad frente a refutaciones y correcciones. La mayoría de la gente no tiene ningún deseo de revisar la falsedad de forma crítica.

El desconocimiento de los medios de comunicación sintéticos basados en IA, los deepfakes, llevó a los habitantes de un pueblo de la India a creer que las falsedades sobre el secuestro de niños eran ciertas, las imágenes falsas y los vídeos en WhatsApp dieron lugar a varios casos de linchamientos y asesinatos colectivos.

Actores malintencionados pueden aprovecharse de personas desprevenidas para estafarlas y obtener beneficios económicos utilizando deepfakes de audio y vídeo. El deepfake puede utilizarse para chantajear. Los medios de comunicación falsos, vídeo y audio, pueden utilizarse para extraer dinero, información confidencial o favores exactos de los individuos.

En el ámbito del entretenimiento y el arte, hemos visto algunos ejemplos de deepfakes cuando un actor ha muerto antes de terminar la película, los estudios han utilizado deepfakes para completar la producción.

Amenaza para la sociedad

 

Los deepfakes pueden causar daños sociales a corto y largo plazo. Los medios de comunicación sintéticos basados en la IA pueden acelerar la desconfianza en los medios. Combinado con la desconfianza, los prejuicios existentes y el desacuerdo político se pueden crear deepfakes para crear zozobra y discordia en la sociedad.

Los deepfakes pueden ayudar a alterar el discurso democrático. La información falsa sobre las instituciones, la política y los líderes públicos que proporciona un deepfake, puede aprovecharse para tergiversar la información y manipular las creencias. Los deepfakes dificultarán a las instituciones, públicas y privadas, defenderse de los ataques a su reputación y desacreditar la desinformación.

Los deepfakes, pueden simplemente utilizarse para difundir desinformación viciosa con rapidez y a gran escala para erosionar la confianza en las instituciones lo que crea alteraciones negativas en la sociedad.

Amenaza para las empresas

 

·         Los deepfakes pueden comprometer la privacidad de las empresas al crear contenido falso que puede ser utilizado para obtener información confidencial de los clientes.

·         Los deepfakes pueden utilizarse para crear videos maliciosos con el objetivo de generar confusiones en la empresa o robar información.

·         Los deepfakes pueden crear contenido falso para perjudicar la imagen de la empresa, lo que puede afectar su reputación y su prestigio.

·         Los deepfakes pueden ser utilizados para alterar o modificar los datos de la empresa, lo que puede afectar su integridad.

·         Los deepfakes pueden ser una amenaza de la competencia desleal ya que pueden ser utilizados para crear contenido falso y así desviar a los clientes de la empresa. Esto puede causar una pérdida significativa de ingresos y reducir la eficiencia de la empresa.

Los deepfakes pueden utilizarse para manipular el mercado

 

·         Los deepfakes pueden utilizarse para crear noticias falsas que influyan en la cotización de las acciones. Por ejemplo, un deepfake podría utilizarse para difundir rumores falsos sobre una empresa o sus productos, provocando la caída del precio de sus acciones.

·         Los deepfakes pueden utilizarse para crear grabaciones de vídeo o audio falsas de las convocatorias de beneficios de una empresa. Al distorsionar la información presentada en la llamada, los operadores pueden actuar sobre la información falsa para manipular el precio de las acciones.

 

·         Los deepfakes pueden utilizarse para crear falsos informes de analistas con el fin de influir en el mercado de valores. Por ejemplo, un deepfake podría utilizarse para crear un informe falso sobre los beneficios de una empresa, provocando la caída del precio de sus acciones.

·         Los deepfakes pueden utilizarse para falsificar órdenes de negociación, lo que puede hacer fluctuar el precio de las acciones. Por ejemplo, un deepfake podría utilizarse para crear una falsa orden de compra de una acción, haciendo que su precio aumente.

·         Los deepfakes pueden utilizarse para manipular las redes sociales con el fin de influir en el mercado de valores. Por ejemplo, se puede utilizar un deepfake para crear mensajes falsos sobre la bolsa.

 

Amenaza de los deepfakes a la democracia

 

·         El deepfake de un candidato político puede sabotear la imagen y la reputación de un candidato político y también puede alterar el curso de unas elecciones.

·         Un deepfake bien ejecutado, unos días antes de los comicios, de un candidato político destacado vomitando epítetos racistas o entregándose a un acto poco ético, puede dañar su campaña.

·         Un deepfake de alta calidad puede inyectar información falsa convincente que puede arrojar una sombra de ilegitimidad sobre el proceso de votación y los resultados electorales.

Conclusión

 

Los deepfakes tienen sus ventajas y desventajas, y es difícil determinar si, a largo plazo, las ventajas serán mayores o, al contrario, las desventajas serán mucho más relevantes.

Las deepfakes son usados para fines artísticos, educativos y comerciales. Esto significa que su uso puede llevar a fronteras de creatividad insondables. También, sirven para la creación de contenido de calidad y la posibilidad de crear contenido novedoso y único.

Por otro lado, los deepfakes usados con fines maliciosos pueden causar muchísimo daño. El hecho de que pueden ser usados para crear contenido engañoso o para difundir noticias o información falsas, nos debe llamar a la reflexión sobre las regulaciones legales que deben existir al respecto.

El efecto dañino en la sociedad de los deepfakes también puede ser irreparable, sobre todo si afecta la democracia cuando se utiliza esta tecnología para manipular los resultados de unas elecciones, crear contenido xenófobo o discriminatorio, o que pueda afectar la reputación de personas públicas.

Hay algunas recomendaciones para evitar ser víctima de los deepfakes:

 

1. Verifica la fuente de contenido antes de compartirla.

2. Si dudas de la autenticidad de un video, busca otros enlaces y fuentes de información para verificar la información.

3. Usa herramientas como Google Reverse Image Search para verificar imágenes antes de compartirlas.

4. Se cauteloso al compartir contenido en línea. Siempre piensa en el impacto que podría tener.

5. Infórmate sobre cómo reconocer y evitar los deepfakes. Por ejemplo, en muchos deepfakes las personas no parpadean, a veces no hay relación entre los movimientos faciales y fíjate si la voz tiene sincronización entre los labios y el audio.