Qué es el deepfake y por qué deberías preocuparte

¿Alguna vez has pensado en ver tu cara en un video totalmente aleatorio? ¿O escuchar tu propia voz diciendo cosas que nunca dirías? Bueno, esto es posible con una tecnología llamada deepfake, que permite esta manipulación, especialmente en videos, de una manera muy convincente. Vea a continuación para más detalles de qué es un deepfake y por qué debe preocuparse por esta técnica.

Deepfake utiliza Inteligencia Artificial para cambiar la cara de las personas en videos, sincronizar movimientos de labios, expresiones y otros detalles, en algunos casos con resultados impresionantes y muy convincentes.

Esta ola de intercambiar caras de personas en videos no es nueva. Pero en diciembre de 2017, un usuario de Reddit llamado deepfakes dio un paso más. Usando herramientas de inteligencia artificial y aprendizaje automático de código abierto como Keras y TensorFlow (este último de Google), creó un algoritmo para entrenar una red neuronal para mapear la cara de una persona en el cuerpo de otra, cuadro por cuadro.

Cómo funciona la deepfake

En lugar de depender de la edición manual como en el pasado, el usuario, a través de la herramienta (que se llamó Deepfake), solo necesita una fuente para reconocer el modelo de la cara de la «víctima», mapear la estructura de la cabeza objetivo y hacer la superposición. El software puede ajustar el movimiento del video original a la nueva cara y esto incluye expresiones faciales y movimientos de labios.

En un principio, Deepfake requería conocimientos avanzados por parte del usuario, pero cuando otros crearon aplicaciones y sistemas capaces de automatizar todo el proceso, la herramienta fue utilizada masivamente para el mal: pronto comenzaron a aparecer decenas de videos para adultos editados con el software. con cara de actrices y artistas.

Sin embargo, la «broma» de Deepfake no se limitó a los videos para adultos: hay una serie de creaciones que ponen caras de celebridades en películas en las que no estaban presentes. Sin embargo, las posibilidades de uso del software son numerosas y, por supuesto, dañinas. Incluso Mark Zuckerberg fue el objetivo de un video falso.

Algunos ejemplos de herramientas de deepfake de fácil acceso son: la aplicación Reface; los sitios web DeepSwap y DeepFakes; y los programas FaceApp y DeepFaceLab.

Qué es el deepfake y por qué deberías preocuparte

Es importante tener en cuenta que el deepfake es diferente al superficial. De hecho, la premisa es la misma, pero la diferencia está en la calidad. En las falsificaciones superficiales, la calidad de la manipulación es menor, lo que facilita la identificación.

Los tipos de deepfakes

Por mucho que el foco del deepfake sea el intercambio de rostros en los videos, cualquiera que piense que la práctica se limita a eso se equivoca. La técnica también se utiliza para la manipulación de audio, donde se pueden crear grabaciones que simulan la voz de una determinada persona, una especie de deepfake que se puede compartir fácilmente en mensajeros como WahtsApp.

Además, ya podemos toparnos con el falsificaciones profundas textuales con máquinas de escribir generadas por inteligencia artificial; deepfakes en las redes sociales, para la creación de perfiles falsos en internet; y los falsificaciones profundas en tiempo real en el que es posible cambiar el rostro en transmisiones en vivo, una técnica que permite el software DeepFaceLive, por ejemplo.

Riesgos potenciales de las falsificaciones profundas

Aunque el objetivo principal de la comunidad en torno a la herramienta son las personas públicas, nada impide que alguien realmente malicioso tome un video de una persona común y corriente y la ponga en una situación embarazosa.

No pienses solo en videos de venganza porno editados: es posible, por ejemplo, forjar un momento de relajación entre amigos para crear una coartada, una declaración para convencer a otros de que defiendes un determinado punto de vista o incluso una situación delictiva, manera para incriminarlo. Todo depende de la creatividad del editor y de cuántos de sus videos estén fácilmente disponibles en Internet.

Como la calidad media de los vídeos no es muy alta, dados los requisitos de hardware (se necesita al menos una GeForce GTX 1050 para obtener resultados aceptables), este tipo de creaciones resultan bastante convincentes para una persona desprevenida, que pensará que se trata de un vídeo real, incluso si tienen falla.

Deepfake y elecciones

La técnica también se utiliza en la política. En las Elecciones 2022, el primer deepfake ya fue identificado con la presentadora del Jornal Nacional Renata Vasconcellos. El video, que cuenta con una cuidada edición, utiliza la voz del periodista para mostrar datos de una falsa encuesta de intención de voto.

Como ya se mencionó anteriormente, este contenido termina llegando a personas que no pueden identificar de inmediato estos montajes, aumentando el intercambio de noticias falsas y desinformación.

Qué es el deepfake y por qué deberías preocuparte

Consejos para detectar un deepfake

Cuando reciba un video cuestionable, deténgase y mírelo varias veces, a todas las velocidades, para que sea más fácil identificar fallas.

Otro paso importante es prestar atención a la cara de la persona en el video. Revise la piel, los ojos, las cejas y la boca, por ejemplo. En estas observaciones es posible identificar alguna falla, ya sea un parpadeo más lento o una piel muy tersa o arrugada.

Por último, busca información sobre el contenido recibido (ya sea video, audio o texto), es posible que te encuentres con alguna noticia sobre el tema en internet. Además, intente encontrar otra versión de la publicación para que pueda comparar el habla y los gestos.

En definitiva, máxima atención a cada detalle.

¿Qué actitudes tomar?

Para que tu contenido no se utilice en un deepfake, lo más sensato es evitar compartir vídeos personales con desconocidos o no alojarlos en las redes sociales de forma pública para dificultar el trabajo del editor.

En general, la sociedad todavía se está adaptando al deepfake porque es una tecnología nueva y, si se usa mal, es extremadamente dañina. Se espera que se aprueben nuevos mecanismos legales para combatir la práctica y proteger a las personas. Por lo tanto, si ha sido víctima, reúna toda la información necesaria y busque un abogado o la Defensoría Pública lo antes posible.

En el caso de videos y audios recibidos, evita compartir sin antes seguir los tips para identificar un deepfake. Esta actitud es sumamente importante para evitar la difusión de información falsa y contenido inapropiado.

¿Es ilegal crear deepfake?

De hecho, la inteligencia artificial y las tecnologías de aprendizaje profundo no son un problema, ya que pueden usarse para crear videos inofensivos. Sin embargo, la palabra deepfake suele asociarse a malas situaciones, es decir, que ponen en riesgo a personas, grupos sociales e incluso a la democracia.

Etiquetas:

Natalia
Estaremos encantados de escuchar lo que piensas

Deje una respuesta

TecnoBreak | Ofertas y Reviews
Logo
Enable registration in settings - general
Shopping cart