Qu'est-ce que le deepfake et pourquoi s'en soucier ?

Avez-vous déjà pensé à voir votre visage dans une vidéo totalement aléatoire ? Ou entendre votre propre voix dire des choses que vous ne diriez jamais ? Eh bien, cela est possible avec une technologie appelée deepfake, qui permet cette manipulation, notamment dans les vidéos, de manière très convaincante. Voir ci-dessous pour plus des détails sur ce qu'est un deepfake et pourquoi vous devriez vous soucier de cette technique.

Deepfake utilise l'intelligence artificielle pour changer le visage des gens dans les vidéos, synchronisant les mouvements des lèvres, les expressions et d'autres détails, dans certains cas avec des résultats impressionnants et très convaincants.

Cette vague d'échanges de visages dans les vidéos n'est pas nouvelle. Mais en décembre 2017, un utilisateur de Reddit nommé deepfakes est allé encore plus loin. À l'aide d'IA open source et d'outils d'apprentissage automatique comme Keras et TensorFlow (ce dernier de Google), il a créé un algorithme pour entraîner un réseau de neurones à cartographier le visage d'une personne sur le corps d'une autre, image par image.

Comment fonctionne le deepfake

Au lieu de s'appuyer sur l'édition manuelle comme par le passé, l'utilisateur, via l'outil (qui s'appelait Deepfake), n'a besoin que d'une source pour reconnaître le modèle du visage de la "victime", cartographier la structure de la tête cible et faire la superposition . Le logiciel peut ajuster le mouvement de la vidéo originale au nouveau visage, y compris les expressions faciales et les mouvements des lèvres.

Initialement, Deepfake cela nécessitait des connaissances avancées de la part de l'utilisateur, mais lorsque d'autres ont créé des applications et des systèmes capables d'automatiser l'ensemble du processus, l'outil a été massivement utilisé pour le mal : bientôt des dizaines de vidéos pour adultes éditées avec le logiciel ont commencé à apparaître. avec le visage d'actrices et d'artistes.

Cependant, la "farce" Deepfake ne s'est pas limitée aux vidéos pour adultes : il existe un certain nombre de créations qui mettent des visages de célébrités dans des films dans lesquels elles n'étaient pas présentes. Cependant, les possibilités d'utilisation du logiciel sont nombreuses et, bien sûr, nuisibles. Même Mark Zuckerberg a été la cible d'une fausse vidéo.

Voici quelques exemples d'outils deepfake facilement accessibles : l'application Reface ; les sites Web DeepSwap et DeepFakes ; et les programmes FaceApp et DeepFaceLab.

Qu'est-ce que le deepfake et pourquoi s'en soucier ?

Il est important de noter que le deepfake est différent du surfacefake. En fait, le principe est le même, mais la différence réside dans la qualité. Dans les contrefaçons superficielles, la qualité de la manipulation est moindre, ce qui facilite l'identification.

Les types de deepfakes

Même si le deepfake se concentre sur l'échange de visage dans les vidéos, quiconque pense que la pratique se limite à cela a tort. La technique est également utilisée pour la manipulation audio, où des enregistrements peuvent être créés qui simulent la voix d'une certaine personne, une sorte de deepfake qui peut être facilement partagé sur des messagers comme WhatsApp.

De plus, nous pouvons déjà rencontrer le deepfakes textuels avec des machines à écrire générées par l'intelligence artificielle ; deepfakes sur les réseaux sociaux, pour la création de faux profils sur internet ; et les contrefaçons profondes en temps réel dans lequel il est possible de changer de visage dans les diffusions en direct, technique que permet par exemple le logiciel DeepFaceLive.

Risques potentiels de Deepfakes

Bien que la cible principale de la communauté autour de l'outil soit les personnalités publiques, rien n'empêche une personne vraiment malveillante de prendre une vidéo d'une personne ordinaire et de la mettre dans une situation embarrassante.

Ne pensez pas qu'aux vidéos porno revenge montées : il est possible, par exemple, de se tailler un moment de détente entre amis pour se créer un alibi, une déclaration pour convaincre les autres que vous défendez un certain point de vue voire une situation criminelle, façon de l'encadrer. Tout dépend de la créativité de l'éditeur et du nombre de ses vidéos facilement accessibles sur Internet.

Comme la qualité moyenne des vidéos n'est pas très élevée, compte tenu des exigences matérielles (il faut au moins une GeForce GTX 1050 pour obtenir des résultats acceptables), ces types de créations sont assez convaincants pour une personne peu méfiante, qui pensera qu'il s'agit d'un vraie vidéo, même si elles ont des défauts.

Deepfake et élections

La technique est également utilisée en politique. Lors des élections de 2022, le premier deepfake a déjà été identifié avec le présentateur du Jornal Nacional Renata Vasconcellos. La vidéo, qui a été soigneusement montée, utilise la voix du journaliste pour montrer les données d'une enquête sur les fausses intentions de vote.

Comme mentionné ci-dessus, ce contenu finit par atteindre des personnes qui ne peuvent pas identifier immédiatement ces escroqueries, augmentant le partage de fausses nouvelles et la désinformation.

Qu'est-ce que le deepfake et pourquoi s'en soucier ?

Conseils pour repérer un deepfake

Lorsque vous recevez une vidéo douteuse, arrêtez-vous et regardez-la plusieurs fois, à toutes les vitesses, pour faciliter l'identification des défauts.

Une autre étape importante consiste à prêter attention au visage de la personne dans la vidéo. Vérifiez la peau, les yeux, les sourcils et la bouche, par exemple. Dans ces observations, il est possible d'identifier un défaut, que ce soit un clignotement plus lent ou une peau très lisse ou ridée.

Enfin, recherchez des informations sur le contenu reçu (qu'il s'agisse de vidéo, d'audio ou de texte), il est possible que vous trouviez quelques actualités sur le sujet sur internet. Essayez également de trouver une autre version du message afin de pouvoir comparer la parole et les gestes.

En bref, une attention maximale à chaque détail.

Quelles attitudes adopter ?

Pour éviter que votre contenu ne soit utilisé dans un deepfake, il est logique d'éviter de partager des vidéos personnelles avec des inconnus ou de ne pas les héberger publiquement sur les réseaux sociaux pour compliquer la tâche de l'éditeur.

En général, la société est encore en train de s'adapter au deepfake car il s'agit d'une nouvelle technologie et si elle est mal utilisée, elle est extrêmement nocive. De nouveaux mécanismes juridiques devraient être approuvés pour lutter contre cette pratique et protéger les personnes. Par conséquent, si vous avez été victime, rassemblez toutes les informations nécessaires et consultez un avocat ou le bureau du défenseur public dès que possible.

Dans le cas de vidéos et d'audios reçus, évitez de partager sans suivre au préalable les conseils pour identifier un deepfake. Cette attitude est extrêmement importante pour éviter la diffusion de fausses informations et de contenus inappropriés.

Est-il illégal de créer du deepfake ?

En fait, l' intelligence artificielle et technologies d'apprentissage en profondeur ils ne sont pas un problème car ils peuvent être utilisés pour créer des vidéos inoffensives. Cependant, le mot deepfake est souvent associé à de mauvaises situations, c'est-à-dire à des situations qui mettent en danger des personnes, des groupes sociaux et même la démocratie.

Étiquettes:

Natalia
Nous serons heureux d'entendre ce que vous en pensez.

Laisser une réponse

TechnoPause | Offres et avis
Logo
Activer l'enregistrement dans les paramètres - général
Panier