L’impact des vidéos truquées sur Internet
Avec les élections américaines qui approchent, on entend beaucoup parler de ce que l’on appelle les « deepfakes » en anglais. On peut parler en français d’hyper trucage pour traduire mot à mot. C’est un terme utilisé pour parler d’une vidéo qui a été éditée ou synthétisée par le biais d’une technologie telle que l’Intelligence Artificielle et qui permet difficilement aux utilisateurs de savoir qu’elle est fausse. Ces vidéos vont le plus souvent utiliser des personnages connus et leur faire dire des propos qu’ils n’ont jamais tenus. Du coup comment distinguer la réalité de la fiction et comment être sur de ce que l’on voit? Comment distinguer un casino en ligne digne de confiance d’un casino à éviter?
La malveillance dans les « Deepfakes »
Le phénomène des « deepfakes » se développe rapidement et le nombre disponible en ligne a doublé en un an. Beaucoup de ces vidéos nuisent aux femmes et notamment aux célébrités à travers des vidéos pornographiques. Certains contenus médiatiques de synthèse peuvent avoir un impact à grande échelle, tels que des vidéos essayant d’influencer les intentions des électeurs avant un vote. Deux cas marquants au Gabon et en Malaisie ont vu des « deepfakes » liés à une tentative présumée de couverture par le gouvernement et à une campagne de diffamation politique. Une vidéo diffusée en mai de Nancy Pelosi, présidente de la Chambre des représentants des États-Unis et membre démocrate du Congrès, a fait l'objet d'une manipulation très médiatisée. Dans la vidéo, son discours avait été ralenti, donnant l'impression qu'elle était ivre. La version éditée de la vidéo est devenue virale sur les médias sociaux et une page Facebook populaire a reçu plus de 2,2 millions de visionnements dans les 48 heures suivant son téléchargement initial. Ces exemples sont de bonnes illustrations de la façon dont les « deepfakes » peuvent déstabiliser les partis politiques. Les législateurs estiment que ces vidéos pourraient menacer la sécurité nationale, le processus de vote et potentiellement, leur réputation.
Les nouvelles règles de Facebook
Facebook a introduit un nouvel ensemble de règles qui interdit les « deepfakes » sur la plateforme. La politique vise spécifiquement les vidéos réalisées à l'aide d'intelligence artificielle dans le but de paraître authentique et au point que l'utilisateur moyen ne puisse pas facilement déterminer qu'elles ne sont pas réelles. Ils n'effaceront pas toutes les fausses vidéos sur le réseau social, comme la vidéo de Pelosi, car les nouvelles règles ne couvrent pas les vidéos manipulées à des fins de parodie ou de satire, ni celles montées pour omettre ou modifier l'ordre des mots. Ils ne supprimeront pas non plus les vidéos éditées à l'aide de simples logiciels d'édition vidéo. Facebook sera quand même amené à vérifier ces « shallowfakes » (comme les appellent les chercheurs en désinformation) et limiter leur diffusion dans le fil d'actualité ou les supprimer complètement si elles sont présentées comme des publicités. Ils les laisseront en place et les identifieront comme fausses, pour au moins le faire savoir aux utilisateurs.
Les autres initiatives anti « deepfakes »
L’essor de cette technologie a favorisé le développement d’une industrie basée sur la détection de vidéos truquées. Facebook a récemment parrainé un « défi de détection de fausses vidéos », offrant des prix en argent aux chercheurs qui pourraient fournir des techniques pour détecter automatiquement les vidéos manipulées. Un ensemble de vidéos réelles et manipulées a été remis aux chercheurs, et le défi prendra fin en mars. Facebook s'est aussi associé à Reuters, le plus grand fournisseur de nouvelles multimédias au monde, pour aider les salles de presse du monde entier à identifier les « deepfakes » et les médias manipulés grâce à un cours de formation en ligne gratuit disponible aussi en français.
Que faire en tant qu’utilisateur?
La technologie avancée est beaucoup utilisée dans les industries créatives telles que la publicité et la réalisation de films. Malheureusement cela devient problématique lorsqu’elle est employée à de mauvaises fins et le manque de régulation autour ne facilite pas les choses. Certaines personnes pensent que Facebook ne règle pas le problème de la désinformation et tourne autour du pot en interdisant les « deepfakes » et non les « shallowfakes ». Mais la frontière entre l’indécent et la parodie est parfois floue alors Facebook devrait-il vraiment avoir le pouvoir de censurer toutes les fausses vidéos? Devrions-nous simplement arrêter de regarder des vidéos sur Facebook?