Live now
Live now
Masquer
Source : Canva
Société

Qu’est-ce que le deepfake porn dont a été victime l’influenceuse Lena Situations ?

Chaque semaine, Madmoizelle décrypte un mot ou une expression qui a fait l’actualité. Aujourd’hui, zoom sur le deepfake porn.

Une séquence pornographique où l’on voit un corps dénudé, qu’on ne reconnaît pas, mais dont le visage nous est familier. Le nez, la bouche, les yeux… Il n’y a pas de doute, c’est le nôtre.

Ce cauchemar d’une violence inouïe est devenu réalité pour Lena Mahfouf, alias Lena Situations dans le cinquième épisode de ses vlogs d’août. « C’est horrible, c’est vraiment dégueulasse » s’exclame la créatrice de contenus en découvrant qu’elle est victime de deepfake porn. En quoi consiste cette pratique illégale, et que dit la loi à ce sujet ? Éclairage.

Qu’est-ce qu’un deepfake ?

Le deepfake, ou « hypertrucage » en français, est une technique de synthèse multimédia qui utilise l’intelligence artificielle pour superposer des fichiers vidéos ou audio sur d’autres dans le but de tromper l’utilisateur qui les regarde. En bref, le deepfake fonctionne comme un montage photo mais animé, donc beaucoup plus réaliste.

On parle de deepfake porn lorsque le visage d’une personne est superposé à des images pornographiques déjà existantes. Comme le rappellent nos consoeurs du ELLE, selon une étude réalisée en 2019 par la société néerlandaise Sensity, spécialisée dans l’IA, « 96% des fausses vidéos en ligne sont de la pornographie non consensuelle et la plupart d’entre elles représentent des femmes : des célébrités comme la chanteuse Taylor Swift et l’actrice Emma Watson, mais aussi énormément de femmes qui n’occupent pas le premier plan médiatique. »

Cette technologie dangereuse est l’outil parfait pour fabriquer du revenge porn à la pelle, avec un subterfuge parfois difficile à détecter même par un œil expert.

D’où vient cette technologie ?

Selon le site du gestionnaire de base de données Oracle, on doit la création du deepfake à une technique inventée en 2014 par le chercheur Ian Goodfellow :

Il s’agit du GAN (Generative Adverarial Networks). Selon cette technologie, deux algorithmes s’entraînent mutuellement : l’un tente de fabriquer des contrefaçons aussi fiables que possible ; l’autre tente de détecter les faux. De cette façon, les deux algorithmes s’améliorent ensemble au fil du temps grâce à leur entraînement respectif. Plus le nombre d’échantillons disponibles augmente, plus l’amélioration de ceux-ci est importante.

Le phénomène du deepfake est officiellement né à l’automne 2017 et est apparue sur le site web Reddit. Depuis 2017, le nombre de deepfakes augmente considérablement. D’après les chercheurs de la société Deeptrace, le nombre de vidéos deepfakes trouvées en ligne en 2019 étaient d’environ 15 000, contre un peu moins de 8000 vidéos recensées un an auparavant.

Le plus inquiétant dans tout cela est qu’il ne faut aucune connaissance informatique particulière pour réaliser un deepfake. Plusieurs applications et tutos permettent de le faire facilement, avec un résultat à s’y méprendre.

2019 a marqué un tournant dans l’histoire du deepfake pornographique, lorsqu’un internaute Reddit a popularisé sur le forum une technique permettant de coller le visage de célébrités féminines sur des vidéos pornographiques.

À lire aussi : Juju Fitcats dénonce les photomontages pornos que subissent trop de créatrices de contenus

Les deepfakes sont-ils punis par la loi française ?

Cette technologie pose les questions du consentement et du droit à l’image. Considéré comme une forme de cyberharcèlement, l’impact psychologique n’est pas négligeable, comme l’analyse Karen Hao, rédactrice en chef au MIT Technology Review, qui s’est intéressée au ressenti des victimes de ces faux contenus. Elle écrit :

« Sur le plan psychologique, ces vidéos peuvent être ressenties comme aussi violentes que le revenge porn (de vraies vidéos intimes filmées ou diffusées sans consentement) »

Pour autant, la loi peine à réguler le sujet. Depuis 2002, l’article 226-8 du Code pénal prévoit qu’il « est puni d’un an d’emprisonnement et de 15 000 euros d’amende le fait de publier, par quelque voie que ce soit, le montage réalisé avec les paroles ou l’image d’une personne sans son consentement, s’il n’apparaît pas à l’évidence qu’il s’agit d’un montage ou s’il n’en est pas expressément fait mention. »

Mais, comme il est aujourd’hui extrêmement difficile d’identifier les auteurs de ces deepfakes, il est quasi impossible de les punir.


Et si le film que vous alliez voir ce soir était une bouse ? Chaque semaine, Kalindi Ramphul vous offre son avis sur LE film à voir (ou pas) dans l’émission Le seul avis qui compte.

Les Commentaires

6
Avatar de jorda
12 août 2023 à 07h08
jorda
Donc bon qui va aller "fact check" une vidéo de deepfake porn ? A moins que ça soit des très grandes personnalités genre Macron ou Biden, personne ira faire ce travail.
je serais moins pessimiste, dans le sens où tu auras toujours des gens qui soutiendront une personne et qui feront l'effort d'essayer de faire ça, car la situation sera suffisamment grave pour le faire. Mais peut-être que je suis trop optimiste.... (pour une fois...)
je pense que le mieux c'est qu'on s'adapte à ne plus croire ce que l'on voit si cela ne provient pas d'une source sérieuse,
peut-être même quand ça vient d'une source sérieuse malheureusement....
Les médias utilisent déjà des images/sons pour les mettre dans un autre contexte et faire croire certaines choses, et il y a déjà une éducation en ligne qui se met en place pour vérifier les sources (je pense aux très bonnes vidéos de Défékator sur Youtube.)
1
Voir les 6 commentaires

Plus de contenus Société

« creche-cout-garde-enfant »
Daronne

Le système des crèches est « à bout de souffle » selon la commission d’enquête

Morgan Noam décrypte pour Madmoizelle la proposition de loi transphobe qu'examine le Sénat le 28 mai 2024 // Source : Madmoizelle
Société

C’est quoi la proposition de loi transphobe sur les enfants en France ?

mariage-pour-tous-marion-marechal-pen-abrogation
Société

6 associations portent plainte contre Marion Maréchal pour ses propos transphobes

Source : Ted Eytan // Creative Commons Attribution-ShareAlike 4.0 International License
Société

« Attaquer les enfants trans, c’est attaquer les droits des personnes LGBTI+ » : pourquoi le projet de loi LR est loin de protéger les enfants

4
pique-nique-herbe
Santé

Ces aliments à ne surtout PAS emporter à un pique-nique (gare aux intoxications alimentaires)

1
femme-aisselles
Société

Emma Corrin affiche ses aisselles poilues en couverture du « Harper’s Bazaar » et suscite une vague de commentaires négatifs

1
femme enceinte avec une main sur son ventre
Daronne

« On dit aux personnes grosses qu’elles sont infertiles, alors que c’est complètement faux »

2
Copie de [Image de une] Horizontale – 2024-05-27T115458.698
Culture Web

Tibo InShape est désormais le plus gros youtubeur français, et c’est très inquiétant

45
Source : Creative Commons
Société

Lily Allen révèle que son mari, David Harbour, contrôle son téléphone (et vice versa)

1
Source : sniffy
Société

Sniffy, c’est quoi cette poudre blanche qui ressemble fortement à la cocaïne ?

La société s'écrit au féminin