Live now
Live now
Masquer
Sora Shimazaki / Pexels
Actualités

Un pédocriminel interdit d’IA pour les 5 prochaines années par la justice britannique, une première

Certains outils d’intelligence artificielle sont aujourd’hui utilisés pour générer des images à caractère pédopornographique. Pour la première fois de l’histoire, la justice britannique a imposé des restrictions sur l’utilisation de ces sites et logiciels à un pédocriminel condamné. Une décision qui pourrait créer un précédent.

Un procès et un verdict historiques. Au Royaume-Uni, un homme de 48 ans, mis en cause pour la création de plus d’un millier d’images pédopornographiques, a été condamné par la justice à une interdiction d’utiliser des outils d’intelligence artificielle générative pour les cinq prochaines années. Cette décision, première du genre, intervient alors que les associations alertent depuis plusieurs mois sur les dérives de l’IA et la prolifération d’images d’abus sexuels générées par ces outils.

Mi-avril, le gouvernement britannique a même annoncé la création d’une nouvelle infraction, qui condamnera la confection de deepfakes sexuellement explicites impliquant des personnes de plus de 18 ans sans leur consentement. Les coupables s’exposeront à des poursuites judiciaires et à une amende illimitée, voire à de la prison si l’image est ensuite diffusée.

Une décision inédite

Sans l’accord préalable des forces de l’ordre, l’homme de 48 ans n’a donc plus le droit « d’utiliser, de visiter ou d’accéder » à des outils tels que des générateurs texte-image, qui permettent de créer des images réalistes à partir d’une commande écrite, ni d’aller sur des sites web « déshabillants », utilisés pour créer des deepfakes à caractère sexuel.

Il a également reçu l’ordre explicite de ne pas recourir au logiciel Stable Diffusion, dont de précédentes audiences tenues au Tribunal d’instance de Poole démontrent que l’outil a déjà été employé par des pédocriminels dans le but de créer du matériel hyperréaliste d’abus sexuel d’enfants.

Au Royaume-Uni, les délinquants sexuels sont depuis longtemps soumis à des restrictions en matière d’utilisation d’internet, comme l’interdiction d’utiliser la navigation privée, d’accéder à des applications de messagerie cryptées, ou d’effacer leur historique internet. C’est en revanche la première fois que des restrictions sont imposées sur l’utilisation d’outils d’intelligence artificielle. Une première fois qui pourrait ouvrir la voie à de nouvelles manières de surveiller les pédocriminels condamnés.

Il n’est pas clair si l’homme de 48 ans avait utilisé l’IA pour produire les contenus qui lui ont valu une condamnation, ou s’il s’agit d’une mesure préventive, face à l’utilisation accrue de ces outils à des fins (pédo)pornographiques.

Un arsenal législatif en évolution

Depuis les années 1990, la création, la possession et le partage de matériel pédopornographique artificiel sont déjà interdits par la loi, rappelle le Guardian.

Cette dernière décennie, ces lois ont été appliquées plusieurs fois pour condamner des délits impliquant des images réalistes, réalisées notamment avec Photoshop. Des cas récents suggèrent que cette loi est de plus en plus utilisée pour faire face à la menace posée par des contenus artificiels sophistiqués. Rien que l’année dernière, six personnes sont passées devant la justice pour avoir possédé, fabriqué ou partagé des « pseudo-photographies » – certaines générées par l’IA.

Mais il reste difficile de recenser précisément combien d’affaires ont impliqué des images d’intelligence artificielle, puisque celles-ci ne sont pas comptabilisées séparément dans les données officielles, et que certaines fausses images restent pratiquement impossibles à distinguer des vraies.

L’année dernière, souligne le Guardian, une équipe de l’Internet Watch Foundation (IWF) s’est infiltrée dans un forum d’abus d’enfants sur le dark web et a trouvé 2 562 images artificielles si réalistes qu’elles seraient traitées par la loi comme si elles étaient réelles.

Susie Hargreaves, directrice générale de l’IWF, a déclaré à nos confrères britanniques que si les images d’abus sexuels générées par l’IA représentaient actuellement une proportion « relativement faible » des signalements, on assistait à une « augmentation lente mais continue » des cas, et que certains de ces documents étaient « très réalistes ». « Nous espérons que les poursuites engagées enverront un message clair à ceux qui fabriquent et distribuent ce type de contenu ».


Découvrez le BookClub, l’émission de Madmoizelle qui questionne la société à travers les livres, en compagnie de ceux et celles qui les font.

Les Commentaires

5
Avatar de Mayushi
24 avril 2024 à 14h04
Mayushi
@Ariel du Pays Imaginaire malheureusement je pense que si une IA est capable de générer ces images fictives c'est qu'elle a pu s'entraîner sur des images bien réelles...

C'est pas vraiment comme ça que fonctionne l'IA c'est le problème. Il n'y pas besoin de lui montrer des vrais enfants dénudés pour qu'elle puisse générer des enfants dénudés. C'est ce que les gens ne comprennent pas.
L'IA apprend comme un cerveau humain, le modèle va comprendre le concept de nudité et d'enfants et pourra simplement mettre les deux ensemble sans avoir besoin d'images illégales. On peut aussi utiliser de fausses images pour entrainer un modèle.
Donc avec de la pornographie "légale" et des images d'enfants habillés, il est possible de générer du contenu illégal. Les modèles utilisés par monsieur/madame tout le monde ne sont pas des modèles qu'on entraine avec des images illégales, sinon la plupart des sites qui distribuent ces modèles seraient déjà fermés. Alors j'imagine qu'au fin fond du Darkweb il doit y avoir des modèles spécialement entrainés sur des contenus pédocriminels, mais je vois pas qui va distribuer un tel modèle gratuitement, ça couterait probablement une fortune, il faut pas oublier aussi que la pédocriminalité c'est avant tout un commerce.
Un modèle d'IA ne possède aucune information spécifique sur une personne particulière par exemple, c'est pas une sorte de collection d'images à partir de laquelle on crée une nouvelle image non. Il faut voir ça comme un cerveau humain, par exemple même sans avoir jamais vu de crocodile à 3 têtes je peux imaginer, voir dessiner (si j'en avais les compétences) des crocodiles à 3 têtes. Ou par exemple j'entraine mon IA avec des tableaux de Cézanne, je lui donne aussi des photos de chat·te·s, puis je demande un·e chat·te peint·e par Cézanne, l'IA sera capable de le sortir même si Cézanne n'a jamais peint de chat·te. C'est la même chose pour les contenus pédocriminels.
@Ariel du Pays Imaginaire Ca ne sera pas respecté, ça fait un moment que ce genre de peines existent au RU (interdiction de réseaux sociaux, voir même d'internet) et c'est quasi impossible pour la police à contrôler. Maintenant la peine a le mérite d'exister, c'est bien je pense d'avoir une loi car ça permet d'en dissuader certain·e·s.
2
Voir les 5 commentaires

Plus de contenus Actualités

Source : Phillip Pessar / Flickr
Actualités mondiales

Aux États-Unis, un ado meurt après le « One Chip Challenge », énième défi dangereux

Mode

Quelle est la meilleure culotte menstruelle ? Notre guide pour bien choisir

Humanoid Native
Source : Capture d'écran Youtube
Société

Poupette Kenza accusée d’avoir tenu des « propos antisémites », la Dilcrah saisit la justice

5
Deux femmes s'embrassent sous un drapeau arc-en-ciel, symbole LGBT © Gustavo Fring de la part de Pexels
Société

La Gen Z, plus LGBT+ que ses ainées ? Une étude le confirme

7
delia-giandeini-unsplash lgbtqi lives matter
Actualités mondiales

En Argentine, trois femmes brûlées vives parce que lesbiennes

1
Grâce à Judith Godrèche, l'Assemblée envisage une commission sur le travail des mineur·e·s dans le cinéma et la mode.jpg // Source : Capture d'écran YouTube de LCP - Assemblée nationale
Actualités France

Grâce à Judith Godrèche, l’Assemblée se dote enfin d’une commission pour protéger les mineurs dans le cinéma et la mode

Un couple d'homme en train de s'occuper de leur bébé né par Gestation pour Autrui // Source : alvarostock
Daronne

Timothée a fait le choix d’une GPA éthique : « si le consentement est éclairé, les femmes ne sont pas exploitées »

bulletin-salaire // Source : URL
Actualités France

Les fiches de paie vont bientôt être simplifiées, et ce n’est pas forcément une bonne nouvelle

10
Hanny Naibaho festival
Actualités France

Ce festival mythique pourrait bien diparaître (et on est trop triste)

Source : TF1 - Capture d'écran de l'émission Sept à Huit
Actualités France

Les nouvelles mesures autoritaires de Gabriel Attal pour lutter contre les violences entre mineurs

16
Bâtiments du 4° bataillon de l'école spéciale militaire de Saint-Cyr Coetquidan ; au premier plan, celui de la 13e compagnie en 2018 // Source : Wikimedia Commons / Alain.Darles EOR Saint-Cyr à Coetquidan 1971 / Licence Creative Commons
Actualités France

Violences sexistes et sexuelles à l’académie militaire de Saint-Cyr Coëtquidan : l’enquête choc de FranceTV

4

La société s'écrit au féminin