Intelligence artificielle : les images de violences sexuelles sur enfants menacent de submerger Internet

Sur Internet, les images générées par l’intelligence artificielle (IA) pullulent. Mais l’Internet Watch Foundation (IWF), organisme de surveillance et de sécurité sur le web britannique, tire la sonnette d’alarme : les images à caractère pédopornographique sont, elles aussi, de plus en plus présentes, selon les conclusions d’une enquête effectuée sur un forum sur la maltraitance des enfants sur le dark web.

Dans un communiqué relayé par The Guardian, l’organisme a déclaré avoir trouvé près de 3 000 images représentant des violences sexuelles sur enfants créées, par des IA. Images qui enfreignent la loi, car la grande majorité d’entre elles représentent des viols et autres violences sexuelles sur enfants.

À lire aussi : Vous avez envie de partager des photos de vos enfants sur les réseaux ? Regardez cette vidéo, ça calme

Des images générées par l’IA impossible à distinguer des réelles images

Cette nouvelle technologie est également utilisée pour créer des images de célébrités représentées comme des enfants, mises en scène des scénarios où elles sont victimes d’abus sexuels. D’autres images, elles, modifient des photos d’enfants habillés, afin de les faire apparaître comme étant nus.

Une prolifération d’images qui fait que « les pires cauchemars de l’organisme de surveillance sont devenus réalité » selon Susie Hargreaves, directrice générale de l’IWF. Elle alerte : « plus tôt cette année, nous avons averti que les images de l’IA pourraient bientôt devenir impossibles à distinguer des images réelles d’enfants victimes d’abus sexuels, et que nous pourrions commencer à voir ces images proliférer en nombre beaucoup plus grand. », a-t-elle déclaré au Guardian. Car en effet, cette vague de photos risque de détourner les enquêteurs de réels réseaux d’abus.

« Il est effrayant de constater que des criminels entraînent délibérément leur IA sur des images de victimes réelles qui ont déjà subi des abus. Les enfants qui ont été violés dans le passé sont désormais intégrés dans de nouveaux scénarios parce que quelqu’un, quelque part, veut le voir », continue Susie Hargreaves. Le gouvernement britannique a déclaré que les images générées par l’intelligence artificielle seraient bientôt encadrées par une loi sur la sécurité en ligne.

Vous aimez nos articles ? Vous adorerez nos newsletters ! Abonnez-vous gratuitement sur cette page.