Intelligence artificielle : les images de violences sexuelles sur enfants menacent de submerger Internet

Selon l’Internet Watch Foundation, organisme de surveillance et de sécurité sur le web, plus de 3 000 images d’abus sexuels sur enfants générés par l’intelligence artificielle sont présentes sur Internet.

Sur Internet, les images générées par l’intelligence artificielle (IA) pullulent. Mais l’Internet Watch Foundation (IWF), organisme de surveillance et de sécurité sur le web britannique, tire la sonnette d’alarme : les images à caractère pédopornographique sont, elles aussi, de plus en plus présentes, selon les conclusions d’une enquête effectuée sur un forum sur la maltraitance des enfants sur le dark web.

Dans un communiqué relayé par The Guardian, l’organisme a déclaré avoir trouvé près de 3 000 images représentant des violences sexuelles sur enfants créées, par des IA. Images qui enfreignent la loi, car la grande majorité d’entre elles représentent des viols et autres violences sexuelles sur enfants.

Des images générées par l’IA impossible à distinguer des réelles images

Cette nouvelle technologie est également utilisée pour créer des images de célébrités représentées comme des enfants, mises en scène des scénarios où elles sont victimes d’abus sexuels. D’autres images, elles, modifient des photos d’enfants habillés, afin de les faire apparaître comme étant nus.

Une prolifération d’images qui fait que « les pires cauchemars de l’organisme de surveillance sont devenus réalité » selon Susie Hargreaves, directrice générale de l’IWF. Elle alerte : « plus tôt cette année, nous avons averti que les images de l’IA pourraient bientôt devenir impossibles à distinguer des images réelles d’enfants victimes d’abus sexuels, et que nous pourrions commencer à voir ces images proliférer en nombre beaucoup plus grand. », a-t-elle déclaré au Guardian. Car en effet, cette vague de photos risque de détourner les enquêteurs de réels réseaux d’abus.

« Il est effrayant de constater que des criminels entraînent délibérément leur IA sur des images de victimes réelles qui ont déjà subi des abus. Les enfants qui ont été violés dans le passé sont désormais intégrés dans de nouveaux scénarios parce que quelqu’un, quelque part, veut le voir », continue Susie Hargreaves. Le gouvernement britannique a déclaré que les images générées par l’intelligence artificielle seraient bientôt encadrées par une loi sur la sécurité en ligne.

Ajoutez Madmoizelle à vos favoris sur Google News pour ne rater aucun de nos articles !