Apple s’attaque aux prédateurs du Web. Jeudi 5 août, la firme californienne a annoncé le développement de nouveaux outils destinés à mieux repérer les images à caractère sexuel impliquant des enfants et circulant via ses serveurs. Ces dispositifs seront disponibles aux Etats-Unis et devraient arriver d’ici la fin de l’année, à l’occasion d’une mise à jour des systèmes d’exploitation sur les iPhone, iPad, iWatch et iMac.
« Nous voulons aider à protéger les enfants contre les prédateurs qui utilisent des outils de communication pour les recruter et les exploiter, et limiter la diffusion de contenus pédopornographiques », a expliqué le groupe sur son site.
Les grands moyens contre la pédopornographie
Pour traquer les clichés problématiques, Apple sort l’artillerie lourde.
Des outils cryptographiques seront utilisés pour comparer les photos téléchargées sur iCloud (la solution de stockage à distance d’Apple) à celles entreposées dans un fichier géré par le Centre national des enfants disparus et exploités (NCMEC). Si une photo paraît similaire à celle du fichier, Apple procédera à une vérification manuelle pour établir ou non la correspondance. Le cas échéant, un rapport sera envoyé au Centre et le compte de l’utilisateur sera suspendu.
Avec ce système, le groupe assure ne pas avoir directement accès à l’image. Apple met aussi en avant le haut niveau de précision de son outil capable d’analyser tout type de photos, qu’elles aient été recadrées ou éditées. Les chances de signaler un compte par erreur seraient d’une sur un million par an, selon la firme. Toute dénonciation erronée pourra d’ailleurs être rectifiée en faisant un recours.
Une autre mesure plus radicale est censée protéger directement les enfants des prédateurs potentiels.
Le groupe entend scanner les images reçues ou envoyées sur des comptes utilisateurs d’enfants, liés à un abonnement familial. Lorsque des photos explicites sont repérées, elles seront floutées et l’utilisateur mineur sera renvoyé vers des messages de prévention avant de pouvoir ouvrir ou envoyer les contenus en question.
Les parents pourront choisir de recevoir un message les alertant que leur progéniture est en contact avec de telles photos. Ces notifications sont optionnelles pour les enfants de moins de 13 ans, et pas disponibles pour les enfants âgés entre 13 et 17 ans.
Enfin, Siri sera aussi sera de la partie. L’assistant vocal pourra « intervenir » lorsque des utilisateurs font des recherches d’images pédopornographiques en les avertissant que ces contenus sont problématiques.
Des inquiétudes sur la protection de la vie privée
La fronde menée par Apple contre les pédocriminels fait l’unanimité mais inquiète certains organismes défenseurs de la vie privée sur Internet.
« Apple remplace son système de messagerie crypté de bout en bout par une infrastructure de surveillance et de censure, qui sera vulnérable aux abus et aux dérives non seulement aux États-Unis, mais dans le monde entier », a affirmé Greg Nojeim du Centre pour la démocratie et la technologie (CDT), dans un message transmis à l’AFP.
Le géant informatique a de fait la réputation de défendre la vie privée de ses clients coûte que coûte. En 2016, Apple avait par exemple refusé de collaborer avec le FBI voulant faire débloquer l’iPhone d’un des auteurs de l’attaque terroriste de San Bernardino.
« L’exploitation des enfants est un problème sérieux, et Apple n’est pas la première entreprise technologique à modifier sa position sur la protection de la vie privée pour tenter de la combattre », ont souligné de leur côté India McKinney et Erica Portnoy de l’ONG de protection des libertés sur internet Electronic Frontier Foundation (EEF) ; malgré les bonnes intentions du groupe, un système destiné à détecter des images pédopornographiques « ouvre la porte à d’autres abus », craignent-elles. Avec Internet, il y a toujours un pépin.
À lire aussi : J’ai peur que tous les hommes qui gravitent autour de ma fille soient des pédocriminels
Crédit photo : Hessam Nabavi / Unsplash
Écoutez Laisse-moi kiffer, le podcast de recommandations culturelles de Madmoizelle.
Les Commentaires
La Quadrature du Net
Il va falloir arrêter de détruire tous nos acquis de liberté sous le grand drapeau de la sécurité... Personne regarde Black Mirror ou quoi?