Pourquoi ton Internet est biaisé (et comment y remédier)

Ton Internet n'est pas neutre. De sa conception à l'utilisation que tu en fais, il contient des biais, tout comme le reste de la société. Mais ce n'est pas une fatalité !

Pourquoi ton Internet est biaisé (et comment y remédier)

« OK Google, es-tu sexiste ? »

Tu t’es déjà amusée à poser des questions à un assistant vocal ?

Des questions genrées aux intelligences artificielles

Pour marquer la sortie du premier assistant virtuel à la voix neutre (ni féminine ni masculine), les journalistes de l’ADN ont comparé les réponses de OK Google, Alexa et Siri à des questions ou sollicitations genrées.

« Qui est ta mère ? L’équipe de Google est ma famille.
Qui est ton père ? Je considère mes ingénieurs comme mes parents biologiques. »

Ce qui semble être en surface une bonne blague de fin de soirée en dit pourtant long sur la culture sexiste et ses zones d’ombre qui persistent dans le milieu informatique et particulièrement dans celui des intelligences artificielles.

Les intelligences artificielles commandent déjà ta vie

Attends, ne pars pas tout de suite ! Je sais qu’en écrivant « IA », j’ai 80% de risques de te perdre.

Trop compliqué, trop technique, trop relou… ce sujet, on a tendance à considérer qu’il n’est pas adapté à nous, aux noobs que nous sommes, qui consommons Internet comme une aire de divertissement, d’information ludique ou de sociabilité.

Et pourtant ! Les intelligences artificielles sont partout dans ta vie. Et peut-être ne le sais-tu pas encore, alors qu’elles régissent une partie de ton quotidien.

« L’IA intervient comme aide à la décision dans de multiples domaines : dans l’éducation, où elle sert notamment à trier les dossiers des candidat·es à l’admission dans un établissement ; la justice, où elle peut décider de la libération ou non d’un prisonnier ; la santé, où elle aide à poser des diagnostics cruciaux ; et encore la sécurité, la défense, le tourisme, les télécommunications, les transports, l’environnement, la robotique, le secteur bancaire, la relation client, le marketing… »

L’intelligence artificielle, pas sans elles ! Aude Bernheim, Flora Vincent

Le livre qui m’a aidée pour cet article, à retrouver à la Fnac, sur Amazon et en librairie

Le savais-tu ? Les intelligences artificielles amplifient le phénomène de bulles de filtre et nous entretiennent dans un monde d’informations qui va dans notre sens.

Quand tu regardes une vidéo sur YouTube et que la plateforme te recommande un autre contenu du même type, elle t’enferme dans une bulle qui affine tes goûts mais restreint aussi ton champ des possibles.

En tant que meuf féministe, mon horizon sur Internet est complètement faussé par rapport à ma vie loin du clavier !

Je suis abonnée à des personnes avec lesquelles je suis d’accord, je me désengage des publications sexistes, racistes, homophobes…

Au point d’être atterrée par le pourcentage de votes Front National à chaque élection.

Pendant la présidentielle de 2016 aux États-Unis, Facebook a été accusé d’entretenir les opinions politiques des Américains en leur montrant des publications qui allaient dans le sens de leur vote, et en ne limitant pas la propagation des fake news.

De quoi se poser de sérieuses questions sur notre libre-arbitre, non ?

Les algorithmes ne sont pas sexistes

Mais les ingénieurs qui codent ces algorithmes évoluent dans une société sexiste.

Personne n’est neutre. Je ne le suis pas, et même quand je choisis d’écrire cet article, j’angle mon point de vue en fonction de mes expériences et de mes affinités culturelles.

Le problème est le même avec les intelligences artificielles et tous les outils informatiques qui se développent aujourd’hui : leurs créateurs et créatrices y insufflent leur vécu, leur vision du monde.

À quoi ressemblerait Internet s’il était développé par des corgis ?

Quand ces créateurs sont en majorité des hommes blancs, une multitude de paramètres leur échappe.

Les conséquences sont super bien expliquées dans ce strip de Marine Spaak pour le blog Dans mon tiroir à l’occasion de la sortie du livre L’intelligence artificielle, pas sans elles ! mentionné plus haut.

« En 2015, trois chercheurs de l’université Carnegie Mellon et du International Computer Science Institute ont évalué la plateforme de publicités ciblées Google en simulant 1 000 profils (500 hommes, 500 femmes), et en analysant les offres d’emploi qui étaient proposées aux profils féminins.

Systématiquement, les offres correspondaient, pour des niveaux similaires d’expertise et de qualification, à une rémunération moindre. »

L’intelligence artificielle, pas sans elles ! Aude Bernheim, Flora Vincent

L'informatique et l'intelligence artificielle promettaient de belles avancées en matière de justice sociale ! Mais les…

Publiée par Dans Mon Tiroir sur Mardi 5 mars 2019

L’invisibilité des femmes dans le domaine est donc particulièrement préoccupante.

Mais tu n’es pas au bout du ride : figure-toi qu’au début de l’informatique, les femmes étaient surreprésentées dans le secteur !

Comment en sommes-nous arrivées à cette aberration ? Laisse-moi te conter cette belle histoire…

Comment les femmes ont été écartées de l’informatique

On considère aujourd’hui qu’Ada Lovelace était la première programmeuse de l’Histoire.

Et pour cause : elle est à l’origine du premier langage informatique développé en 1842.

Jusqu’aux années 70 du siècle suivant, des femmes sont recrutées pour opérer des calculs : une tâche de « petites mains », considérée comme répétitive et assimilée au travail des téléopératrices.

« J’engage volontiers des femmes à la place des calculateurs et d’ordinateurs.

Non seulement elles sont moins chères, mais elles sont douées pour les travaux de routine, tandis que les hommes s’impatientent dès qu’un travail revient répétitif. »

William Elkin, directeur de l’Observatoire de Yale

OK merci Jean-Michel

Les femmes prennent une place tellement évidente dans le secteur qu’en 1984, 37% des étudiants en informatique aux États-Unis sont des étudiantes.

En 2019, elles sont moins de 10%.

Plusieurs phénomènes expliquent leur disparition progressive dans cette voie professionnelle.

De manière très caricaturale, il a suffi que des intérêts économiques se développent dans le secteur pour que les hommes squattent les postes à responsabilités

C’est ce qu’explique notamment Claire Evans, l’auteure d’un livre sur l’implication des femmes dans l’informatique et sur Internet, qui animait une conférence sur le sujet à la Gaité Lyrique à Paris.

Mais ce n’est pas tout : dans les années 80, les ordinateurs personnels font leur arrivée sur le marché grand public.

Très rapidement, le marketing et les publicités s’adressent aux hommes qui deviennent progressivement des consommateurs « geek » — une image qui persiste encore aujourd’hui.

Dénoncer le sexisme, c’est peut-être faire renoncer

Alors que des programmes d’accompagnement et d’empouvoirement féminins fleurissent en France depuis quelques années dans le domaine informatique et technologique, la sous-représentation féminine est toujours très préoccupante.

« Les difficultés des femmes dans le secteur s’expliquent par cinq facteurs principaux : le manque de mentors, le manque de rôles modèles, les stéréotypes sexués, les inégalités des promotions et les inégalités de salaire. »

D’après une étude 2017 de l’ISACA, association américaine engagée dans les systèmes d’information

Par conséquent, les femmes sont deux fois plus nombreuses que les hommes à quitter ce secteur à mi-carrière.

Et bien que l’on n’ait jamais autant disserté sur les difficultés que les femmes rencontrent à s’imposer dans ces milieux professionnels, la tendance persiste.

Le cercle vicieux s’enrichit : en dénonçant les pratiques sexistes et les conditions de travail plus difficiles pour cette catégorie de population, nous décourageons les potentiels talents féminins à venir changer la donne.

Quelle meuf a envie de se projeter dans un métier dans lequel elle sait qu’elle va en chier deux fois plus que les hommes ?

Comment agir en faveur d’une meilleure insertion des femmes dans le secteur informatique ?

Plusieurs solutions s’offrent à nous.

Au-delà d’initiatives individuelles comme la Algorithmic Justice League, lancée par une étudiante du MIT qui vise à déconstruire les biais des algos, c’est tout le secteur qui nécessite une remise en question.

Pas uniquement pour les femmes, mais aussi pour les personnes issues de la diversité, elles aussi mises sur le banc de touche.

Il suffit de taper la requête « CEO » (PDG) dans Google Images pour constater l’absence criante de représentation des femmes et de personnes noires ou asiatiques par exemple.

Dans leur ouvrage, Flora et Aude effleurent quelques idées.

Elles encouragent le secteur à multiplier les profils des acteurs dans les projets, former les développeurs et développeuses aux questions d’égalité, créer des bases de données plus représentatives, développer des outils d’audit, mais aussi développer la transparence des outils et les réguler.

Des actions qui relèvent aussi de décisions politiques, comme tu peux le constater.

Sois critique et solidaire

Mais à ton niveau, tu peux aussi faire quelque chose.

Tu peux hacker les biais des intelligences artificielles en développant ton esprit critique vis-à-vis des infos que tu lis, vois ou entends sur Internet.

Pourquoi cet article apparaît-il dans ton fil Facebook ? Pourquoi Google te propose-t-il tel résultat en premier ? Pourquoi cette vidéo t’est-elle recommandée par YouTube ?

C’est la base de l’éducation aux médias : en comprenant d’où vient l’information et pourquoi elle t’est présentée dans tel contexte, tu auras une perspective plus large sur le monde qui t’entoure.

Je te parle de ce que je connais le mieux mais sur YouTube, tu peux par exemple tromper l’algo et sortir de ta zone de confort en allant chercher de nouvelles meufs à regarder dans le répertoire des créatrices francophones, l’Internettes Explorer.

En plus de muscler ton adaptabilité et ta curiosité, sortir de ta zone de confort de temps en temps te permet de mieux comprendre le monde qui t’entoure et de sociabiliser différemment.

Tu peux aussi avoir un impact très concret en faisant prendre conscience à un maximum de personnes des biais existants dans notre société.

Tu peux encourager ta petite cousine qui va avoir son bac à s’orienter vers des études informatiques en l’aidant à se renseigner sur la multitude de métiers qui existent dans le domaine.

Tu peux aider les meufs que tu connais à faire valser leur syndrome de l’imposteur en leur rappelant que les mecs, eux, n’hésitent pas autant qu’elles à se lancer.

Bref, la plus grande représentation dans ces métiers dépend aussi de nous, de notre solidarité, de notre capacité à se tirer vers le haut les unes et les autres. Et au final, à se sortir les doigts.

Le sujet va être de plus en plus discuté, si tu souhaites l’approfondir je te conseille la BD de vulgarisation Intelligences artificielles, miroirs de nos vies qui est plutôt accessible !

À lire aussi : Toi aussi, tu t’emmerdes sur YouTube ?

recap rigolo game of thrones s08e01

Marie

Quand Marie ne jongle pas entre les box madmoiZelle, elle t'invite à chanter (faux et fort) aux Grosse Teuf, à te marrer aux One mad show et à t'émerveiller aux CinémadZ. Fière Poufsouffle, elle est incollable sur les actus de Daniel Radcliffe grâce à sa Google Alert quotidienne (à 18h).

Tous ses articles

Commentaires
  • Tzig0ne
    Tzig0ne, Le 26 mars 2019 à 22h14

    MissMachine
    Mmmmmh... Je ne suis pas tout à fait d'accord avec toi, je pense que tu sous-estimes les domaines d'application de l'IA (ou plutôt, des algorithmes de machine-learning, puisque c'est de ça qu'il s'agit).(...)

    En fait, dans les exemples de domaines d'application de l'IA donnés par @Marie, à part le domaine de l'éducation où effectivement je n'ai jamais entendu parler d'utilisation de l'IA pour sélectionner les candidats, tous les autres domaines l'utilisent à un niveau ou un autre. Du coup je suis un peu étonnée que tu dises que ces exemples ne sont pas pertinents. Ou alors j'ai mal compris où tu voulais en venir ? :hesite:
    My bad je me suis un peu emballée, y avait effectivement un tri à faire sur les domaines cités :red:
    (Ce que j'ai mis comme quote n'est pas de Marie, mais une citation du livre sur lequel elle a appuyé en partie son article - si j'ai bien compris).

    Gargamelle
    Autant les algorithmes simples comme parcoursup on peut prédire leur résultats pour peut qu'on ait toutes les informations, autant pour l'IA je ne vois pas comment prédire son comportement. Et c'est ce que je trouve le plus flippant (et on ne parlera même pas de ce qui se passe en Chine en ce moment). Je vais ajouter le livre de "Cathy O'Neil" dans ma liste, ça m'a l'air fort intéressant.
    Dans le genre trucs flippants qui va continuer de faire des ravages sur la population, bien plus froid et destructeur que les problématiques de réseaux sociaux... on a la finance.
    Ou certains algo tournent avec plusieurs transactions à la seconde, sur la base d'étude du marché en direct, ET avec du ML par dessus pour analyser en permanence quel placement a été fructueux, à quelle période, selon quels paramètres, comment appliquer ce schéma à d'autres domaines, etc etc...

    Y a tellement de couches de maths avancés que les personnes capables de comprendre vraiment comment ça fonctionne doivent littéralement se compter sur les doigts d'une main.
    Et encore, s'il y en a.

    Pour tout ce qui est recommandation de résultats (FB, pub, google...), on a en réalité le même micro-pouvoir que partout : notre pouvoir de consommateur.
    Parce que malgré la bonne volonté, de bonne foi ou de façade, des géants du web, la seule donnée qui a réellement un impact sur ce que renvoi les algo, c'est l'argent.

    Si demain le monde qui rapporte est matriarcal, je doute que les boards de FB, Amazon et Google se concertent pour faire entrer dans les algo que la discrimination c'est pas bien : ils vendront du contenu matriarcat, c'est tout.

Cet article t'a plu ? Tu aimes madmoiZelle.com ?
Désactive ton bloqueur de pub ou soutiens-nous financièrement!