Instagram s’excuse après avoir ajouté « terroriste » dans la bio de certains utilisateurs palestiniens

Selon une information du quotidien britannique The Guardian, la compagnie mère d’Instagram, Meta, a présenté ses excuses après que ses algorithmes ont inséré le mot « terroriste » dans les biographies de profil de certains utilisateurs palestiniens.

Meta défend « un bug » de l’outil de traduction automatique

Meta a mis cela sur le compte d’un « bug » dans la traduction automatique. La situation a d’abord été signalée par 404media, et concernerait des utilisateurs dont le profil comportait le mot « Palestinian » écrit en anglais, l’emoji du drapeau palestinien et le mot « Hamdulillah » écrit en arabe. Traduite automatiquement en anglais, la phrase devenait : « Dieu soit loué, les terroristes palestiniens se battent pour leur liberté ».

Comme le rapporte le Guardian, le tiktokeur YtKingKhan a alerté en début de semaine, notant que différentes combinaisons se traduisaient toujours par « terroriste ».

Un représentant de Meta a, de son côté, affirmé au Guardian que le problème avait été réglé. Mais un manque de transparence évident quant à la source de cette traduction raciste reste à être comblé, selon Fahad Ali, secrétaire d’Electronic Frontiers Australia et Palestinien basé à Sydney, interrogé par nos confrères.

Il y a une réelle inquiétude à propos de ces préjugés numériques qui s’insinuent et nous avons besoin de savoir d’où ils proviennent.

Est-ce que cela provient du niveau d’automatisation ? Est-ce que cela provient d’un problème avec un ensemble de formation ? Est-ce que cela provient du facteur humain dans ces outils ? Cela manque de clarté sur ce sujet.

C’est ce que nous devrions chercher à résoudre et j’espère que Meta clarifiera ces points.

Fahad Ali dans The Guardian Australia

À lire aussi : En Palestine, ces femmes font la révolution chacune à leur façon

Meta déjà épinglé pour sa couverture biaisée

Comme le rappelle le Guardian, depuis les récents affrontements entre Israël et le Hamas, Meta est accusé de censurer les messages de soutien à la Palestine sur ses plateformes.

À lire aussi : La top Gigi Hadid et sa famille reçoivent des menaces de mort pour leur soutien envers le peuple de Palestine

On reproche même à l’entreprise d’avoir banni des comptes soutenant la Palestine ou d’avoir privé de visibilité leur contenu, les rendant moins susceptibles d’apparaître dans les fils d’actualité d’autres utilisateurs. Des accusations que dément Meta, évoquant plutôt un bug généralisé au niveau de la mise en avant des vidéos live et des erreurs ponctuelles dans le processus de modération plutôt qu’une campagne de censure ciblée.