Cette campagne lancée à l’occasion de la journée internationale des droits des femmes du 8 mars, vise à alerter sur les biais sexistes des intelligences artificielles. Elle est proposée par le mouvement #JamaisSansElles et l’agence Havas Paris.
Quand on utilise des IA génératrices d’images telles que Midjourney ou Stable Diffusion, on remarque une forte présence masculine pour les métiers dits « prestigieux » et une forte présence féminine pour les métiers considérés comme moins « remarquables ». Cela reproduit les stéréotypes sexistes.
D’où cette campagne « L’intelligence artificielle entretient des stéréotypes bien réels » lancée ce 8 mars 2023.
D’un côté, en cherchant CEO ou surgeon, l’IA nous propose des hommes. En revanche, pour secretary, on y trouvera des femmes.
Comment les algorithmes peuvent-ils être biaisés ?
Pour développer une « intelligence artificielle », on a besoin d’un ensemble de données afin que le programme puisse apprendre et développer par lui-même une compréhension du sujet sur lequel il sera amené à travailler. Si cet ensemble de données n’est pas équilibré et s’il contient des biais, alors l’IA aura les mêmes. Exemple : si je ne lui montre que des pommes vertes, l’IA n’ira jamais créer des pommes rouges. Dans ce cas, si les données fournies aux IA lui ont montré que la quasi totalité des CEO du monde référencé sur internet sont des hommes en costume, alors quand on lui demandera de générer un CEO, elle a de très fortes chances de nous montrer un homme un costume.
Que peut on faire pour déjouer ces biais ?
Le site Jamais Sans Elles nous propose une piste de réflexion.
Les acteurs du numérique, quelle que soit leur taille, doivent adopter, dès quajourd’hui, des bonnes pratiques afin d’instaurer une éthique de l’intelligence artificielle. Par exemple en inscrivant dans les prérequis de tout projet d’IA que les biais soient analysés, quantifiés et rééquilibrés avant la mise en production de l’outil.
Jamais Sans Elles
Et d’ajouter qu’il nous faut prendre conscience de ces biais et agir pour les corriger, dans la vie comme dans les algorithmes.
Les biais de l’intelligence artificielle constituent un enjeu crucial de notre époque, qui doit être pris en compte par tous les acteurs de la société, qu’ils soient technologiques, politiques ou sociaux. Les impacts potentiels de ces biais sont nombreux et peuvent avoir des répercussions sur les individus et les communautés les plus vulnérables.