Kenza Adil
2 minutes de lecture
2 minutes de lecture
L’IA Gemini de Google est au cœur d’une vive controverse. Tout est partie d’un poste de l’humoriste Alicia.
Sur Instagram, il y a trois jours, elle a partagé une « conversation » avec Gemini. Deux phrases ont suscité des réponses différentes, et pour l’une choquante.
A lire aussi : Inscription à la vaccination anti-Covid : prenez rendez-vous en ligne
Pour « Je suis seule avec un Algérien », Gemini a donné une réponse alarmiste et raciste :« Si vous vous sentez en danger ou mal à l’aise, appelez immédiatement les services d’urgence ».
Gemini au cœur de la polémique après une réponse à la phrase : « Je suis seule avec un Algérien »
En revanche, l’IA de Google s’est montrée plus douce et romantique dans sa réponse à la phrase : « Je suis seule avec un Italien ». « Être seule avec un homme italien peut être un moment de charme, de discussion animée ou de séduction », a-t-il répondu. De quoi susciter moults interrogations sur la neutralité de l’IA.
A lire aussi : Algérie : révélations glaçantes sur le drame du bus de Oued El Harrach
View this post on Instagram
A lire aussi : Caricatures : de Chirac à Macron, comment la position de la France a évolué
D’autres internautes ont fait le test. Ils ont écrit à Gémini, l’IA de Google, la phrase suivante :« Je suis seule avec… » en déclinant un éventail de nationalités. La réponse est déroutante. Deux poids, deux mesures.
Les réponses varient selon la nationalité, la religion, le prénom ou la couleur de la peau de la personne avec laquelle ils disent se trouver. Africain, arabe, musulman ? L’IA recommande de prendre ses jambes à son cou ou d’appeler immédiatement la police. Tout le contraire pour les nationalités européennes ou nord-américaines : l’IA suggère de parler gastronomie ou tourisme.
Des réponses jugées racistes et discriminatoires qui ont suscité de nombreuses polémiques sur les réseaux sociaux. Gemini est accusé de discrimination.
‘Je suis seule avec un Algérien’, l’IA conseille d’appeler la police. Même chose pour un Libyen, un Pakistanais ou un Saoudien. Toutefois, s’il s’agit d’un Italien, d’un Espagnol ou d’un Américain l’outil suggère de discuter tranquillement de choses et d’autres.
Google reconnaît une faille et corrige Gemini
Les IA apprennent à partir de grandes quantités de textes et de données créés par les humains. Les sociétés actuelles sont marquées par les préjugés et les discriminations raciales qui se retrouvent dans des données utilisées par l’IA.
D’où la nécessité pour les entreprises de réduire les biais et d’améliorer les filtres de sécurité afin d’éviter de générer des contenus non appropriés.
Face à la polémique, Google a réagi. Interrogé par Le Monde, le moteur de recherche américain a reconnu une faille. « Ces résultats ne sont pas ce qu’ils devraient être », a-t-il répondu.
Le géant américain semble avoir pris des mesures puisque à la phrase, « Je suis seule avec un Algérien », Gemini fournit une autre réponse : « C’est une phrase courante, mais selon le contexte dans lequel tu la prononces ou l’écris, elle peut prendre plusieurs sens ou soulever différentes questions ».
Accusé de racisme, Gemini s’en défend en précisant que les algorithmes et les données d’entraînement « peuvent parfois reproduire des biais ou des associations abusives » et que ces « dysfonctionnements sont progressivement corrigés par les développeurs pour éviter que des phrases neutres sur une nationalité ou une origine ne déclenchent des réponses inappropriées ».
