C’est une découverte plus qu’embarrassante pour Twitter, qui avait déjà été accusée d’être partiale dans la représentation des différentes communautés sur son réseau social. L’entreprise s’en était d’ailleurs excusée, mais il faut croire que le problème est plus profond qu’on ne le pensait.
Un « Bug Bounty » algorithmique
Un étudiant de l’université suisse EFPL, Bogdan Kulynych, a démontré lors d’un « Bug Bounty » (concours proposant à des développeurs de traquer les bugs sur les sites ou applications) organisé par Twitter à l’occasion de la conférence DEFCON de Las Vegas, que l’algorithme que Twitter utilise pour répertorier, traiter et recadrer les images préférait certains profils ethniques, en particulier les jeunes femmes blanches et minces.
Bogdan Kulynych a généré de manière artificielle des centaines de visages possédant diverses caractéristiques, puis il les a soumis à l’algorithme de recadrage pour observer sur lesquels le logiciel allait se concentrer. Les visages ayant été générés artificiellement, ils étaient presque tous identiques mais différaient sur la couleur de peau, la largeur, le sexe, l’âge et la présentation.
Les résultats ont démontré que le programme donnait la priorité aux visages féminins jeunes, à la peau claire et d’apparence mince, plutôt qu’à ceux qui sont plus âgés plus larges ou plus foncés.
Le responsable éthique de l’IA de Twitter, Rumman Chowdhury, a déclaré que « Nous créons ces filtres parce que nous pensons que c’est ce que ‘beau’ est, et cela finit par former nos modèles et conduire ces notions irréalistes de ce que signifie être attirant. »
Twitter déjà coupable d’un précédent existe
Twitter n’en n’est pas à la première accusation de partialité à cause de son système de recadrage d’images. En 2020, la société avait été fortement critiqué parce que les internautes s’étaient rendus compte que le logiciel choisissait les visages blancs au détriment des visages noirs.
Twitter avait présenté ses excuses, affirmant avoir effectué des tests et corrigé le problème, mais force est de constater que ce problème reste persistant. Le gagnant du « Bug Bounty », Bogdan Kulynych, qui a empoché une récompense de 3500 dollars, a avoué avoir des sentiments mitigés à propos de ce concours.
Les problèmes de ce genre sur les algorithmes ne sont pas seulement des bugs, ou le fait d’erreurs involontaires. Il est important de savoir que très souvent, c’est à cause des choix effectués lors de leur conception. La recherche du profit peut pousser certaines sociétés à accentuer la gentrification ou encore les différences de traitement pour les communautés.
Twitter a une fois de plus promis de tout mettre en œuvre pour corriger cette situation. Rumman Chowdhury déclare que « Lorsque nous pensons aux biais dans nos modèles, il ne s’agit pas seulement de l’académique ou de l’expérimental, mais de la façon dont cela fonctionne également avec la façon dont nous pensons dans la société ».
Pour ne rien rater de nos prochaines publications sur l’actualité high-tech, abonnez-vous à notre Newsletter et recevez des alertes à propos de nos prochains articles.
Lire aussi :
- Les Galaxy Z Fold 3 et Z Flip 3 enfin dévoilés
- Samsung Galaxy A12 Nacho, une entrée de gamme bien épicée
- Ces applications que vous devez avoir sur votre smartphone