C’est une découverte plus qu’embarrassante pour Twitter, qui avait déjà été accusée d’être partiale dans la représentation des différentes communautés sur son réseau social. L’entreprise s’en était d’ailleurs excusée, mais il faut croire que le problème est plus profond qu’on ne le pensait.
Un étudiant de l’université suisse EFPL, Bogdan Kulynych, a démontré lors d’un « Bug Bounty » (concours proposant à des développeurs de traquer les bugs sur les sites ou applications) organisé par Twitter à l’occasion de la conférence DEFCON de Las Vegas, que l’algorithme que Twitter utilise pour répertorier, traiter et recadrer les images préférait certains profils ethniques, en particulier les jeunes femmes blanches et minces.
Bogdan Kulynych a généré de manière artificielle des centaines de visages possédant diverses caractéristiques, puis il les a soumis à l’algorithme de recadrage pour observer sur lesquels le logiciel allait se concentrer. Les visages ayant été générés artificiellement, ils étaient presque tous identiques mais différaient sur la couleur de peau, la largeur, le sexe, l’âge et la présentation.
Les résultats ont démontré que le programme donnait la priorité aux visages féminins jeunes, à la peau claire et d’apparence mince, plutôt qu’à ceux qui sont plus âgés plus larges ou plus foncés.
Le responsable éthique de l’IA de Twitter, Rumman Chowdhury, a déclaré que « Nous créons ces filtres parce que nous pensons que c’est ce que ‘beau’ est, et cela finit par former nos modèles et conduire ces notions irréalistes de ce que signifie être attirant. »
Twitter n’en n’est pas à la première accusation de partialité à cause de son système de recadrage d’images. En 2020, la société avait été fortement critiqué parce que les internautes s’étaient rendus compte que le logiciel choisissait les visages blancs au détriment des visages noirs.
Twitter avait présenté ses excuses, affirmant avoir effectué des tests et corrigé le problème, mais force est de constater que ce problème reste persistant. Le gagnant du « Bug Bounty », Bogdan Kulynych, qui a empoché une récompense de 3500 dollars, a avoué avoir des sentiments mitigés à propos de ce concours.
Les problèmes de ce genre sur les algorithmes ne sont pas seulement des bugs, ou le fait d’erreurs involontaires. Il est important de savoir que très souvent, c’est à cause des choix effectués lors de leur conception. La recherche du profit peut pousser certaines sociétés à accentuer la gentrification ou encore les différences de traitement pour les communautés.
Twitter a une fois de plus promis de tout mettre en œuvre pour corriger cette situation. Rumman Chowdhury déclare que « Lorsque nous pensons aux biais dans nos modèles, il ne s’agit pas seulement de l’académique ou de l’expérimental, mais de la façon dont cela fonctionne également avec la façon dont nous pensons dans la société ».
Pour ne rien rater de nos prochaines publications sur l’actualité high-tech, abonnez-vous à notre Newsletter et recevez des alertes à propos de nos prochains articles.
Lire aussi :
Samsung continue de marquer des points dans l'univers des smartphones haut de gamme avec ses deux modèles phares, le Galaxy…
L’iPhone 16 Pro Max et le Galaxy S25 Ultra se disputent le titre de meilleur smartphone haut de gamme, chacun…
Samsung propose deux smartphones haut de gamme, les Galaxy S25 et Galaxy S25+, qui partagent de nombreux points communs mais…
Samsung vient de présenter la nouvelle série Samsung Galaxy S25 lors de son traditionnel évènement « UNPACKED » de cette année. Cette…
Le marché des smartphones est en constante évolution, avec des marques comme Oppo et Xiaomi qui rivalisent pour offrir les…
Dans le monde des smartphones de milieu à haut de gamme, Oppo et Xiaomi continuent de dominer le marché avec…
