IBM ne vendra plus d'outils de reconnaissance faciale

IBM quitte le marché de la reconnaissance faciale | Crédits

IBM quitte le marché de la reconnaissance faciale | Crédits

À travers cette lettre, Big Blue prend fermement position: "IBM s'oppose fermement et ne fermera pas les yeux sur les usages de la technologie de reconnaissance faciale, y compris celle offerte par d'autres vendeurs, pour la surveillance de masse, le profilage racial, la violation des droits de l'Homme et des libertés basiques, ou tout autre but en désaccord avec nos valeurs et nos Principes de Confiance et de Transparence ".

La décision d'IBM intervient deux ans après que, pour la première fois, des chercheurs ont pu prouver que les algorithmes de détection des systèmes de reconnaissance faciale peuvent souffrir de biais, notamment formés sur des critères raciaux, y compris ceux proposés par IBM. Souvent critiquée pour son caractère discriminatoire, cette technologie est jugée trop dangereuse pour la société... L'étude du NIST n'a pas inclus la technologie d'Amazon, qui est l'une des plus grandes sociétés à vendre des logiciels de reconnaissance faciale aux forces de l'ordre. " Le moment est venu de démarrer un dialogue national pour savoir si et comment les technologies de reconnaissance faciales doivent être utilisée par les forces de l'ordre", a-t-il ajouté dans un contexte où les Etats-Unis sont confrontés à de nombreuses manifestations suite au décès de George Floyd, afro-américain tué lors d'une interpellation par la police.

Il lui a aussi été reproché d'être biaisée et encline à la discrimination quant à l'âge ou à l'ethnicité. Mais il ne tourne pas le dos à l'usage des technologies par la police. Mais il arrive que ces systèmes fonctionnent imparfaitement et peuvent conduire à des discriminations ou à des erreurs. IBM a beaucoup travaillé dans ce sens, avec notamment le lancement en 2018 d'un ensemble de données conçu pour réduire les biais dans les données d'entraînement des modèles de reconnaissance faciale. Il demande au Congrès de faire en sorte de placer les agents en cause dans des affaires de bavures sous la bonne juridiction. En outre, Krishna a déclaré que "nous devons créer des voies plus ouvertes et équitables pour que tous les Américains acquièrent des compétences et une formation commercialisables", et il a suggéré au Congrès d'envisager d'étendre le modèle d'école P-TECH à l'échelle nationale et d'élargir l'admissibilité aux subventions Pell. En 2018, l'American Civil Liberties Union a montré que le logiciel Amazon avait identifié à tort 28 visages sur des photos de police comme étant membres du Congrès, les fausses correspondances étant disproportionnellement des personnes de couleur.

Les défauts de la technologie de reconnaissance faciale sont bien documentés. Enfin, en janvier 2020, Facebook a dû payer 500 millions de dollars à cause d'une class-action l'accusant d'utiliser illégalement la technologie. Cela pourrait inciter d'autres fournisseurs à emboîter le pas, et pourrait même amener certains clients potentiels à abandonner complètement la reconnaissance faciale.

Dernières nouvelles