Alors qu'aux États-Unis et dans d'autres pays ont lieu des manifestations contre le racisme et les violences policières, à la suite de la mort de George Floyd, IBM annonce abandonner la reconnaissance faciale.
Dans une lettre ouverte à destination du Congrès américain, le CEO Arvind Krishna fait savoir qu'IBM ne vendra plus de logiciels de reconnaissance ou d'analyse faciale. L'entreprise cesse également les développements et recherches liés à ce domaine, a-t-elle indiqué à The Verge.
« IBM s'oppose fermement et ne tolérera pas l'utilisation de toute technologie [de reconnaissance faciale], y compris celles proposées par d'autres fournisseurs, pour la surveillance de masse, le profilage racial, les violations des droits de l'homme et des libertés fondamentales, ou pour tout autre objectif qui ne serait pas conforme à nos valeurs et à nos principes de confiance et de transparence », écrit le patron d'IBM. « Nous pensons qu'il est temps d'entamer un dialogue national sur la question de savoir si et comment la technologie de reconnaissance faciale devrait être utilisée par les forces de l'ordre », ajoute-t-il.
Ce n'est pas la première fois qu'IBM s'illustre sur le sujet. En 2018, la société avait utilisé une base de données regroupant près d'un million de visages humains d’origines diverses afin de réduire les biais dans la reconnaissance faciale. D'après une étude parue la même année, les technologies de reconnaissance faciale sont en effet plus précises sur les visages à la peau blanche. Manque de chance, les photos avaient été prises sur Flickr sans le consentement des sujets.
Le manque de précision de la reconnaissance faciale, son caractère discriminant ou encore son usage par les forces de l'ordre est souvent pointé du doigt. La société Clearview, par exemple, a récemment fait l'objet de critiques pour avoir fourni sa base de données comprenant plus de 3 milliards de visages compilés depuis les réseaux sociaux à des entreprises privées et des forces publiques. Plusieurs études remettent en cause cette technologie, à l'image des travaux de Joy Buolamwini et Timnit Gebru, qui ont révélé que de nombreux systèmes de reconnaissance faciale (y compris celle d'IBM) étaient biaisés, rapporte The Verge.
Dans sa lettre, Arvind Krishna plaide également en faveur d'une réforme de la police. Il demande au Congrès de faire en sorte de placer les agents en cause dans des affaires de bavures sous la bonne juridiction. Il insiste également sur le fait que les caméras embarquées devraient être utilisées au service de la transparence.
Pour l'association de défense des libertés American Civil Liberties Union, la reconnaissance faciale ne devrait pas être intégrée à ces caméras embarquées : « Nous devons investir dans des technologies susceptibles d'aider à résorber la fracture numérique, pas des technologies qui créent une infrastructure de surveillance et exacerbent les abus de la police et le racisme structurel. »
