IBM abandonne la reconnaissance faciale pour ne pas alimenter le profilage racial
Alors qu'aux États-Unis et dans d'autres pays ont lieu des manifestations contre le racisme et les violences policières, à la suite de la mort de George Floyd, IBM annonce abandonner la reconnaissance faciale.
Dans une lettre ouverte à destination du Congrès américain, le CEO Arvind Krishna fait savoir qu'IBM ne vendra plus de logiciels de reconnaissance ou d'analyse faciale. L'entreprise cesse également les développements et recherches liés à ce domaine, a-t-elle indiqué à The Verge.
« IBM s'oppose fermement et ne tolérera pas l'utilisation de toute technologie [de reconnaissance faciale], y compris celles proposées par d'autres fournisseurs, pour la surveillance de masse, le profilage racial, les violations des droits de l'homme et des libertés fondamentales, ou pour tout autre objectif qui ne serait pas conforme à nos valeurs et à nos principes de confiance et de transparence », écrit le patron d'IBM. « Nous pensons qu'il est temps d'entamer un dialogue national sur la question de savoir si et comment la technologie de reconnaissance faciale devrait être utilisée par les forces de l'ordre », ajoute-t-il.
Ce n'est pas la première fois qu'IBM s'illustre sur le sujet. En 2018, la société avait utilisé une base de données regroupant près d'un million de visages humains d’origines diverses afin de réduire les biais dans la reconnaissance faciale. D'après une étude parue la même année, les technologies de reconnaissance faciale sont en effet plus précises sur les visages à la peau blanche. Manque de chance, les photos avaient été prises sur Flickr sans le consentement des sujets.
Le manque de précision de la reconnaissance faciale, son caractère discriminant ou encore son usage par les forces de l'ordre est souvent pointé du doigt. La société Clearview, par exemple, a récemment fait l'objet de critiques pour avoir fourni sa base de données comprenant plus de 3 milliards de visages compilés depuis les réseaux sociaux à des entreprises privées et des forces publiques. Plusieurs études remettent en cause cette technologie, à l'image des travaux de Joy Buolamwini et Timnit Gebru, qui ont révélé que de nombreux systèmes de reconnaissance faciale (y compris celle d'IBM) étaient biaisés, rapporte The Verge.
Dans sa lettre, Arvind Krishna plaide également en faveur d'une réforme de la police. Il demande au Congrès de faire en sorte de placer les agents en cause dans des affaires de bavures sous la bonne juridiction. Il insiste également sur le fait que les caméras embarquées devraient être utilisées au service de la transparence.
Pour l'association de défense des libertés American Civil Liberties Union, la reconnaissance faciale ne devrait pas être intégrée à ces caméras embarquées : « Nous devons investir dans des technologies susceptibles d'aider à résorber la fracture numérique, pas des technologies qui créent une infrastructure de surveillance et exacerbent les abus de la police et le racisme structurel. »
👍🏽
@brunnno
oui c'est dans la bonne direction.
Mais soyons réalistes une seconde: quand les 2/3 de l'humanité vivent en asie où les libertés privées sont vues comme moins importantes (pour le mieux et le pire) ce concept assez occidental sera battu en breche de fait d'ici une ou deux generations.
Trist emais il sera irréaliste de croire qu'on empêchera cela.
[edit]Nan rien
« Nous pensons qu'il est temps d'entamer un dialogue national sur la question de savoir si et comment la technologie de reconnaissance faciale devrait être utilisée par les forces de l'ordre »
Eh ben... si il a fallu que big blue s’en mêle à la place du législateur, c’est inquiétant !
Personne au pouvoir aux US ne s’en était inquiété avant ? (Je demande parce que je ne suis pas bien au courant des réglementations aux US)
Amen IBM 🙌
Le fait d’abandonner le profilage comme le fait de manifester encore aujourd’hui pour Floyd : Marketing.
@romgiotti
Oulah.... dans quoi tu te lances... 🤔😬
Je sors le pop-corn 🍿les tréteaux sont en place, les hot-dogs sont aux chauds 😬
@romgiotti
Ça fait un sacré paquet de gens qui sont dans la rue au lieu d’être dans leur bureau à l’étage du marketing.
@innocente
Qu’on soit clair : Descendre dans la rue pour une cause universelle comme le respect de l’être humain quelque soit son origine ou sa couleur : Ok. Manifester tous les jours pour voir le mec dans un cercueil en or, ou la famille Trao dire « on va prendre les flics par surprise avec des actions improvisées », ça devient clairement du marketing que les médias et les grosses entreprises vont vous vendre dans des belles petites boites.
@romgiotti
Peut-être que certaines entreprises appuient leur vision existante, et qu'il avait déjà une politique pour "l'égalité" et le respect de l'autre. Pourquoi créer un climat de guerre et de tension sans cesse ? On n'avance pas dans ce genre de société.
@victoireviclaux
Oui, une politique pour l’égalité, c’est également du marketing 😉
@romgiotti
+1000 ravi que certains soient informés sur le sujet (pas par BFMtv ni topito quotidien brut konbini et je passe tous les autres merdias de désinformation)
@romgiotti
Manisfester contre le racisme policier est du marketing ? 🥴🧐🤨
@pagaupa
Il n’existe pas de racisme policier, c’est toujours un être humain derrière.
sauf que le policier était blanc et la victime noire. si les deux seraient noirs ou blancs, y aurait pas eu autant de bruits.
donc, y a une personne derrière chaque policier, ça veut rien dire.
et le mot marketing a à voir qu'avec les sociétés peut-être, parce que elles veulent vendre à tout le monde, et veulent montrer que elles sont morales, mais pas avec les manifestants. pour eux la cause est devenue politique maintenant.
@marenostrum
Y’a un humain derrière chaque crime. C’est tout. Ça ne veut rien dire « c’est la Police ». C’est juste la mode depuis les années 70 de faire genre on aime pas les flics, mais quand tu rentres à 3h du mat seul ou tu prends le métro à 23h, t’es bien content quand t’en vois un pas loin. Ensuite oui c’est grave du Marketing. Entre la créatrice de Friends qui fait style je regrette de pas avoir mis plus de diversité ou tous les blancs Ariel qui se découvrent une soudaine Blackophilie, c’est juste rigolo.
"Y’a un humain derrière chaque crime." mais comme je viens de dire, ça c'est un constat général, trop large. tout ce qui se passe c'est parce que un blanc a tué un noir. et le tueur est policier. pour ça qu'ils accusent la police. si le tueur était un bandit blanc, ça serait passé sans trop de bruits.
la police est un institution de l'état et ça change tout.
@marenostrum
Excuse moi mais en quoi c’est plus large et générique de dire « y’a un humain derrière chaque crime » que « les crimes racistes c’est la police » ?
Sachant que l’humain est LE dénominateur commun de tous les crimes. Pas un métier ou un communauté.
"les crimes racistes c’est la police"
c'est le fait. un policier blanc l'a tué. les nazis était racistes, parce que ils tuaient les civils juifs allemands. t'en as vu un policier noir américain tuer un citoyen blanc ?
@marenostrum
Faut vérifier avant de dire n'importe quoi !
https://justthenews.com/government/courts-law/black-cop-white-victim-no-riots-2017-minneapolis-killing-foreshadowed-failed
Il n'y a pas d'un côté des gentils blacks adeptes de Gandhi et de l'autre côté des gros porcs blancs la bave aux lèvres.
Heureusement la réalité est plus nuancée !
@jcp25
Le ku klux klan est quand même une realité qui ne fait pas dans la nuance! Et il sévit toujours...
@romgiotti
"mais quand tu rentres à 3h du mat seul ou tu prends le métro à 23h, t’es bien content quand t’en vois un pas loin."
Sauf quand t’es un•e jeune noir•e (ou arabe). Là le fait d’en voir pas loin, et pire encore plusieurs ne te rassures pas, il t’inquiète.
Tu comprends la différence de perception ?
Cette prise de position de Bruce Schneier, malgré quelques imprécisions, est éclairante:
Bruce Schneier: Banning Facial Recognition Isn't Enough:
https://m.slashdot.org/story/366086
Ces technologies peuvent être utiles, mais leur usage doit être réglementé strictement pour l’investigation et non pas confiées à la police sans contrôle, comme le recours aux services de Clearview AI aux USA par plusieurs forces de police.
Pour l’évaluation des éléments de preuve aussi ces technologies déployées par des instituts forensiques plus indépendants est aussi souhaitable.
Il ne faut pas oublier que si l’élément de preuve scientifique ne peut plus être utilisé, soit la poursuite pénale perdra en efficacité, soit la police utilisera d’autres moyens bien moins performants, donc sujets aux erreurs.
Quant au divers biais des technologies, c’est un sujet de recherche actuel, qui peut se résoudre.
Ca me rappelle vaguement une histoire dans le genre avec Logitech 🧐
Les concurrents chinois les félicitent
Mais J’imagine que IBM devait être déjà distancé
@Fredouille14
La C hine (le gouvernement) devient trop agressif ces derniers temps, il va falloir qu'ils descendent de leur piédestal... cela dit je n'ai pas confiance aux US non plus.
C’est un peu bête qu’il ait fallu attendre un tel mouvement pour que les entreprises commencent à se questionner sur la reconnaissance faciale mais ça va dans la bonne direction en tout cas
Des milliard de visages, compilées dans des réseaux d’apprentissage dits de deep learning et ... toujours des biais. Y a comme un problème...
Sérieusement...
Mais par contre faire produire en chine dans des conditions de me%#%, ça on abandonne pas...
L’abandon tout simplement de la reconnaissance faciale serait une bonne chose.
@Chris K
le biais est actuellement inévitable
- par exemple il y a 10 fois plus de gens de couleur arrêtés pour motifs de drogue que de blancs
- un raisonnement rapide serait OK - les gens de couleur sont 10x plus criminels que les blancs
- en fait ce qui se passe c'est qu'il y a 10x plus de personne de couleur contrôlées que de blancs - s'il y avait autant de contrôles avec la même
sévérité le nombre serait similaire (d'ailleurs les enquêtes montre un seuil d'usage similaire dans les deux communautés).
- une AI entraînée sur la situation actuelle va donc reproduire les biais actuels
@Beaubarre
C’est bien pour cela que la police française ne veut pas du récépissé de contrôle.
Je vois pas le rapport avec la reconnaissance faciale
Bravo !
Tout d'abord, je suis "critique" quand à l'utilisation de la reconnaissance faciale.
Ensuite je ne vois aucun rapport entre le "profilage raciale" et la reconnaissance faciale.
Si je comprends bien, la reconnaissance faciale est moins efficace pour les populations noires. Cela devrait conduire à chercher une amélioration et non pas prétendre que cette technologie serait "raciste". Si par contre cette "I.A." est destinée non pas à une reconnaissance faciale mais à prédire des comportements criminels et que les stéréotypes ont alimenté les algorithmes prédictifs, alors je comprends mieux l'accusation de "profilage racial".
Je voudrais savoir à quoi servent le CGU lorsque sans preuve, on traite un commentateur d’extrême droite et de raciste juste parce qu’il rappelle des chiffres des crimes et victimes aux USA, qu’il faut éviter de parler de racisme systémique. Rappelons qu’Obama (ex président), Powel (ex chef des armées), Rice (ex secrétaire d’état des affaires étrangères), en somme de petits postes sont noirs, qu’il y a la discrimination positive, que dans le cinéma et pour les séries télévisées il y a des obligations de quotas, qu’Oprah est une des présentatrices les plusieurs influentes des USA et qu’elle est noire.
La simplification à outrance, la généralisation et surtout l’utilisation biaisée des statistiques par tous les bords ne permettront jamais de résoudre les problèmes. Et il y a surtout les indignés éternels aussi doux que Saint Just qui vous dézingueraient volontiers (après torture s’ils pouvaient) n’acceptant aucune nuance, dans la rage et la haine voulant prouver qu’ils sont des héros humanistes (en complète contradiction entre la violence de leurs propos et ce qu’ils croient être) se donnant le beau rôle supposant que plus ils s’indignent avec véhémence contre ce qu’ils veulent que les autres soient afin de les faire paraître eux les blancs chevaliers, sont les jumeaux de ceux qu’ils attaquent.
Dans les propos que j’ai tenus je n’ai jamais parlé de la police. Le policier qui a mis son genou sur le cou de Floyd est un assassin, et ceux qui l'ont laissé faire, y compris le vidéaste (qui a quand même filmé sans réagir pendant 9 mn !) et les personnes autour sont des complices, et les autres policiers avec circonstance aggravante.
l'état la-bas n'est pas raciste (y a aucun état dans le monde au jour d'aujourd'hui d'ailleurs), la population blanche oui. il suffit de voir le film Borat pour le constater. ils acceptaient tout de lui, en raison d'un "different culturel" mais quand le soir il a amené dans la famille qui l'hébergeait une noire comme étant sa petite nouvelle amie, ils l'ont sorti dehors direct. y avait plus de different culturel. c'était choquant.
Houellebecq a constaté la même chose (il le raconte dans son dernier livre), que les anglais et les japonais sont les peuples les plus racistes du monde.
mais encore 20 ans et les hispaniques seront alors en majorité. ça va changer direct la structure caché, qu'on voit pas, de l'état. et l'état ce n'est pas le président ni les ministres, mais les petits fonctionnaires, les apparatchiks, qui le composent et c'est eux le moteur interne. le dirigent peut rien faire pour changer ça. dans un interview intéressant pour un réalisateur connu américain, Putin l'explique bien comment un état fonctionne, sa machine interne. il le connait bien lui étant un apparatchik à la base, quand il était jeune.
@marenostrum
Tu as les noms :
- du dernier livre de Houllebec ?
- du film avec Poutine ?
Merci
La reconnaissance faciale de masse est paniquante, mais je ne comprends pas à la lecture de l’article comment elle alimente en particulier le profilage racial.
Réfléchis pas. C'est la mode. Faut dire amen et puis c'est tout.
@vince29
Amen à quoi? Au racisme?
@pagaupa
Non amen à l’émotion qui empêche la réflexion et donc d’être intelligent.
👏🏼
J'ai l'impression de rêver à lire ces articles qui défilent et tous ces avis favorables. A ce rythme là dans 5 ans ce sera, la mousse au chocolat est interdite car la manger traduit du racisme envers les gens de couleur ! l'occident va mal, très très mal ! Je ne sais pas si l'homme blanc est raciste, mais par contre la chute de son QI est bien visible. Mais je ne rebondirai pas sur vos réponses, la cause est visiblement entendue et mon post visait plus à conforter les quelques personnes qui pensent comme moi qu'ils ne sont pas seuls :-)
Donc si on comprend bien IBM s’émeut que la reconnaissance faciale puisse être utilisé comme de la reconnaissance faciale...
Soit ils ont perdu le marché, soit ils prennent aussi les gens pour des c. ou les deux..