L'AI Act, ou comment l'Europe cherche à réguler l'intelligence artificielle
Cela fait plusieurs années que l'Europe planche sur un projet de loi strict visant à encadrer les intelligences artificielles. Baptisé « AI Act », celui-ci concerne autant les IA génératives comme ChatGPT que celles pouvant potentiellement être utilisées pour de la surveillance de masse ou dans le domaine médical.
Le texte a pour ambition de réguler l'intelligence artificielle en fonction de ses usages, classant ses utilisations par ordre de dangerosité. Différentes techniques seraient ainsi interdites : le système de « crédit social » mis en place par la Chine, les techniques de manipulation visant à exploiter les personnes les plus faibles ou encore l'identification biométrique à distance « en temps réel » dans les espaces publics. Le texte précise cependant que certaines exceptions pourront être appliquées sur ce dernier point.
Certaines manipulations ont été classées comme « à haut risque » : c'est le cas de l'IA pour la médecine, dans les transports, pour la justice… Certains voudraient que les IA génératives du style ChatGPT ou DALL-E rejoignent cette liste. Or, la question est complexe : les négociateurs doivent juger si tous les bots sont potentiellement dangereux, ce qui est compliqué sur ce type de technologie ayant différents cas d'utilisation.
Le texte prévoit que les bots soient obligatoirement désignés clairement comme des robots afin d'éviter toute confusion chez l'utilisateur. Les IA générant du contenu réaliste pouvant laisser penser qu'ils sont authentiques (sons, photos) devront clairement préciser qu'il s'agit de faux. L'idée serait de faire en sorte que les développeurs d'IA fassent preuve de plus de transparence.
Le texte est encore loin d'être adopté, et certains éléments sont toujours en discussions. Selon des personnes proches du dossier entendues par le Financial Times, le Parlement européen voudrait obliger les développeurs de chatbots à révéler s'ils utilisent du matériel protégé par le droit d'auteur pour entraîner leurs IA. Le but de cette manœuvre serait de déployer une mesure pour que les fabricants puissent dédommager les créateurs des contenus utilisés. Cette régulation tomberait à pic, car les premières batailles légales se préparent. Universal Music prépare ses avocats face à l'arrivée des musiques générées par IA tandis que Getty Images a attaqué Stable Diffusion en justice aux États-Unis.
Universal Music s'inquiète de l'arrivée des musiques générées par IA et met en garde Apple
Le négociateur Brando Benifei a affirmé au Financial Times que les députés européens espéraient pouvoir finaliser leurs positions la semaine prochaine. Les propositions du Parlement européen devraient être ratifiées d'ici le mois prochain, même s'il est encore trop tôt pour savoir avec précision ce qui sera présent dans le texte. L'idée d'interdire totalement l'utilisation de la reconnaissance faciale dans les lieux publics devrait être un point particulièrement sulfureux selon les personnes proches des négociations.
Ce texte serait lié à d'autres textes comme la RGPD, qui vise à la protection des données personnelles. Les contrevenants s'exposeraient à des amendes pouvant monter jusqu'à 30 millions d'euros ou 6 % des revenus mondiaux de l'entreprise. Comme pour la DMA et la DSA, les règles ne devraient pas entrer en vigueur tout de suite : on s'attend à ce qu'une période de plusieurs mois soit mise en place pour laisser aux différentes entreprises le temps de s'adapter.
Encore une fois les États-Unis vont nous devancer…
@Lukas Apple Fan
Comme d’habitude ont interdit d’abord et après ont réfléchis 👿
@R-APPLE-R
Quand l’Europe a t’elle interdit quelque chose en rapport avec l’IA ? Il s’agit d’un texte visant à en encadrer les pratiques. Rien de plus normal en fait. Et tant mieux, tant elles peuvent être capables de berner les jeunes (et d’autres moins jeunes aussi, mais ils avaient déjà pris une mauvaise direction de toute façon).
@David Finder
et oui comme d'habitude...
Comme d’habitude @R-APPLE-R parle d’abord et jamais ne réfléchit 👿
@J'en_crois Pas_mes yeux
Je ne dirais pas « comme d’habitude », j’en sais rien.
Mais sur ce coup, clairement oui.
@ R-APPLE-R
> Comme d’habitude ont interdit d’abord et après ont réfléchis
Comme d’habitude on commente d’abord et après on réfléchit (ou pas).
@marc_os
Quid de ceux comme vous qui commente les commentaires des autres alors ? 😈
L’Europe n’arrête pas de « réguler » (réglementer serait plus exact) des choses qu’elle n’a pas inventées ( ou est incapable d’inventer ?).
@Giloup92
🫣
Depuis quand est-ce le rôle de l’Europe d’inventer ?
Son rôle est exactement celui indiqué dans l’article. Légiférer et son synonyme règlementer.
Que les lois qu’elle ponde nous plaise ou pas, c’est son rôle. Et tu votes pour cela d’ailleurs.
Ensuite, en quoi le fait de préparer un texte de loi sans qu’une entreprise européenne n’ait à ce jour aucune IA (j’en doute fort cela-dit) ne veut pas dire qu’on ne doit rien réglementer en attendant !
😳
Bref : moi ce qui me gêne beaucoup dans ce texte, c’est cette partie : «…interdites ….. l'identification biométrique à distance « en temps réel » dans les espaces publics. Le texte précise cependant que certaines exceptions pourront être appliquées sur ce dernier point. »
Cela veut-il dire que c’est actuellement le cas ? Possible à faire, j’imagine aisément. Aux US, j’ai pas trop de doutes que cela se pratique. Mais qu’en est-il en France par exemple, et au Québec ?
@David Finder
Les JO vont être un joli champ d’expérimentation pour la reconnaissance faciale, c’est déjà prévu par les GO…
@ErioBato
ka vraie question n’est pas ce qui se passera durant les jeux, c’est justifié imaginez un attentat d’un groupe extrémiste quelconque ou une descente de hooligans à géométrie variable qui foutraient le feu, côté démonstration de maintien de l’ordre on a vu mieux ( d’ailleurs ca a été validé avec une tres large majorité au parlement)
nan la question c’est après, est ce qu’on débranchera tout?
@raoolito
C’est exactement ça qui fait peur.
Se servir de la vidéo surveillance et de la reconnaissance faciale je comprends.
Mais laisser analyser la reconnaissance faciale « en temps réel », c’est à dire potentiellement partout et tout le temps. Sur toutes les caméras de sécurité des villes, etc…
Et là le texte dit bien que les IA auront le droit de le faire sous conditions.
@David Finder
typiquement les JO, je peux comprendre les exceptions, j’ai du mal avec la généralisation
@raoolito
Oui, pareil…
@raoolito
Tu as déjà la réponse. Nice avait mis en place ce même système à l’occasion de l’euro je crois il y a quelques années. C’est resté depuis et ça fonctionne apparement plutôt bien. Coté éthique c’est une autre histoire. Sur un plan plus personnel je trouve pas ça plus choquant que le facial soit utilisé à des fins de sécurité du quotidien que des millions de gens l’utilisent chaque jour pour partager leur humeurs avec des filtres sur les réseaux.
@cosmoboy34
Que la reconnaissance faciale soit utilisée en permanence, et donc qu’elle traite tous les visages apparaissant sur une vidéo, les stocke probablement afin de créer une base de données, cela me choque énormément.
Et si on laisse ce job à une IA, plus le facteur « temps réel », on passe clairement à un autre stade de flicage.
@David Finder
Flicage que les gens réalisent d’eux meme par plaisir de partager toute leur vie sur les réseaux. C’est pas bien différent à ceci près que c’est moins divertissant.
@cosmoboy34
Tout à fait d’accord. Mais pour cette catégorie de personnes, c’est leur problème.
C’est pourtant pas faute d’être un peu informé des dangers potentiels de ces « réseaux sociaux » en cas d’utilisation intense…
Tant pis pour ces personnes. Elles veulent donner le bâton pour se faire battre, grand bien leur fasse.
@cosmoboy34
choquant.
un jour l'activisme politique et subversif consistera à détruire physiquement les centres d'hébergement et copies de ces bases de données.
@raoolito
ce n'est pas justifié pour les jo
car les jo eux même ne sont pas justifiables.
ce sont des chevaux de Troie législatif comme au japon et royaume unis.
@oomu
mais qui justifie le Oomu..?
hormis le Oomu lui-même 😋?
@ raoolito
> durant les jeux, c’est justifié imaginez un attentat
Je me demande bien comment la police a pu travailler pendant toutes ces années sans IA...
@marc_os
vous parlez de cet époque ou un furieux égorgeant deux pauvres quidams sur un escalier avant de se faire descendre, ca ne fait qu’un encart dans la presse locale?
ou vous parlez peut-être de cette période où on ne suivait les résultats des JO qu’à la radio pour quelques centaines de millions d’auditeurs au travers le monde quand on dépasse les 3 milliards actuellement sur ecran de tv ?
« avant » on exploitait aussi les dernières technologies, à très grand renfort de troupes. Les jeux « modernes » existent depuis plus de 130 ans il me semble et chaque fois la challenge montait d’un cran.
vous n’avez pas idée de ce qui est prevu pour le 200eme, 100% dans l’espace, entre mars, la lune, et les stations spatiales géantes. public trié sur le volet et traçage biométrique en permanence !
@ raoolito
C'est vrai, j'avais oublié qu'à Nice, ville à la pointe dans le domaine, les caméras de surveillance avaient été très efficaces pour empêcher l'attentat du 14 juillet 2016.
Être à la pointe du progrès, c'est toujours efficace.
Y a qu'à voir l'état de la planète et l'efficacité fantastique avec laquelle nous la détruisons à coups de progrès.
@marc_os
certes mais vous mélanger des pommes et des poires. La reponse pour Nice serait « ben justement ca prouve qu’il y en a besoin » ?
plus sérieusement c’est un jeu de chat et de souris, sinon pourquoi ne pas continuer a courser les malandrins à vélo ?
@raoolito
Justifié ? J’aimerais les sources, il y a tant de biais prouvés. Arrêté après ? Moi j’appelle ça de la naïveté
@ErioBato
Par les « GO » ?
Tu veux dire Gouvernements ?
@David Finder
gentils organisateurs
au hasard.. 😉
@raoolito
Ah oui, c’est mieux en effet.
Merci
-
@David Finder
Oui, gentils organisateurs gouvernementaux
@ErioBato
Merci, j’étais donc pas si loin 😉
@David Finder
Oui à Nice depuis quelques temps déjà.
@cosmoboy34
Je ne savais pas. Merci.
@David Finder
Certaines villes (dont la mienne) ont annoncé récemment qu’il n’était pas question de passer au facial sur les caméras de ville et de laisser un humain décider derrière les écrans. Certaines se sont engagées dans une charte pour garantir de ne pas céder au facial.
@cosmoboy34
C’est très bien !
La reconnaissance faciale ne devrait être employée qu’en cas de suspicion lors d’une enquête. Pas plus.
@ cosmoboy34
C'est vrai qu'à Nice, pionnière de la vidéo-surveillance, elle est très utile et elle a prouvé qu'elle permet d'éviter des attentats - ou pas.
@marc_os
Vu qu’elle a été installée après…
@ cosmoboy34
> Vu qu’elle a été installée après
Mais oui.
« 7 360 interpellations du 23 mars 2010 au 8 décembre 2022 grâce à la vidéosurveillance »
https://site.ldh-france.org/nice/category/videosurveillance/
Et côté reconnaissance faciale, Nice est toujours à l'avant-garde :
« Les 16, 19 et 20 février 2018, la ville de Nice a expérimenté l’usage de systèmes de reconnaissance faciale pour des personnes consentantes venues assister au carnaval de la ville. »
Même à l'entrée des lycées !
https://www.nextinpact.com/lebrief/40388/10143-la-cnil-etrille-la-reconnaissance-faciale-a-l-entree-de-deux-lycees-nicois-et-marseillais
@marc_os
On parlait de reconnaissance faciale…... les attentats ont eu lieu en 2016, la première expérimentation s’est déroulée pour le 135eme carnaval de Nice en 2019, soit 3 ans après. Tu mélange les informations.
Estrosi avait d’ailleurs demandé l’autorisation d’utiliser la reconnaissance faciale pour l’Euro 2016. Il demandait un changement de législation face à la menace terroriste quelques semaines avant les attentats.
Plusieurs expérimentations ont suivi toutes très courtes et limitées dans l’espace. Depuis 2022 Nice utilise un système d’intelligence artificielle, autorisée elle contrairement à la reconnaissance faciale.
Une innovation -> une réglementation -> une taxe. Seul schéma valable en Europe. J’oublie aussi une chose: une porte étendard qui ne connaît rien pour prêcher la bonne parole dans les médias et surtout inviter à ne pas s’y intéresser car c’est dangereux pour votre santé mentale.
@Rattlehead
Une taxe sur les bénéfices générés à l’aide de systèmes préexistants (comme pr la Sacem du coup), ça me parait pas aberrant
@ErioBato
Exact! Toute proposition gardée il faut encadrer mais raisonnablement. La vraie question est autour de la RGPD et des données que l’on laisse pendant les requêtes. D’où l’interdiction en Italie pour éviter la fuite de données confidentielles. Certaines entreprises interdisant l’accès pour les fuites de données. Le système actuel n’est pas prévu pour cette révolution et surtout la vitesse avec laquelle elle arrive.
vu comme ça ca semble équilibré. dire où ne pas aller, rappeler les droits d’auteur et le rgpd, marquer quels sujets sont sensibles…
et contrairement aux aigris plus haut, l’europe n’est pas si mal en matière d’ai, ya qu’a voir les centres de recherche dédiés un peu partout sur le continent, l’avancée des chinois s’est focalisée sur la reconnaissance et le contrôle et les américains de toute façon sont toujours devant tout le monde en tout.
mais bon rien ne va plus, l’europe c’est mal, trump c’est bien et les riches doivent tous mourir sauf marine…
@raoolito
« contrairement aux aigris plus haut, l’europe n’est pas si mal en matière d’ai »
Si tu parles de moi, tu as mal lu ma phrase 😉
Je dis justement que je suis certain qu’on a des outils identiques en Europe.
On fait peut-être plus attention. Et je trouve ça très bien aussi.
C’est IA vont être une aubaine pour les grosses entreprises de la tech pour nous pomper un maximum de donnés et profiler en masse aussi (ça c’est valable aussi pour les pays moins intéressés par les Droits de l’Homme, et y’en a à foison…).
Et pour ce qui est de la section sur la protection des droits d’auteurs, je suis 100% pour aussi !
Certains (pas toi en l’occurrence) semblent oublier que quand on parle de droits d’auteurs, y’a pas que la SACEM hein. Y’a des photographes, des acteurs, des peintres, des écrivains de toute sorte, et plein d’autres artistes qui ont eu aussi des droits d’auteurs.
@David Finder
du tout vous étiez le seul avec qui j’etais d’accord 😌 lorsque j’ai ecris ce message
@raoolito
Alors au temps pour moi 😉
@raoolito
Tu dis “et les riches doivent tous mourir sauf marine” tu veux dire “sauf Mélenchon” c’est un des candidats à la dernière élection présidentielle le plus riche de tous… et tout ce pognon payé par nos impôts… payé à un mec qui disait lui même uniquement prendre la classe affaire en avion.
:p
@leinuo88
je ne voulais pas entrer dans les choses taboues (marine L ne peut pas le cacher…) mais oui absolument. JeanLuc M etant la caricature de l’ancien système avec une vie au sénat et un passage en secrétariat d’etat sous jospin lors de la plus grande serie de privatisation de l’histoire de la Veme république, ce qui ne le choquait pas à l’époque. Et donc de l’investissement dans la pierre avec un énorme parc foncier.
@leinuo88
tous les politiciens de carrières, ou carrément de famille politicienne (cas de le Pen mais loin d'être le seul cas) sont néfastes et à proscrire
Mélenchon et Le Pen sont, parmi tous les autres, des purs produits du système de la 5e république, ils n'ont donc rien de bon à apporter.
Méluche pour avoir été un bon soldat du système de ministre, sénateurs, etc, et donc artisan du marasme avec ses copains de droite-centre-gauche. Ambigu et jamais explicite, il est un excellent produit politique.
LePaine pour être le porte-étendard d'une violence politique déjà esquissée avec les macronés, et de perpétuation de la violence politique inhérente à la 5e république, et qui n'a que la discrimination et la censure à apporter en plus du démantèlement libéral économique.
autrement dit, vous avez rien de bon à attendre d'un politicien et votre vie doit être construite le plus possible en essayant d'être indépendants des lubies des humains qui se prétendent apte à modeler nos vies pour satisfaire leur égo et dépravation.
Pages