Le Parlement européen a aujourd'hui donné son feu vert à un projet de régulation de l'intelligence artificielle. En discussion depuis quelques années, son but va être de s'assurer que les IA développées et utilisées en Europe respectent les valeurs de l'UE. Le projet va toucher les IA génératives comme ChatGPT ou le Bard de Google, qui devront se plier à certains impératifs en matière de transparence. Avec ce projet, l'Union Européenne sera la première au monde à se doter d'un cadre juridique concernant les IA.

Certaines pratiques vont être tout bonnement interdites. C'est le cas des systèmes de notations sociales « à la chinoise » classifiant les personnes en fonction de leur comportement ou de certaines caractéristiques. Le Parlement réclame l'interdiction des systèmes d’identification biométriques à distance dans des lieux publics, ainsi que ceux utilisant des caractéristiques sensibles (comme le genre, l’origine ethnique, la religion, l’orientation politique…).

Les députés ont également voté pour interdire les systèmes de police prédictive basés sur le profilage ou le comportement criminel passé, mais aussi les systèmes de reconnaissance des émotions utilisés pour la gestion des frontières ou sur les lieux de travail. Enfin, la saisie non ciblée d’images de visages provenant d’internet ou de séquences de vidéosurveillance en vue de créer des bases de données de reconnaissance faciale devrait être interdite.

Concernant les IA génératives, les fournisseurs vont devoir enregistrer leurs modèles dans la base de données de l’UE avant leur mise en circulation sur le marché européen. L'UE va également leur demander de faire preuve de transparence en mentionnant clairement que les contenus sont générés par IA, ou en rendant publics des résumés détaillés des données protégées par le droit d’auteur utilisées pour la formation des services.

Ce texte a été adopté avec 499 voix pour, 28 contre et 93 abstentions. Les États membres doivent désormais discuter de la forme finale de la législation, qui prendra effet au plus tôt en 2026. Les négociations avec le Conseil de l’Union européenne commenceront dès aujourd'hui, l'objectif étant de finaliser le texte d'ici la fin de l'année.