ChatGPT : la France ne bloque pas mais plusieurs plaintes ont été déposées
La France et ses autorités n'ont pas encore manifesté d'opposition à l'exploitation de données d'utilisateurs par OpenAI pour entrainer ChatGPT. Des initiatives ont été toutefois lancées pour répondre à cette nouvelle problématique et des plaintes individuelles ont été déposées contre la startup américaine.
Fin mars, le régulateur italien a demandé à OpenAI de cesser de traiter les données des internautes italiens et ordonné le blocage du service dans la péninsule. À cela, OpenAI a répondu qu'il allait s'efforcer de vérifier l'âge des utilisateurs dont il récupère des données publiques ; d'offrir plus de transparence sur ses méthodes de traitement des informations personnelles et qu'il répondrait plus en détail aux inquiétudes de la cousine italienne de la CNIL.
Le gouvernement italien demande le blocage de ChatGPT
D'une manière plus générale, OpenAI insiste sur le fait qu'il n'essaie pas de constituer des profils d'individus, mais d'assembler des jeux de données sur le monde en général.
Dans une interview à La Tribune la semaine dernière, Jean-Noël Barrot, le ministre délégué chargé de la Transition du numérique, excluait de suivre l'exemple italien. Pas de « En même temps », mais plutôt un « Ni Ni » : Ni idolâtrie devant ces prouesses techniques, ni bannissement. L'objectif est, d'une part, de voir davantage de chercheurs français travailler dans ce domaine, quitte à le faire au sein de groupes américains :
La France a une carte à jouer. Parmi les géants numériques qui ont lancé certains des modèles d'IA, on retrouve souvent des Français à leur tête. Meta a installé en France un de ses principaux laboratoires de recherche en IA en Europe. Ce sont nos doctorants qui peuplent aujourd'hui les laboratoires de Meta. Il n'y a aucune raison que nous ne puissions pas développer à notre tour des modèles en France, avec des startups comme Dust.
D'autre part, de poser un cadre autour de ces nouvelles intelligences artificielles. Le ministre dit avoir saisi le Comité national d'éthique du numérique pour qu'il actualise ses analyses, après avoir déjà étudié le cas des chatbots il y a trois ans. Il y a ensuite le cadre européen qui doit jouer son rôle, dans la droite ligne de ce qui a été déjà fait avec le RGPD :
Je ne vais pas rentrer dans le détail, mais l'UE va fixer les usages pour lesquels l'IA va être interdite, par exemple la surveillance. Ensuite, les usages critiques comme la santé ou les transports pour lesquels des vies humaines sont engagées. Les fabricants d'IA devront alors subir un contrôle et un audit de leurs produits avant la mise sur le marché. Et enfin, les usages récréatifs.
Plaintes individuelles
À titre individuel, trois plaintes ont été déposées en France contre OpenAI. L'une émane de l'association Janus International, pour la sensibilisation aux enjeux du numérique. L'avocate Zoë Vilain notait l'absence de conditions générales d’utilisation proposées aux utilisateurs de ChatGPT sur le site d'OpenAI et l'absence de réponse de la startup dans les délais impartis pour sa demande d'accès à ses données personnelles.
L'autre est du développeur David Libeau qui a également porté plainte auprès de la CNIL et s'en explique sur son blog : « Manque de transparence, défaut de loyauté et absence apparente de base légale ». Trois points qu'il détaille :
- Les utilisateurs de ChatGPT ne sont pas informés que leur nom peut être enregistré dans le modèle de langage ;
- Les informations générées par ChatGPT peuvent être incorrectes, ce qui peut avoir des conséquences négatives pour les personnes concernées (il peut arriver qu'en interrogeant ChatGPT sur soi-même des faits farfelus soient retournés, ndlr) ;
- ChatGPT doit justifier la collecte, le traitement et l’utilisation des données personnelles des utilisateurs en conformité avec les lois et règlements applicables.
La dernière en date est du député Eric Bothorel (groupe Renaissance) qui a porté plainte aujourd'hui. Parmi ses griefs il y a les erreurs que peut commettre ChatGPT lorsqu'il répond à des questions sur des personnes et l'impossibilité de les faire rectifier, comme l'impose le RGPD.
En interrogeant ChatGPT sur sa biographie, l'outil a retourné une série de faits erronés sur le parcours professionnel du député — il n'a pas travaillé chez Orange ni chez Havas — et sur la circonscription qui l'a élu ou sur de prétendues fonctions de maire.
Bon je prépare mon VPN au cas où 🤨
Les gens… mais les gens… exténuant.
La France n’a aucun intérêt à se positionner sur le sujet puisque le gouvernement travaille à une IA permettant l’identification faciale des individus dans l’espace public en prévision des JO à venir.
@GtnDns
« le gouvernement travaille à une IA permettant l’identification faciale des individus dans l’espace public en prévision des JO à venir »
Bah voyons, juste que pour ça. 😒
Quand on a rien à se reprocher, on ne flippe pas de la sorte.
@iPop
Pas faux 🙂
@iPop Faux, ça c'est l'excuse de ceux qui veulent utiliser vos données pour en faire tout et n'importe quoi. Je n'ai rien à me reprocher et je refuse que qui que se soit utiliser mes données personnelles et encore moins l'image de ma tête. C'est pourquoi je n'ai jamais créé un compte sur FB par exemple, et je souhaite que Meta ferme d'ailleurs (comme d'autres). Et non je ne suis pas naïf, je sais que sur Internet une partie des données circulent, mais ça n'est pas une raison pour tout donner sans réfléchir.
Sérieusement… est-ce que les gens peuvent parler que de ce qu’ils connaissent… j’ai entendu onfray sur l’IA, c’est incroyable à quel point le mec raconte du c#c%. On dirait jancovici qui parle d’économie 🤪
C’est moi ou le nombre de brèles qui parlent d’IA sans rien y connaître est plutôt élevé en France?
@tsarsmirnoff
C’est vrai il y en a beaucoup.
Et même ceux qui s’y connaissent comme une doctorante, que j’ai entendu hier à la radio dire le bien qu’elle pense de l’IA même si elle dit qu’il est nécessaire de la réguler.
Et qui donne pour seul exemple de pouvoir sélectionner des CV à la place d’une RH… C’est juste flippant.
Mais est-ce pour cela qu’il ne faut pas regarder de près ce qui est en train de se passer.
C’est un changement que personne aujourd’hui est capable de mesurer (même openAI) tellement il est gigantesque.
Et le positif est tellement minime par rapport à tous les problèmes que ça générera.
@tsarsmirnoff
Je fais partie des brèles. Mais l’IA n’est elle pas entièrement basée sur l’exploitation de données sans autorisation ? Un peu facile de faire du fric en mode gangster.
@MGA
Quand tu lances une session, il est indiqué qu’ils ont accés aux données reçues à des fins d’études.
Donc l’utiliser et ensuite se la jouer caliméro….
@MGA
« Je fais partie des brèles »
Au moins vous avez l’humilité de l’admettre 🙂! Bravo à vous, car on est une infime minorité sur ce forum à admettre qu’on ne sait pas tout sur tout 🙂
@cecile_aelita
On est toujours le con de quelqu’un, ce qui n’empêche ni d’avoir une ou des convictions, ni d’avoir un point de vue ou un avis, ni d’avoir tord ou raison. Au fond tout ceci n’a aucune importance, soyons fous et vive la vie !
@MGA
100% d’accord avec vous !
Et c’est là que je dis que nous sommes une minorité comme ça 🙂.
Nous, nous donnons « notre avis » justement !
La majorité ici des « sachants » ne donnent pas leur avis .. ils dispensent la vérité et le savoir !
🤭
@tsarsmirnoff
C’est vrai. Presque 9 articles sur dix sont faux. Pour revenir à l’article, Chatgpt n’est pas un moteur de recherche… bonne chance pour la plainte… GPT ne comprends absolument rien au questions qu’on lui pose. C’est juste un moteur probabiliste qui calcul des hypothèses de réponse s basé sur un corpus qui lui a servi à être entraîné. Mais nos politiques sont trop ignares ou pressés pour au moins faire l’effort de comprendre….
@echarbon44
Nos politiques ont surtout l’air dépassé par la technologie (même ceux qui sont jeunes finalement)
Les politiciens, en France, n’ont absolument aucune vision sur le long terme. Je me souviens d’Arnaud Montebourg, du temps où il était ministre il me semble, avait dit qu’il fallait travailler dès à présent sur le téléphone de 2030…
@tsarsmirnoff
Oui car à l’époque ça vision était l’expansion des qualifications en ingénierie en France ou du moins dans les régions mais c’est l’inverse qui se produisit, on a tout bazardé au profit des américains ou chinois.
Voir l’histoire des panneaux solaires, encore une opportunité perdu. en aurait il une un jour ? L’article semble optimiste mais avais que c’est reparti pour un tour.
Moteur de recherche ou pas, il diffuse de fausses informations sur des personnes sans que celles-ci puissent les faire corriger. C'est contraire à la loi et aux réglementations européennes. Les plaintes sont légitimes.
De même que le fait qu'on ne puisse pas obtenir communication des infos personnelles colllectees ni demander leur suppression est contraire au RGPD.
Quant à la demande d'accord sur la collecte elle n'est pas explicite non plus. Contraire à nouveau au RGPD.
Quoi qu'on pense de GPT, OpenAI doit se mettre en conformité avec la loi. Point barre
@ r e m y
> OpenAI doit se mettre en conformité avec la loi. Point barre
100% d'accord.
Ceci dit, dans le monde du "business", les Etats ne sont souvent pas pressés à faire respecter la loi, et ce n'est pas nouveau. Je me rappelle un livre de Bernard Filoche ex (?) inspecteur du travail qui rapportait qu'un bon moyen pour aider les entreprises à ne pas respecter la loi consiste à baisser le nombre d'inspecteurs. Et c'est ce que nos gouvernements font depuis la fin du XXième siècle. Et ce n'est qu'un exemple. D'autres exemples plus récents concernent l'utilisation de l'eau. L'Etat est très actif contre les opposants aux "bassines", mais là où certains ne respectent pas la loi actuelle sur l'eau, il ne fait rien*.
(*) Pas envie - ni le temps là présentement de retrouver les détails. Mais c'est récent, et qui le voudra retrouvera ces détails.
@echarbon44
Bon résumé de ce qu’est vraiment ChatGPT. Merci.
@tsarsmirnoff
C’est une spécificité française qui n’est pas limitée au sujet de l’IA. Vu de l’étranger, les énormités qu’on entends dans les media français qui passent crème, on se demande s’il existe des fact-checkers dans les rédactions ?
« Il n'y a aucune raison que nous ne puissions pas développer à notre tour des modèles en France, avec des startups comme Dust. »
Bah si il n’y a aucune raison alors pourquoi c’est jamais en France ?
On a aucune boîte qui rivalise avec un GAFAM mais il n’y a aucune raison…
@Gotmilker
Quelle boîte rivalise avec un GAFAM ?
@Yoshi_1
« Quelle boîte rivalise avec un GAFAM ? »
Il fut une époque où la France avait encore son honneur avant de tout dilapider casher.
@Gotmilker
Peut-être parce que depuis quelques années Apple et Google, notamment, tuent la concurrence et l'innovation à coup de milliards.. Pour développer quelque chose? Non non poubelle juste l'histoire de bloquer et garder ses petits brevets.
@anonx
Ça n’a visiblement pas marché vu qu’Open AI est né et se développe pas mal. Ou alors c’est carrément faux, ce qui est bien plus probable…
les français…
oui comme vous dites, les français...
après ça fait plusieurs semaines que j'essaie de l'utiliser et ... c'est loin d'être une sinécure !
je vois beaucoup d'articles ou de vidéos qui parlent d'applications codées grâce à chatGPT mais c'est loin d'être un outil aussi formidable qu'on veut nous le prétendre en tout cas pour le dev, je ne compte plus le nombre d'erreurs qu'il m'a fait ou de conseils erronés sur la libraire react , l'utilisation des promesses et le pire c'est Redux, gros gros carton rouge là-dessus, je finissais pas trouver mes erreurs sur stackoverflow !
@Dimemas
GPT-4 est bien meilleur pour le code , j’attends surtout Copilot X qui a l’air très bon
c'est un outil pour se justifier (des magouilles qui vont venir). ce qu'ils ont fait dans le foot avec l'informatique. les mêmes gagnent plus facilement et sans contestation possible parce que la technologie est neutre (elle a pas de conscience) et ne fait pas d'erreurs exprès.
@Dimemas
+1
@Dimemas
Moi je m’en sers quotidiennement pour générer des textes et des exercices de français ! Et pour ça c’est un outil formidable… parce que c’est pas simple de trouver des idées de textes tous les jours pendant des années lol 🤭!
En tout cas ça me fait gagner un temps fou !!
Ma dernière utilisation très pratique, ça a été de faire des rallyes de lecture. Il me génère le texte pour mes CE2 et le QCM associé sur un thème que je lui demande 🙂. Très pratique aussi pour générer des exercices de transposition en étude de la langue ou encore générer des textes de dictée avec des contraintes du style « fais moi une dictée de 70 mots avec essentiellement des verbes de 1er groupe au futur » ou « fais moi une dictée de 65 mots avec des accords dans le groupe nominal » etc…
En tout cas… le gain de temps est formidable pour moi 🙂. Finis mes weekend à devoir imaginer et écrire des textes ! Je retrouve un peu de temps libre sur mon samedi 😋.
Il n’y a que des experts de l’IA sur MacG 😂
@VanZoo
Il y a des experts dans tous les domaines ici 😉!
L’IA n’est que leur spécialité du mercredi 😋, demain ils seront spécialistes dans la gestion de multinationales et vendredi dans la gestion d’un pays 🤭😋
Je ne suis pas un expert, je voulais voir si ça marchait, visiblement pas pour moi ^^
On est loin de la génération d’un texte dans mon cas ^^
Le problème est que chatGPT est basée sur des donnés d’avant 2022… or ça a pas mal bougé depuis
@Dimemas
Vous vous doutez bien que pour faire des dictées pour des CE2 ou des exercices sur l’accord entre le nom et l’adjectif … je me contrefiche que les données datent d’avant 2022 🤭!
J’ai fait avant hier un rallye lecture sur les animaux de la ferme, idem … 2022… c’est pas trop un soucis pour moi 🙂.
D’ailleurs ça m’a amusé (c’est de l’anecdote … mais j’ai trouvé ça très drôle 😋… je sais je suis une gamine dans ma tête… un rien m’amuse lol!).
Je lui disais :
« Génère moi un texte pour des CE2 sur la poule »
Génération du texte
« Génère moi un QCM sur ce texte avec 10 questions et 4 propositions par question »
Génération du QCM
J’ai recommencé plusieurs fois (c’est le principe d’un rallye lecture lol😋) sur : l’âne, le canard, le lapin etc …
Et au bout du 4eme texte … après la génération du texte … il me sort « je suppose que vous voulez que je vous génère le QCM associé à ce texte ? Toujours 10 questions avec 4 propositions à chaque fois? »
C’est tout bête, mais ça m’a fait rire 😋
@Cécile : jusqu'au jour où on vous remplacera parce qu'après tout s'il est en mesure de faire des dictées, des QCM et de faire de l'esprit, que vous reste-t-il ?
Qui sait ce que McKinsey aurait proposé à Blanquer (aujourd'hui à NDiaye) si le rapport avait été produit cette année.
Les contractuels c'est déjà une belle économie; vous remplacer par un agent conversationnel pourrait bien être la suite.
@barbe
C’est possible en effet 🙂.
A voir ensuite si le résultat de remplacer une personne par un outil fonctionne… peut être peut être pas, je n’aurais pas la prétention de l’affirmer ni de le contredire 🙂 (je laisse d’autre ici l’avoir cette prétention, certains sont très doué pour ça même 😋).
Seul l’avenir nous le dira 🙂.
Là où j’ai plus de doute c’est qu’on pourrait le faire dès à présent en donnant un manuel de maths et un manuel de français à chaque enfant et une personne qui ferait le tour de toutes les classes pour dire « aujourd’hui vous faites la page 5 et quand vous avez fini vous aller prendre la correction dans le casier »…
Bizarrement ça ne se fait pas 😉.
Sûrement aussi lié au fait que 70% de notre quotidien consiste à faire le gendarme lol, et que j’ai plus de doute encore sur la capacité de chatGPT à tenir une classe (vous parlez des contractuels justement, c’est le problème récurent de pratiquement tous les débutants justement 🙂 : tenir sa classe).
Mais bon, je dois probablement me tromper et ne pas savoir de quoi je parle 🙂.
@Cécile : "A voir ensuite si le résultat de remplacer une personne par un outil fonctionne… " Ce n'était pas vraiment l'objet de ma remarque. D'une certaine manière je répondais aux commentaires plus haut qui estiment que ceux qui émettent des réserves sur cet outil sont des rétrogrades qui ne comprennent rien à rien. Or on sait à l'instant t ce que cela donne, mais il faut aussi anticiper et se poser les bonnes questions : jusqu'où cela peut-il aller et est-ce souhaitable ?
Quand à la dernière phrase, vous auriez pu vous en passer. Ce n'est pas parce que certains vous assènent leur vérité à chaque commentaire que vous devez vous sentir agressée par tout un chacun. Vous êtes plus légitime que moi pour donner votre avis, bien que je connaisse quand même indirectement ce sujet.
@barbe
« Quand à la dernière phrase, vous auriez pu vous en passer. Ce n'est pas parce que certains vous assènent leur vérité à chaque commentaire que vous devez vous sentir agressée par tout un chacun. Vous êtes plus légitime que moi pour donner votre avis, bien que je connaisse quand même indirectement ce sujet. »
Vous n’êtes pas sans savoir que vous n’êtes pas le seul qui lirez ce commentaire 🙂.
Donc vous peut être avez l’intelligence de le comprendre ça … mais vous êtes loin d’être une majorité … donc j’anticipe les autres commentaires !
Si vous vous êtes senti visé à tort par mon commentaire, alors je vous présente mes excuses 🙇♀️🙏.
@ barbe
Dans ce dialogue avec @Cécile je plussoie: ici les compétences en "intelligence artificielle" sont bien moins importantes que celles sur l'apprentissage, la psychologie, la pédagogie. Les enfants ne sont pas des bouteilles vides qu'il s'agirait d'emplir de connaissance, mais dans ce processus, bien d'autres éléments essentiels font partis du process (désirs, valeurs, imaginaires...)
Donc oui les experts (en intelligence atificiel) sont indispensables mais juste pour permettre les experts en éducation/pédagogie qui eux aussi sont là pour permettre monsieur tout le monde (dans un débat éclairé) de décider de l'éducation de nos enfants (de la bonne marche de notre société)
@ barbe : ça vaaaaaaa, elle parle de juste générer un texte aléatoire pour des enfants, on est loin de la correction des copies ou d'un cours créé par une IA quand même :)
et d'ailleurs ça me ferait peur qu'une IA apprenne des choses à mes enfants car elle est modelée par un algorithme créé par des individus, imaginez une IA négationniste etc ?
@Dimemas
Il pourra vous répondre qu’un enseignant peut être négationniste aussi 🤭!
Après tout dépend de son niveau d’attachement à son rôle de « gardien de la république ». Personnellement je sais que le devoir d’exemplarité est quelque chose qui me tient particulièrement à cœur, mais en effet, je ne dis pas que 100% des collègues ont cette conviction 🙂.
@Dimemas&Cécile : Vous vous trompez. A travers cet exemple, qui n'est qu'un exemple, je cherche à montrer que l'on va vite, j'aurais tendance à dire trop vite, et que l'on ne voit que la partie émergée de l'iceberg. Considérer cet outil avec un regard bienveillant parce qu'il fait gagner, pour le moment, un peu de temps, sans penser à son potentiel de destruction futur, c'est, je crois, faire preuve de légèreté et de naïveté.
Est-ce que ça parait crédible aujourd'hui de remplacer un professeur des écoles par un tel outil ? Bien évidemment que non. Est-ce que certains petits malins ne vont pas s'en saisir pour proposer un protocole permettant de réduire le nombre d'enseignants en prétextant un gain de temps ? Rien ne permet de l'affirmer.
Ca me fait dire que ce que "J'en_crois Pas_mes yeux" explique est juste et nous partageons tous ici, je pense, le fait qu'un enseignant n'est pas une machine à remplir les enfants de connaissance (qui de toute façon deviendra inutile puisque GPT à toutes les réponses n'est ce pas ?). Maintenant tout le monde n'est pas animé de si bonnes intentions et il suffit de lire le rapport McKinsey pour le comprendre.
@barbe
« Est-ce que certains petits malins ne vont pas s'en saisir pour proposer un protocole permettant de réduire le nombre d'enseignants en prétextant un gain de temps ? »
Je vous rassure … ils n’ont pas besoin de prétexter quoi que ce soit pour ça 😅. Ça fait des années qu’ils les réduisent sans la moindre justification… donc ça serait presque un progrès si ils font ça 🫤.
@Dimemas
Je me doute que pour ceux qui vont plus loin que ce que j’en fais c’est pas l’outil idéal 🙂. Mais pour ce sur j’en fais moi, c’est vraiment pratique et ça me fait gagner énormément de temps 🙂
ah tu m'étonnes ^^ !
@Dimemas
Après tout c’est le but d’un outil de faire gagner du temps 🙂.
Sinon on peut demander aux ingénieurs d’abandonner leurs ordinateurs et de tout faire sur papier et tout calculer à la main … mais est ce une plus-value … moi j’en doute 🙂
Il fut une époque, pas si lointaine, où bon nombre de français étaient devenus des experts en virologie. La culture/connaissance c’est comme la confiture. Moins on en a, plus on l’étale.
@codeX
+100
Pages