Les IA crient famine dans leur recherche de nouvelles données à moissonner
Les données textuelles, sonores et vidéos sur internet sont une ressource vitale pour les moteurs d'intelligence artificielle. ChatGPT, Gemini et leurs concurrents ont besoin de récupérer d'immenses volumes d'informations pour gagner en précision. Des besoins qui se heurtent à des questions de droits d'accès et de disponibilité de ces ressources.
Vers la fin de 2021, OpenAI, le créateur de ChatGPT, s'est retrouvé face à un problème d'approvisionnement en données, raconte le New York Times dans un article sur la quête éperdue de Microsoft, Google, Facebook, mais aussi Apple pour trouver, avaler et traiter toujours plus d'informations.
IA : Apple aurait passé un contrat avec Shutterstock pour utiliser sa banque d’images
Ces systèmes d'intelligence artificielle construisent leurs réponses sur la foi de bases de connaissance. Plus elles sont importantes, d'origines variées et de qualité élevée, plus ces réponses gagnent en précision. OpenAI a alors constaté qu'il avait déjà avalé tout ce qu'il était possible de trouver comme contenus textuels fiables en langue anglaise.
Pour continuer d'entrainer la version suivante de son moteur, GPT-4, il lui en fallait (beaucoup) plus. Un an plus tard, OpenAI lançait Whisper, un outil de transcription de pistes audio en texte. OpenAI s'en servit pour traiter notamment les vidéos de YouTube et faire grossir son index d'une nouvelle masse de données.
Transcription audio : énorme amélioration de performances pour Whisper sur Mac
Plus d'un million d'heures de vidéos YouTube furent analysées par Whisper, d'après les sources du New York Times et il fut utilisé également sur des podcasts et des livres audio. Les employés d'OpenAI savaient qu'ils s'aventuraient dans une zone grise en matière de droits d'utilisation. L'exploitation de vidéos YouTube par ce biais peut être considérée comme illégale, mais il y a une part laissée à l'interprétation de ces conditions d'utilisation.
Officiellement, Google a déclaré n'avoir eu aucune connaissance des pratiques d'OpenAI, mais d'après les contacts du quotidien, il était parfaitement au fait de cette moisson réalisée par OpenAI. Google ne s'en est pas ému davantage, car lui-même avait puisé dans ce contenu pour entrainer son moteur. En sermonnant publiquement OpenAI il risquait de se retrouver en porte-à-faux face à ses créateurs sur YouTube.
Pour éviter toute mésaventure, Google a ensuite revu les conditions d'utilisation des contenus publics produits par ses services Google Docs, Sheet et Slides afin d'autoriser leur exploitation pour l'entrainement de moteurs d'IA.
Lancé dans la même course initiée par OpenAI et son partenaire Microsoft, Meta s'est rapidement retrouvé au pied du même mur : plus assez de données. Plusieurs pistes furent discutées, comme d'acheter Simon & Schuster, l'un des plus gros éditeurs au monde afin d'avoir accès à ses livres, lesquels contiennent des données considérées comme fiables.
D'autres chez Meta proposèrent de payer jusqu'à 10 $ par livre pour en obtenir tous les droits. Certains expliquèrent qu'ils avaient déjà résumé des livres, des essais et d'autres travaux trouvés sur le web, sans autorisation et qu'il était possible de continuer à en aspirer davantage, quand bien même il y avait des risques de procès (le New York Times a attaqué OpenAI et Microsoft pour cette même raison).
Un avocat de Meta fit valoir que cela posait un problème éthique, mais sa remarque fut accueillie par un silence des autres participants. Négocier des droits implique de longues discussions et ces protagonistes de l'IA courent un marathon à la vitesse d'un sprint. Lors de ces échanges, il fut aussi expliqué que des contractuels en Afrique avaient été payés pour compiler des résumés de contenus de fiction et de non-fiction, dont certains étaient protégés par des droits d'auteur. Ces moissonneuses ratissent large et ne font pas de tri entre ce qui peut être pris et ce qui ne doit pas l'être.
Meta n'est pas en manque de contenus avec ses réseaux sociaux, toutefois cette masse n'est pas nécessairement d'une grande qualité ou utilité. Au bout du compte, le problème numéro un reste le manque de données utilisables et suffisamment qualitatives pour faire progresser ces moteurs. On parle actuellement de l'utilisation de volume équivalent à plusieurs centaines de milliards de mots.
Mais pour franchir un nouveau cap dans l'amélioration de ces intelligences artificielles, il faudrait faire un bond en quantité de données pertinentes indexées : l'offre est dépassée par la demande.
Une piste étudiée est de faire en sorte que ces IA produisent de nouvelles données à partir de celles qui sont déjà en leur possession. Des données dites "synthétiques". Avec le risque que ces IA finissent par tourner en circuit fermé et ne fassent qu'accentuer des biais ou des erreurs qu'elles font déjà avec les informations dont elles disposent.
Famiiiiiiiiiiiiiine !
Dédicace à ceux qui ont la réf !
La cigale de La Fontaine, dans l'interprétation de Jean Yanne ?
@Oncle Sophocle
T’es parti loin ^^
@CyanRealDamselfly
Y’a des jours où vous avez envie de jeter l’éponge ? De jeter l’ancre ?
@cecile_aelita
Ah au moins une qui l’a merci !
@CyanRealDamselfly
https://media1.giphy.com/media/NRW2yP1aoYTsY/giphy.gif?cid=6c09b952o6nvs...
@CyanRealDamselfly
Gad ?
@kiddsoso
Good !
En fait on attend quoi d’une IA ? Qu’elle régurgite des choses existantes légèrement modifié pour pas faire plagiat ou que ça invente des choses d’elle même via le mot intelligence de IA ?
On verra ce que l’avenir nous réserve
@SIMOMAX1512
Ça c’est toujours la même musique, déjà il ne faut pas oublier qu’il faut que cela rapporte des tunes à un moment donné.
Après, à la base, c’est un outil, une idée top.
Et puis après y’a les gens -et entreprises qui embauchent des gens-, qui vont l’utiliser.
Tant que c’est gratuit le développement ira là où les gens en feront l’usage.
Souvent au début celui pour lequel cela était pensé, puis, généralement très vite après,de la belle m*rd qui sert à rien pour faire comme les autres.
Mais pour le coup cette fois ci, ça sera peut être la dernière, qui sait, le futur le dira.
@ SIMOMAX1512
> que ça invente des choses d’elle même via le mot intelligence de IA ?
C'est là que l'on voit que l'utilisation du terme IA est trompeur.
Car ces IA ne sont en aucun cas "intelligentes".
Ce sont des "machines statistiques". Et comme le rappelle l'article, sans données externes "compilées", et pas n'importe quelles données, mais des données "fiables", ces "IA" ne sont capables de rien.
Elles ne font que fournir un résultat statiquement probable compte tenu des données.
Si ces données sont foireuses ou biaisées, le résultat le sera aussi. Or
l'IAles développeurs de ces IA présentent ces résultats de manière malhonnête et trompeuse comme s'il était sûr et certain.Même dans Wikipedia, un machin fabriqué par un humain peut être considéré comme "intelligent" : "certains outils informatiques (apprentissage automatique, intelligence artificielle) font preuve d'intelligence"...
@ Oncle Sophocle : Pour une fois que l'article de Wikipedia ne raconte pas trop d'âneries, il faudrait reproduire la citation sans la tronquer :
« La définition de l'intelligence ainsi que la question d'une faculté d'intelligence générale ont fait l'objet de nombreuses discussions philosophiques et scientifiques. L'intelligence a été décrite comme une faculté d'adaptation (apprentissage pour s'adapter à l'environnement) ou au contraire, faculté de modifier l'environnement pour l'adapter à ses propres besoins. Dans ce sens général, les animaux, les plantes (intelligence primaire faite d’instinct et de réflexes conditionnés) ou encore certains outils informatiques (apprentissage automatique, intelligence artificielle) font preuve d'intelligence. »
D'après la définition générale de l'intelligence qu'on donne ici, celle des machines est citée au même titre que celle des plantes. On est donc loin d'affirmer qu'il y aurait une similitude avec l'intelligence humaine.
Le problème, c'est qu'il n'y a rien d'intelligent dans Intelligence Artificielle. C'est juste un programme qui régurgite des données, assemblées par un algorithme.
@ Artefact3000 : c'est quand même un peu plus compliqué que ça.
Certaines IA sont capables de produire des données qui n'ont jamais été entrées dans la machine, notamment par des inférences basées sur des règles établies, par extrapolation des données ayant servi à construire le système, ou grâce à celles acquises et traitées automatiquement par ce dernier après sa création.
Selon le cas, les résultats produits peuvent être exacts (raisonnements logiques rigoureux) ou seulement vraisemblables relativement aux connaissances (limitées) de la machine (et donc potentiellement erronés).
Ainsi, les capacités des IA peuvent s'avérer spectaculaires... au sens littéral du terme.
Mais on est d'accord, cela reste insuffisant pour parler d'intelligence, dans le sens où on l'entend quand on évoque celle des humains.
Skynet
@Florian Innocente
"données utilisables et suffisamment QUALITATIVES..."
Pitié... Pas vous !...
@zoubi2
?
L'adjectif « qualitatif » ne qualifie pas ce qui est « de bonne qualité », mais ce qui est relatif à la qualité, généralement par opposition à ce qui est relatif à la quantité.
Ainsi, en bon français, une « donnée qualitative » ne désigne pas une « bonne » donnée mais une donnée qui ne peut être comptée ou mesurée.
Par exemple, la santé d'une personne est une donnée qualitative (ce qui n'empêche pas que cette santé puisse être mauvaise).
@PA5CAL
Certes, mais le français évolue (sous l’influence d’autres langues) et ce sens est en train de s’installer.
Même si c'est ce qu'on ce constate, cela ne signifie pas que ce soit une bonne chose.
Le fait est que la langue écrite et parlée sur nos médias de masse a connu des évolutions rapides et importantes au cours de ces deux dernières décennies, tantôt sous l'influence d'une langue étrangère (majoritairement anglaise, hégémonie américaine oblige), tantôt à cause d'erreurs de langage répétées ad nauseam.
Le problème, c'est que cela a notamment conduit à des glissements sémantiques qui ont rendu incompréhensibles nombre de termes et d'expressions. Manifestement, de nombreux jeunes en ignorent la plupart des significations usuelles, et certains plus âgés ont fini par les oublier.
Par exemple, depuis plusieurs années je suis assez régulièrement confronté à des contradicteurs qui ne parviennent pas à saisir le fond de mes propos ni à interpréter correctement les textes (pourtant souvent récents) sur lesquels ils basent leurs arguments. On m'accuse aussi parfois d'utiliser des mots qui ne sont pas français. Dans ces situations, je les renvoie aux définitions données par les dictionnaires en ligne sérieux, tels que le Larousse ou le dictionnaire de l'Académie Française.
L'usage récurrent de ce français « moderne » par les politiques, propagandistes et autres communicants ayant eu bien trop souvent tendance à produire des confusions ou des incompréhensions opportunes pour ne pas avoir été délibéré, on en est même venu à qualifier ce langage de « novlangue » (en référence au roman « 1984 » de George Orwell).
Or, c'est en succombant à ces changements qu'on les encourage. Et la conséquence, c'est qu'on participe au déclin de notre mémoire collective et de notre culture en altérant outre mesure un langage qui permet au commun des mortels de continuer d'en appréhender la teneur, l'esprit et l'intelligence.
D'où le : « Pitié... Pas vous !... ».
@PA5CAL
Merci 😀😘.
comment ça se brancher sur Twitter c'est pas assez qualitatif?? 🤣
donc en résumé si on fait une IA branché sur Twitter on obtient un gloubiboulga de haine et de fake News
par contre si on la branche sur Facebook on obtient un gloubiboulga de chats 🐱
je veux une IA spécialisée dans les chats !!!!! 🐈
@raoolito
Et de postes macho aussi... Je crois que FB m'a catégorisé comme vieux boomer à force de traîner dans les groupes de pilotes... 😅
L’avocat de Meta qui évoque un problème éthique 😵💫 il travaille encore pour Meta ?
Parce que Meta et éthique ça va pas vraiment ensemble.
@PtitXav
> "Meta et éthique ça va pas vraiment ensemble."
Méta-éthique ?
(Ce n’est pas qu’une boutade. En méta-éthique, la position non-cognitiviste soutient que des jugements moraux ne peuvent être vrais ou faux, puisqu’il n’existe pas caractéristiques morales objectives. C’est, je crois, le fonds de commerce de FaceBook.)
Et ils s'aperçurent que le monde numérique n'était pas un open bar et que dans cette course aux grands modèles (plus d'argent, plus de paramètres, plus de puissance de calcul, plus de données), et bien les données qualitatives ont une valeur supérieure au reste et qu'elles ont un coût.
"Un avocat de Meta fit valoir que cela posait un problème éthique, mais sa remarque fut accueillie par un silence des autres participants. Négocier des droits implique de longues discussions et ces protagonistes de l'IA courent un marathon à la vitesse d'un sprint. Lors de ces échanges, il fut aussi expliqué que des contractuels en Afrique avaient été payés pour compiler des résumés de contenus de fiction et de non-fiction, dont certains étaient protégés par des droits d'auteur."
Où l'on voit résumer dans cet extrait tout le problème de la Silicon Valley, de la tech en général, et d'une grande partie du milieu de l'IA actuellement. Leur seul horizon, au-delà de l'ingénierie et du développement de modèles performants, c'est de rapidement devenir l'un des leaders pour ramasser la mise financière?
Ils ne peuvent concevoir qu'ils font également parti de la société, avec des responsabilités et qu'ils ont aussi un rôle politique important, avec des considérations éthiques, juridiques… à avoir.
Piller des auteurs, des bibliothèques… pas grave. On verra après.
Exploiter des petites mains à l'autre bout du monde, dans des conditions vraiment pas terribles pour faire le sale boulot de catégorisation et de préparation des données d'entrainement, fermons les yeux.
Si l'on récupère de la merde et en produisons autant, sans parler des hallucinations, tant qu'on nous tape pas sur les doigts, continuons.
Alors certains, les plus gros, signerons finalement des accords et licences d'exploitation, respecteront les législations qui commencent à se mettre en place (ne tuons pas notre business) en clamant qu'ils aiment l'éthique, les auteurs, respectent le droit.
Mais les plus petits, les plus vénaux, les moins attentionnés (par idéologie, politique,etc.) eux, ne s'embêteront pas avec ces considérations. Ils produiront encore plus de merde, utiliserons des données synthétiques, inonderont le web et l'univers numérique de ces contenus bas de gamme produits par l'IA. Et il va être impossible de lutter contre cela, à moins de dépenser énormément d'argent (et donc de rendre payant) ces services et les silos.
Cela a d'ailleurs déjà commencé, le tonneau des Danaïdes numériques est déjà percé.
Merci d'avoir pris le temps d'écrire ce commentaire. On se sent moins seul à dire notre mécontentement par rapport à cette séquence technologique ahurissante qui s'est ouverte.
@vincentn
> "ils s'aperçurent que le monde numérique n'était pas un open bar"
Un avocat de Meta entre dans un bar.
Le robot lui sert un sérum de vérité. Le sérum fait à l’avocat l’effet d’une purge.
Ce qui reste de l’avocat est mis sous pli et glissé dans une boîte à lettres : retour à l’expéditeur.
Le pli est intercepté par US Postal Service. Une procédure est intentée contre Meta. Motif : Mail Fraud.
@vincentn
À voir comment Apple va géré ça suivre ou faire différemment
On ne leur doit rien. Notre travail artistique et littéraire n'a rien à faire dans leurs modèles d'entrainement, et j'espère qu'un maximum d'industries vont refuser jusqu'au bout de leur céder leur propriété intellectuelle. Attention MacG, dans votre complaisance à ces outils vous vous tirez une balle dans le pied, bientôt on aura toustes notre petit Copilot/Siri/Gemini qui nous racontera l'histoire d'Apple et des entreprises hi tech. Merci de nous informer cela dit !
@hartgers
Trop tard. La boîte de Pandore est déjà grande ouverte. La question n’est plus quand (nous vous autoriserons à prendre une licence d’exploitation), mais combien (voulez-vous nous payer) ?
Ces grosses boîtes ont mis devant le fait accompli. Ils ont pillés, se sont servis, ont grossi (avec le puit sans fond(s) des investisseurs avides de ne pas louper la nouvelle révolution et culbute financière).
Les auteurs, au sens large, sont trop faibles et exsangues pour se battre.
Soit tu fais un procès (qui va durer des années et va coûter une fortune : seul des gros aux reins solides peuvent se le permettre, type New York Times).
Soit tu fais confiance au collectif, à la loi et aux politiques. Cela va durer des années, les politiques (coucou la France) te feront des coups tordus, il y aura des recours, et une bonne partie des auteurs membres du collectif seront entre temps au tapis, les survivants ramassant des clopinettes des années plus tard.
Soit tu es un acteur moyen, tu sais que tu es déjà perdant dans l’ensemble, mais en négociant maintenant tu limiteras un peu les dégâts, récupéras plus rapidement un peu plus d’argent plus quelques autres menus avantages au lieu d’attendre des années comme le reste de ton secteur mais qui sont aussi tes concurrents. Ce qui assurera ta survie voir même te permettra de rester rentable et de te developper un peu. Et si tu ne le fais pas maintenant, un de tes concurrents le fera, lui et signera à ta place.
Sachant qu’un ou deux acteurs seulement par langue signeront avec ces boites d’IA (avant les contraintes légales qui apparaîtront), autant que cela soit toi.
Les boites d’IA le savent pertinemment. Et jouent sur ça pour avancer sur ce terrain (plus leur intense lobbying politique et leur armée d’avocats).
Oui, Le Monde a déjà craqué en échange d'un beau chèque. Je n'ai que peu d'espoir dans la capacité de résistance de la société et du législateur. En revanche, je suis assez confiant sur le fait que les êtres humains apprécient et apprécieront toujours de créer, fabriquer, écrire, composer, assembler, construire, etc. avec leurs cerveaux, leurs sens et leurs corps.
Le modèle du capitalisme néolibéral où nous sommes toustes concurrents et concurrentes, où tout se technicise jusqu'au ridicule, ira jusqu'au bout de son concept morbide, et on en reviendra à apprendre des livres par cœur comme dans Fahrenheit 451.
Il y aura toujours des données qui leur échapperont, ils n'auront jamais ce qui fait de nous des êtres vivants créatifs. Mais j'ai bien conscience que ce romantisme ne nous empêchera pas d'aller droit dans le mur avec ces nouvelles technologies...
@hartgers
Je pensais à eux 😉
Oui, nous aurons toujours cette volonté, ce plaisir…
Le traitement de texte, les lecteurs de livres numériques n’ont pas retiré le goût de certains d’écrire à la main, au stylo plume ou autres, d’annoncer dans les marges d’un livre papier.
La standardisation dans l’électronique n’a pas enlevé le goût du bidouillage, du fer à souder… la technologie apportant même de nouvelles facilités.
Le pain industriel n’a pas enlevé le goût du bon pain fait par un artisan boulanger ou par soi-même.
IKEA n’a pas fait disparaître les facteurs de meubles et les menuisiers.
YouTube par exemple regorge de chaînes dans tous ces domaines et bien plus encore.
Le souci, c’est que ces choses deviennent un luxe, car elles nécessitent du temps, des connaissances, des moyens… qui limitent ceux qui pourront encore se le permettre.
La démocratisation des outils est une vraie chance de notre temps. Notre niveau technologique est tout à fait honorable et satisfaisant dans l’ensemble. Les nouveaux outils basés sur l’IA vont apporter à tout le monde la possibilité de produire des textes, sons et images qui étaient peut-être hors de portée auparavant. Je pense aussi qu’il y a un réel bénéfice pour toutes les personnes porteuses d’un handicap, et c’est une bonne chose. Tout comme vous je pense que le risque est de nouveau la fragmentation de l’offre entre celles et ceux qui auront accès à de vrais contenus humains, de grande qualité, et celles et ceux à qui on servira de la soupe IA du matin au soir. Nous sommes passés sans crier gare du cinéma à la télévision à TikTok, chaque étape étant plus addictive, moins chère et de moins bonne qualité (moins bonne qualité dans le sens « cheap » et non dans le sens « ces contenus sont sans intérêt », ce n’est pas à moi d’en juger), mais plus accessible. Ce qui me désole c’est que notre éducation aux médias est très faible et n’apparaît pas dans les classements PISA ou les préoccupations éducatives. Pourtant ce serait salutaire de savoir correctement lire une image, écouter, prêter attention aux détails…
À la fin, comme vous dites, accéder à de l’art de bonne facture va être d’autant plus difficile que le l'océan IA va nous submerger. Il est temps de lâcher ces engins technologiques je le crains, c’est dommage j’aimais bien.
Je me demande combien de temps avant que l’on s’aperçoive que copilot pille One drive.
Et la c’est de la bonne Data.
Celle des entreprises
C’est bien rangé
Catégorisé.
Cela va être drôle le jour une IA arrivera à « obfusquer » ses sources pour ne pas se faire pincer.
Bienvenue dans le futur !!’
@ gillesb14
> Cela va être drôle le jour une IA arrivera à « obfusquer » ses sources
C'est déjà le cas, "par construction".
ChatGPT, pour ne prendre que cet exemple, est incapable de donner ses sources ni d'expliquer quoi que ce soit quant à ses résultats.
@gillesb14
Idem avec github. Je comprends toujours pas toutes ces entreprises qui filent leur code source a MS et qui en plus PAIENT pour ca !!!
La meilleure des choses pour l’humanité : la fin d’internet !
@manudlp101
oui mais du coup on pourra plus lire vos commentaires éclaires :)
@raoolito
Vous confirmez donc.
@DahuLArthropode
😂😂😂
@manudlp101 : Montre nous l'exemple. Bon vent ! Bisous.
En tout Merci iGeneration pour l’info sur Whisper, c’est vraiment un super programme que j’utilise très régulièrement pour des enregistrements de conférences, de coaching, 👍🙏😃 !
> Google ne s'en est pas ému davantage, car lui-même ...
On appelle cela de la connivence entre complices.
Les gars qui se sont sérieusement imaginé qu’en achetant des éditeurs ils auraient le droit d’utiliser leurs livres pour alimenter leurs IA… 😅
Eeeeh non ! Car les auteurs ont des CONTRATS et dans ces contrats il n’est fait nulle mention de ce genre d’usage. Donc il faudrait de toute façon renégocier avec chaque auteur.
Du coup : autant organiser un pillage systématique de toutes les données sous copyright ou droits d’auteur, Meta et les autres auront bien le temps de voir s’il y a procès ou pas. T’façon, un procès - même de la part d’un État ou de l’Europe - coûtera toujours moins cher que ce que l’IA devrait leur rapporter, et on parle de procédures qui durent des années. Pourquoi devraient-ils s’en soucier maintenant ?
L'Auteur, ce grand gêneur de faire du pognon
bah, bientôt, on aura des machines pour s'en débarrasser.
Pour éviter toute mésaventure, Google a ensuite revu les conditions d'utilisation des contenus
C'est bien légal ça, de changer ces conditions d'utilisation en cours de route pour en fait tenter de transformer une activité illégale en activité légale ?
Après que des millions de vidéos aient été partagées avec YouTube ?
@marc_os
Si tu cliques sur « j’accepte les nouvelles conditions », sans doute que oui ?
@ Vanton
Je parle des conditions au moment ou untel a envoyé sa vidéo sur YouTube.
Où ils n'était pas question à priori d'abandon complet des droits d'auteur par chaque auteur.
Cf. le commentaire de Oliviou ce jour à 14:00
Pages