Le cri d'alarme sur les dangers de l'IA lancé par Wozniak et Musk tape à côté du problème
On pouvait s'en douter, c'est désormais confirmé : la lettre ouverte demandant une pause dans le développement des IA signée par Steve Wozniak et Elon Musk est un gros bazar. Publiée en début de semaine, celle-ci s'inquiète de l'impact des IA génératives style GPT-4 sur nos sociétés, et demandait à ce que plus de précautions soient prises pour leur développement.
seems there's no verification on signing it haha pic.twitter.com/ItMCKsZ0Hk
— Martian (@space_colonist) March 29, 2023
L'association ayant publié la lettre a visiblement été quelque peu laxiste sur la validation des signataires. Le Future of Life Institute a confirmé à Motherboard vérifier indépendamment chaque signature, en entrant en « communication directe » avec les personnes concernées. Or, on a pu voir passer le nom du président chinois Xi Jinping ou celui du chef de l'IA de Meta, qui affirme n'avoir rien signé. Les noms ont depuis été effacés, mais cela montre bien que cette histoire partait sur de mauvaises bases.
GPT-4 : Steve Wozniak et Elon Musk demandent une pause dans le développement de l'IA
Les sources citées par le papier se sont rapidement manifestées pour démontrer que l'analyse était à côté de la plaque. Emily M. Bender, professeur au département de linguistique de l'université de Washington et co-autrice du premier article cité dans la lettre, explique que le texte fait un mauvais usage de ses recherches en surinterprétant et en omettant certains éléments. Ses écrits pointent un danger en cas de concentration du pouvoir et des dégâts sur l'écosystème de l'information. Elle ajoute que contrairement à ce qu'affirme la lettre, « les risques et les préjudices n'ont jamais été liés à une "IA trop puissante" ». De son côté, la chercheuse Sasha Luccioni y voit un coup fourré :
Il s'agit essentiellement d'une diversion : attirer l'attention de tous sur des pouvoirs et des préjudices hypothétiques des modèles de langage et proposer un moyen (très vague et inefficace) d'y remédier, au lieu d'examiner les problèmes actuels et y répondre - par exemple, en exigeant plus de transparence en ce qui concerne les données et les capacités de formation des modèles de langage, ou en légiférant sur le lieu et le moment où ces outils peuvent être utilisés.
Un point de vue partagé par d'autres chercheurs. Arvind Narayanan, professeur d'informatique à Princeton estime que si ces craintes sur le long terme sont valides, « elles ont été utilisées à plusieurs reprises de manière stratégique pour détourner l'attention des dégâts actuels », y compris des risques en matière de sécurité et de sûreté de l'information.
This open letter — ironically but unsurprisingly — further fuels AI hype and makes it harder to tackle real, already occurring AI harms. I suspect that it will benefit the companies that it is supposed to regulate, and not society. Let’s break it down. 🧵https://t.co/akQozgMCya
— Arvind Narayanan (@random_walker) March 29, 2023
L'idée de la lettre suggérant de faire une pause de 6 mois a été considérée comme une réponse bancale face aux problèmes actuels. Le texte invite à cesser temporairement le développement de modèles plus puissants que GPT-4. Or, celui-ci apporte déjà tout un tas de soucis : pourquoi ne pas commencer par s'alarmer de ceux-là ?
La lettre a été pourtant signée par des pointures du domaine : Steve Wozniak, l'auteur Yuval Noah Harari, le co-fondateur de Pinterest Evan Sharp mais aussi… Elon Musk. Si celui-ci veut montrer qu'il s'inquiète d'une potentielle perte de contrôle des IA, Forbes avance une théorie intéressante pour justifier cette signature : Musk serait tout simplement frustré d'avoir retiré ses billes dans OpenAI et de regarder le train passer.
OpenAI a été fondée en 2015, et Musk a participé aux levées de fonds initiales. Trois ans plus tard, l'homme d'affaires claque la porte, estimant que le projet n'avance pas assez vite. En coulisses, Musk aurait demandé à l'actuel CEO de prendre les manettes d'OpenAI pour donner un coup de fouet à son développement, mais l'idée a été refusée. Elon Musk quitte au passage le conseil d'administration de l'association. « Il continuera à faire des dons et à conseiller l'organisation », explique OpenAI dans un billet. « Comme Tesla continue à se concentrer sur l'IA, cela éliminera un conflit potentiel futur pour Elon ». OpenAI ne deviendra une entreprise que quelques temps plus tard, avec le succès qu'on lui connait.
En ayant ça en tête, la signature de cette tribune par Elon Musk prend un autre sens. Difficile de dire où en est Tesla côté IA, et rien ne laisse à penser que l'entreprise a dans ses cartons des avancées aussi grandes que celles d'OpenAI. Une pause de 6 mois pourrait permettre à Musk de rattraper une partie de son retard, ou tout du moins à mettre des bâtons dans les roues de ses adversaires.
Pour suivre le domaine et l'utiliser, je pense aussi qu'il faut mettre la holla : l'évolution de l'IA est plus qu'exponentielle. Il faut prendre du recul...
@mimolette51
Peureux
@TrollMan06 Et sur les trolls...
Ahahah, parce qu'on peut maitriser internet maintenant ? C'est trop tard.
@mimolette51
On dit « le holà »
Le parti prit
@UraniumB
> « Le parti pris »
On découvre tous les jours le rôle des journalistes… MacG n’est pas une encyclopédie de l’Académie française… et celle-ci a encore plus de « partis pris » plus radicaux et brutaux que MacG…
Le simple fait d’écrire des articles se focalisant sur l’actualité Apple & technologie est un « parti pris », comme pour la totalité des médias du monde.
La « Vérité » et encore moins l’« Objectivité » ou la « Neutralité » absolues n’existent pas, les désirer est un réflexe religieux et/ou totalitaire… seules l’éthique, l’honnêteté, la franchise et la transparence peuvent être plus ou moins poursuivies et désirables, et de même elles n’existent pas de manière absolues, ce sont des objectifs à poursuivre.
Sinon nous sommes des cailloux et même des cailloux doués de réflexion perdraient instantanément la vérité, l’objectivité et la neutralité…
@Lu Canneberges
Non je suis d’accord avec Iranium ici. L’article est nul et ne fait que répéter ce que d’autres média ont déjà dit en se focalisant sur qui a signer et pas sur le fond. C’est malheureux que Musk est signé car du coup les gens ne parlent que du fait que Musk ait signé et qu’il est naze etc. On s’en fiche, c’est pas le problème…
Éthique, légalité, copyright, propriété intellectuelle, etc. Etc. C’est ça le but de la lettre (oui elle est mal écrite et candide sur les 6 mois, mais encore une fois, ce n’est pas le propos.)
« L’article est nul et ne fait que répéter ce que d’autres média ont déjà dit en se focalisant sur qui a signer et pas sur le fond »
C'est quand même important de savoir qui a signé et pourquoi. Elon Musk a un intérêt financier dans l'histoire. Par ailleurs, concernant le fond, on a déjà parlé (et on continue) d'en parler : https://www.macg.co/logiciels/2022/12/dall-e-stable-diffusion-22-des-ia-qui-soulevent-de-nombreuses-questions-133123
« oui elle est mal écrite et candide sur les 6 mois, mais encore une fois, ce n’est pas le propos »
Bin… c'est quand même un peu dommage non ? C'est censé être signé par des gens qui sont calés sur le sujet et la lettre est écrite n'importe comment avec de fausses solutions et en reprenant mal un papier scientifique ? Ça jette un gros discrédit sur l'ensemble de ce projet…
@MickaelBazoge
Merci pour la réponse.
Savoir qui a signé ou pas est important mais la lettre l’est tout autant. Ce que je reproche à l’article c’est d’être resté flou sur le fond et d’avoir axé le gros du post sur le côté people. On s’éloigne du problème et du pourquoi de la lettre. Musk est signataire mais pas celui qui a écrit ou poussé la chose. Et à cause de la mauvaise presse du Mr en ce moment, on risque de passer à côté du message (la preuve).
Et oui je suis parfaitement d’accord que la qualité de la lettre n’aide pas et beaucoup de signataire ont critiqué la chose d’ailleurs.
Au fait ChatGPT vient d’être bannis en Italie.
« Musk est signataire mais pas celui qui a écrit ou poussé la chose. »
Et encore j'ai des doutes là dessus. La fondation Musk finance en partie le Future of Life Institute d'où est parti la lettre. Rien que ça, c'est louche et ça nécessite quand même de bien savoir d'où cette initiative démarre, parce que c'est pas uniquement pour la beauté du geste ou pour prévenir le reste du monde (l'info est chez Reuters : https://www.reuters.com/technology/musk-experts-urge-pause-training-ai-systems-that-can-outperform-gpt-4-2023-03-29/)
« Ce que je reproche à l’article c’est d’être resté flou sur le fond »
Encore une fois, le fond on en a parlé et on va continuer… Il s'agissait surtout de dire « attention, prenons cinq minutes et regardons qui est derrière cette initiative ».
La lettre elle-même a été écrite par GPT, voilà la clef !
Surtout que chat GPT n'a rien d'une IA. Puisque le fonctionnement même fait qu'il ne comprend pas ce qu'il dit.
Mais ça fonctionne très bien pour donner l'illusion et ça peut avoir pas mal d'applications.
"Puisque le fonctionnement même fait qu'il ne comprend pas ce qu'il dit."
C'est le cas aussi de beaucoup d'humains ^^
Blague à part, on s'en fout de la question si c'est vraiment une intelligence, si en vrai ce truc est stupide. Intelligent ou pas, ce truc menace un paquet d'emplois, en particulier chez les cols blancs : dans le juridique, dans l'immobilier, dans la santé, dans la créa, l'entertainment, l'informatique, la finance,.... ca remets en question aussi toutes les photos prises à partir de maintenant, et on n'est qu'au début.
Moi, je flippe
@françois bayrou
Sauf que ça ne créé pas, ça ne fait que recopier ce qui a déjà été fait.
Et il n'y a pas la moindre capacité de discernement (et cause du fonctionnement ça va être compliqué à corriger comme ça).
@françois bayrou
Bah tiens même discours que dans les années 2000 avec Google 😅
Le terme d'IA est très générique, chacun y voit un peu l'interprétation qu'il veut.
Chat GPT fonctionne exactement comme le cerveau humain, il ingère des signaux qui provoquent des réactions. La différence c'est qu'un chat gpt ingère des milliards de signaux et provoque des milliers/millions de réactions sous la forme de texte, alors qu'un humain ingère des ordres de grandeur bien supérieurs d'informations qui provoquent un spectre de réactions bien plus grand.
Mais sur le principe, je ne suis pas sûr qu'il y ait une différence fondamentale entre les deux à part l'échelle.
Aujourd'hui ChatGPT fait mieux que beaucoup d'humains sur beaucoup de sujets. Qu'il soit conscient ou pas de ce qu'il fait n'y change rien.
@ErGo_404
Vous confondez ChatGPT et réseaux de neurones.
ChatGPT est un simple model autoregressif. I.e. calcule la réponse la plus probable en fonction des paramètres données. Il n’y a pas de logique, intelligence ou je ne sais quoi.
@tupui
Vu que notre cerveau fonctionne de la même manière peut on en déduire que nous ne sommes pas intelligents non plus ? 😅
@cosmoboy34
Haha c’est pas moi qui l’ai dit 😜 On est loin de tout savoir sur le fonctionnement de notre cerveau.
Mais ce que je veux dire ici c’est que ChatGPT est un modèle probabiliste (comme une chaîne de Markov). Un bon résultat pour le modèle va être une suite de mots qui tient la route. Rien de plus.
@fousfous
Ce qu’elle est aujourd’hui est pas le plus important au fond. C’est ce qu’elle est appelée à devenir. Construire une véritable intelligence artificielle demandera beaucoup d’années et plusieurs facettes. Ce qui est intéressant ici c’est que la facette language est largement maîtrisée. La cote créatif aussi avec ses pendants dall-e ou midjourney. Reste l’imaginaire et la réflexion. Rentabiliser les domaines qui fonctionnent ne fait que financer les futurs. Coté mécanisme c’est pas vraiment le sujet notre propre cerveau fonctionne de la même manière : il apprend et répète c’est le principe de l’école
@cosmoboy34
Non justement, il n'apprend pas.
Tout ce que fait chat GPT c'est des probabilités pour savoir quoi répondre.
Et le fonctionnement même du système l'empêche d'aller plus loin.
Il ne faut pas penser que c'est quelque chose de nouveau, ce genre de chatbot est disponible depuis quelques années déjà. Ça a des applications, mais il ne faut pas surestimer la technologie.
@fousfous : tout ça c'est bien beau, mais ça ne change rien au problème. Intelligence ou pas, ça bouscule et sans précautions, on va au devant de gros soucis. Rien à voir avec le Google de fin 90's.
Comme disent certains, on règlemente les médicaments, l'usage de la route, pourquoi pas celui des technologies de ce type ?
Je pense qu’il faudrait rendre obligatoire une mention précisant qu’un contenu a été généré par une IA ainsi qu’une obligation de mentionner les sources utilisées par celle-ci. Je n’ai pour le moment aucune confiance dans une CA (connerie artificielle) qui te parle des œufs de vaches…
https://amp.lematin.ch/story/a-geneve-chatgpt-se-trahit-avec-des-ufs-de-vaches-860304181436
Les personnes avec un minimum de culture et de cerveau déjouerons certainement facilement les erreurs, mais les personnes appartenant à des groupes dont le nom fini en istes (platistes, complotistes, fascistes, etc) risquent de prendre n’importe quelle réponse foireuse pour argent content si on ne les aiguille pas vers des sources qui leur permettent de savoir d’où vient l’info.
Pour ceux qui appartiennent à des groupes en istes, voici un contenu, revu et corrigé par le gouvernement pour manipuler les crétins que nous sommes :
Mes petits docs Animaux de la ferme :
https://www.maisondelapresse.com/mes-petits-docs-animaux-ferme-9782244312217-c.html
@BarbATruc
Indiquer "générer par une IA" oui. Il reste à voir comment cela se met en place, et si je change trois mots sur la sortie chatGPT, comment on interprète mais au moins, si ce n'est pas écrit et qu'il y a des bêtises (au sens le plus large possible) on pourra moins se cacher derrière l'IA.
Pour les sources, vu la quantité d'informations qui entraîne le modèle et la difficulté de dire d'où vient le chemin pris dans le modèle à cause de bien trop de paramètres, j'ai bien peur que cela reviendrait à mettre "source: Internet"
@koko256
« si je change trois mots sur la sortie chatGPT », il y a le même problème un peu partout… en Argentine, il suffit de mettre une batterie dans un téléphone pour qu’il ai le droit à la mention « assemblé en Argentine », j’imagine que c’est la même chose en France (genre mettre des lacets sur des chaussures ou un moteur dans une voiture).
Après, j’ai du mal à concevoir qu’il n’y ait que très peu de débat sur une réglementation des trottinettes à Paris mais que ça pose problèmes pour une AI qui va littéralement révolutionner le monde..
on réglemente les vélos, les poulets, les voitures (permis de conduire, normes en tout genre), le travail, les clopes, les AOC… mais pas l’AI…?
@sebas_
Pour beaucoup de sujet autour du numérique les lois existantes suffisent et je pense que c'est pour cela.
@BarbATruc
Pauvres pianistes !
Ok. 🚪
@BarbATruc
Le terme platiste aujourd’hui ou complotiste n’a plus rien avoir avec leur usage premier. C’est un terme usité aujourd’hui pour décrédibiliser une personne qui a la chance d’exercer son esprit critique contre une information fausse mais acceptée par une majorité.
Article nul franchement. Vous êtes visiblement aussi passé à côté du message de la lettre. La plupart des signataires sont d’accord pour dire que la lettre n’est pas particulièrement bien écrite. Ce n’est pas vraiment le propos.
Le but est que l’on est une réflexion éthique, morale et aussi légale sur l’IA. Exemple copilot qui s’en fiche des licenses pour leur training set. Et la signature du co founder de Getty n’est pas anodine puisqu’ils sont en procès pour violation de leur CGI/PI. Et ça ce sont les sujets les plus facile à aborder, réguler.
@tupui: C'est nécessaire d'agresser le rédacteur de la sorte? D'autant plus que je ne vois pas trop ce que ton post a comme argument fort pour descendre le billet. (Et même s'il en avais ton attitude est moche.)
@misc
J’exprime juste ma déception et l’argumente. C’est votre problème si vous y voyez une aggression 🤷♂️
L’article ne parle pas du problème de fond que la lettre cherche à soulever et se focalise sur les célébrités qui ont signés ou pas.
Au fait, l’Italie vient d’annoncer le blocage de ChatGPT pour diverses raisons.
Certains de leurs arguments sont totalement validés.
Cependant, il faut comprendre: faite une pause le temps qu’on se joigne à la fête et qu’on réfléchisse à monétiser le tout.
@winnipeg
C’est exactement ça.
C’est comme, lors d’une randonnée, quand ton pote de demande de faire une pause parce qu’il n’arrive pas à suivre 🤣
C’est drôle d’ailleurs de penser qu’ils veulent réguler, en particulier Musk qui est plutôt contre les régulateurs habituellement.
@gimly54
Il est contre quand ça l’arrange… 🤷♂️
@gimly54
Musk disait déjà il y’a des années sont aversion pour l’IA mais disait aussi que de toutes les façons on va le faire, bon gré mal gré.
@iPop
“Musk disait déjà il y’a des années sont aversion pour l’IA mais disait aussi que de toutes les façons on va le faire, bon gré mal gré.”
Il souhaite integrer (ou coupler) l’IA a Neuralink 🤔
« La lettre a été pourtant signée par des pointures du domaine »
De quel domaine ?
Pas celui de la recherche en IA, en tout cas (pour les noms cités là, je n’ai pas regardé le reste des signatures).
Ben justement regarde la liste, il y a bel et bien des pointures du domaine, mais les médias ne parlent que des noms connus qui ne sont pas particulièrement experts.
@ ErGo_404 & tupui :
Quoi ?!? Il faut lire avant de commenter, maintenant ??? Pfff… C’est une nouvelle règle, non ? 😁
Blague à part, merci pour les réponses. Ça m’a poussé à aller enfin jeter un coup d’œil à cette fameuse lettre. Et du coup, j’avoue être d’accord avec certains autres commentaires : on se demande pourquoi les media (en général, pas juste ici) ne se concentrent que sur Musk et Wozniak dans cette histoire, quand on voit le reste des signatures (alors que ces deux-là n’ont pas grand chose à voir avec l’IA).
Bon, après, je ne suis pas forcément d’accord non plus avec ce que raconte la lettre, Yoshua ou pas Yoshua.
@BeePotato
Juste Yoshua Bengio pour ne citer que lui. Certains le considère comme un des pères du domaine.
Belle analyse, je trouve : il ne faut jamais croire en les bonnes intentions des business men, y compris Youval Harari
Le mec qui demande 6 mois de répit sur l’IA, c’est aussi celui qui veut mettre des puces dans les cerveaux c’est ça? J’demande. 🙄
Il faut absolument encadrer fortement l’IA. Sinon on est finis.
Marrant de voir comme certains commentaires de l’article précédent ont très mais vieillît. Pour l’article en lui-même, rien de nouveau sois le soleil.
L'IA, c'est un truc du niveau d'Internet, Iphone, etc,... ça va redéfinir des pans de notre société que l'on veuille ou non. A nous d'en faire le meilleure usage possible (en gros c'est pas gagné :))).
Après concernant la lettre et ceux qui la critique ça me fait penser à l'histoire du sage, de la lune et du doigt...
@Glop0606
ok... et alors ?
Si l'IA mange mon foi et pisse sur ma rate, je devrais dire "ha ben c'est pas le meilleur usageuh possibleuh" ?
(merci pour la jolie prose en fin de commentaire , j'ai bien lu, c'était très joli ^^, )
bof en effet
le "problème" (s'il y en a un pour les gens qui les commercialisent) est classique et structurel à l'industrie dite du "web 2.0" c'est le jeu de données utilisés pour entrainer ces IAs
- le jeu de donnée, nous ne le connaissons pas en détails
qu'en est il de sa qualité ? (richesse des sources, biais cognitifs, sources racistes ou politiquement militantes, etc ? boooh on s'en fout!!!)
- le jeu de donnée est il légal et ne profite-t'il pas indûment du travail d'autrui ?
avoir entraîné sur des articles , romans, textes, etc sans contacter (pour ..HOLALALA... demander l'autorisation?) les auteurs ? ne surtout pas les rémunérer ? pas de conditions à respecter ? Mystère totale. tout cela est opaque et profite d'aller vite et par derrière pour mettre tout le monde devant le fait accompli et négocier , en position de force, une éventuelle réparation
En effet TOUTES ces chatgpteries et autre stablediffusionneries midjourneyesques sont entrainées des sur des données dont les auteurs y a 10, 20, 60 ans (!) n'avaient pas idée qu'un jour on en ferait ça, et par des entreprises COMMERCIALES dans un but COMMERCIAL en proposant des services COMMERCIAUX déjà PAYANTS et qui font donc tourner de l'ARGENT.
mais.. le "web 2.0", en a jamais eu à foutre
- et la consommation d'énergie ? On m'a fait un baratin gros comme ça pour la clouderie, le courrier électronique, et en germe, le propos monte dans les médias, le zeu vidéal (oui vous savez, votre PS5 elle chauffe juste pour taper des dragons virtuels, bandes de petits mâles frustrés de pas être cueilleur-chasseur et autres discours moralistes)
et vla-t-y-pas qu'on me dit que la GPTerie va surconsommer des GPUS en millions, et que faut que ça bosse hein...
ben alors ? on t-y fait quoi ? ou tout le propos sur la clouderie était du vent ?
boh...
- quid de la pertinence et qualité du travail répondu par ces ia..Ha pardon, le contrat d'utilisation précise d'emblée que "si c'est tout pourri, desol les familles tout ça, vous n'aviez qu'à pas prendre au sérieux et faire le boulot de QA pour nous".
-
alors avant de nous inquiéter des Terminators du Futur de l'Espace à Pile Solaire Magique (si les robots ont des piles magiques, NOUS aussi on les aura!), on devrait s'inquiéter de déjà l'illégalité et fautes de l'industrie du présent de maintenant de tout de suite.
Et oui tant de réflexions justes et pertinentes que je partage avec vous mais qui n'auront comme écho que "C'est trop Hype, Niiiiiice, t'as vu je peux faire un chevalier avec une corne de licorne à la façon de Picasso, trop LOL" Je rajoute... "Pfff boomer"
Les 6 mois de répit concerne aussi les entreprises chinoises et les officines russes ?????????????
De toute manière, maintenant que les entreprises privés toutes puissantes ont mis la main dans le pot de confiture il ne faut surtout pas penser quelles vont faire machine arrière. Il y a belle lurette que nous et nos systèmes politiques leurs ont confiés les clés du camion... les décideurs c'est eux, et plus la mariée sera belle et lucrative et moins il y aura d'éthique.
Pages