Intelligence artificielle : zéro pointé !
Pomme d’avis, c’est la rubrique dans laquelle la rédaction de MacGeneration vous partage son point de vue sur l'actualité informatique. Alors que même les machines à laver ont leur dose d'intelligence artificielle depuis quelques années, Jean-Baptiste est pour le moins dubitatif quant aux progrès réels de ces « intelligences » qui vivent dans les ordinateurs.
Pour commencer cet article sous forme de billet d'humeur, j’ai voulu me documenter un peu sur l’histoire de l’intelligence artificielle. Je voulais commencer par une accroche dans le genre « Cinquante ans, ça fait cinquante ans qu’on nous saoule avec l’intelligence artificielle ». Et puis je me suis dit « pourquoi cinquante plutôt que soixante ou trente, hein, d’abord ? »
Et c’est là que je suis tombé sur un document qui fête justement ses cinquante ans cet été, le Lighthill Report, un rapport universitaire qui renvoyait à leurs labos tous les chercheurs qui — déjà à l’époque — pariaient sur la capacité des ordinateurs à imiter le fonctionnement de notre cerveau, de ses neurones, voire de sa psychologie.
Pour continuer sur le sujet, l'article "L'impasse de l'IA" dans le magazine Epsiloon de Juin 2022. Et je ne résiste pas à l'envie de vous mettre le sous-titre : "De plus en plus raciste, de plus en plus sexiste". Bonne lecture !
@lduret
Je confirme ! Super magazine, par ailleurs !
@man0
Dans le même genre j’écoute les podcasts de La méthode scientifique de Nicolas Martin.
https://podcasts.apple.com/fr/podcast/la-m%C3%A9thode-scientifique/id1134937775?i=1000558164742
Pour l'émulation d'un cerveau humain je pense que le problème vient plus du codage (on ne sait pas trop comment faire), plus que de la puissance brute.
@fousfous
non. ce n'est pas une question de "comment faire", mais de la gigantesque complexité du cerveau
Le cerveau a d'innombrables mécanismes: électriques, chimiques, moléculaires.
un neurone est une chose effroyablement complexe: comme toute cellule sa mécanique interne est atroce, et il n'est pas évident de comprendre ce qui en ressort concrètement sur l'attitude du cerveau
les messages véhiculés entre neurones sont cmplexes, multiples en nature, et mitigés, nuancés, exprimés ou réprimés par d'autres cellules et structures.
la forme même du réseau neuronal est à la fois la mémoire et le raisonnement.
la topologie compte, la nature des cellules compte, la nature des messages diffusés compte, la nature des médiateurs compte.
le cerveau est constamment soumis à l'influence de nombreux corps au sein du liquide cerébral: hormones, neurotransmetteurs etc qui jouent tous un rôle sur la pensée
tout cela une machine actuelle ne le simule pas.
Aucune modélisation d'un véritable cerveau dans un véritable corps de mammifère existe car on en a:
- ni les moyens techniques (ordi trop pourri avec des mémoires de travail trop ridicules...)
- ni la totale compréhension de comment tout ce bazar fonctionne et s'intègre ni si on a vraiment tout détecté. ou détecté assez.
sur ce, mes neurones d'estomac me disent de passer à autre chose.
@oomu
Et puis j’ai toujours eu un doute sur le fait que notre cerveau ait la capacité a comprendre son propre fonctionnement!!!
@fousfous
Je penche plus, parlant de probleme, pour le choix du cerveau humain. Le bot Twitter de MS a bien montré les dérives racistes et machistes d’une IA entraînée sur un média social.
@fte
Sauf que ce n'était qu'un bot, pas un cerveau qui était émulé.
Et d'ailleurs je pense que n'importe quel personne élevé a Twitter risque d'avoir quelques penchants extrémistes.
Je pense qu'il y a des erreurs dans la conclusion (les justifications de "on n'y arrivera jamais"), mais pour les voir il faut être expert en algorithmes, données, calcul et combinatoire.
Et c'est le problème actuel. Les esprits les plus brillants courent en majorité faire des sciences humaines. Les autres qui se dirigent vers l'informatique sont accaparés par des problèmes concrets. Personne ne cherche à rendre un robot humain sur le plan des émotions ou d'initiatives car on ne tolère rien d'un robot. Qui voudrait confier à une machine la suppression de la belle-mère sans contrôle qu'elle n'abîme pas quelque chose, personne. Les bons informaticiens sont déjà pris par tout le reste qui a un business intéressant.
Il y a des impossibles théoriques mais je ne vois rien les concernant dans les problèmes que l'on souhaiterait confier à l'intelligence artificielle.
Également pour ceux que cela intéresse, un excellent numéro de l’émission « Le code a changé » sur le sujet (daté du 31 janvier 2022)
Je suis surpris que personne ne cite le livre de Luc Julia : « L'intelligence artificielle n'existe pas : Le cocréateur de Siri déconstruit le mythe de l'IA ! » 😌😉
"On sait qu'aujourd'hui un simple téléphone portable est bien meilleur qu'un médecin pour évaluer la dangerosité d'une tache sur la peau"
Un peu n'importe quoi cette phrase, échangez ce sujet au professionnel qui ont fait 10 ans d'étude ...vous serez bien reçu
@bbibas
C’est pourtant ce que m’a dit ma dermatologue (ex cheffe de clinique aux HUG, formation post-grade aux US) qui suit mon cancer de la peau depuis 2016…
Mais j’ai quand même beaucoup besoin d’elle, non seulement pour regarder les parties de mon corps que je ne peux pas voir moi-même, mais pour faire un bilan avec le CT-Scan, les analyses de sang, et surtout pour apporter un peu d’humanité aux résultats globaux.
Ma crainte est bien plus liée au fait que l’IA coûtant moins cher que l’intelligence humaine, l’économie finisse par formater cette dernière pour donner les mêmes résultats que la première.
C’est le cas déjà dans les processus de recrutement où le tri des dossiers d’humains est confié à de l’IA avec tous les bias que cela comporte en défaveur des personnes qui ne correspondent pas aux normes avalées par les algorithmes.
@Mac1978
J’ai du mal à croire qu’elle est dit :
« un simple téléphone portable est bien meilleur qu'un médecin pour évaluer la dangerosité d'une tache sur la peau »
@bbibas
Et pourtant n’importe quelle dermatologue te le dira. Accepte que tu as tort.
@Mac1978
Il y a eu des tests menés sur l’efficacité des apps sur téléphones de détection des cancers de la peau.
Je suis tombé sur une review (je n’ai pas d’indication quant à sa qualité) qui explique en gros que les apps sont assez mauvaises (beaucoup de faux négatifs).
La review conclue en revanche que ça incite les gens à s’examiner (et avoir une historique photo de l’évolution de certains lésions).
@Mac1978
« Ma crainte est bien plus liée au fait que l’IA coûtant moins cher que l’intelligence humaine, »
T’inquiète, faut de toute façon une validation humaine.
On aura longtemps encore besoin d’humains.
@Bigdidou
Quand je vois que déjà maintenant le tri des candidatures en entreprise est confié à des algorithmes sans supervision humaine, je ne pense pas que cela montre qu’il y aura toujours des humains pour corriger, contrôler des robots.
@Mac1978
Tu as raison.
Je corrige effectivement : devrait être supervisée…
En espérant : devra.
Mais, je viens voir des trucs à propos d’armes totalement autonomes, j’admets que ça fait mega peur…
@bbibas
« échangez ce sujet au professionnel qui ont fait 10 ans d'étude ...vous serez bien reçu »
Ben oui.
L’IA elle a fait l’équivalent de millions d’années d’étude rien que sur le mélanome.
C’est pas vraiment un sujet ni un problème.
C’est juste un outil génial, rien d’inquiétant.
Article extrêmement intéressant, même si je suis mitigé quant à sa conclusion.
En revanche, sur le plan stylistique, je trouve qu’il y a un peu trop de « à l’époque » 😉 !
Par ailleurs, « déjà, à l’époque » me semble être de l’ordre du pléonasme…
Bon dimanche !
Il y a bien eu un changement majeur dans les algorithmes avec le passage du langage symbolique au langage sous-symbolique. Les algorithmes sont devenus des boîtes noires. C’est quelque chose de fondamentalement problématique et d’actuel et cela aurait pu être le sujet de cet article plutôt que cette vieille rengaine qui consiste à dire que l’intelligence artificielle n’existe pas.
@une fleur
C’est aussi un changement intéressant, oui. De manière générale, d’ailleurs, la complexité de systèmes composés de sous-systèmes est un souci. Surtout quand ceux-ci sont achetés à des sous-traitants, externalisés sur le cloud, ou maintenus par des équipes différentes.
Quand un véhicule « intelligent » renverse un piéton, l’analyse des logs est une vraie torture. Dans un véhicule électrique, Un premier algorithme analyse la vidéo et envoie « une forme » à plein de sous-systèmes qui indiquent qu’il s’agit d’un humain à 97%, piéton à 89% ou cycliste à 67%, dirigé vers la droite a 96% où vers la gauche à 12%, etc. Et ainsi pour des milliers de paramètres.
Et contrairement aux véhicules conduits par des humains, on ne peut pas se contenter d’un « je ne l’ai pas vu » ou « j’ai cru qu’il allait s’arrêter ». On doit comprendre précisément où le mauvais résultat (« ne pas freiner » ou « ne pas braquer assez vite ») a pris sa source.
@j-b.leheup
Quand j’ai commencé à bosser sur l’IA (y a 30 ans de cela), et que l’on avait des résultats attendus, on avait coutume de dire : « ça marche, mais on ne sait pas trop pourquoi »…. Autant dire que quand ça marchait pas on procédait vraiment à tâtons.
Réflexion intéressante. Nous sommes face à des scientifiques qui pensent que la biologie est une science. Ils conspuent les médecines alternatives comme l’homéopathie ou les pratiques de « magnétisme » en pensant que tout est déjà connu. « Et pourtant elle tourne ». Le rôle de la recherche est bien de comprendre l’incompréhensible. Dans la recherche, on ne peut valider que ce qui fonctionne, pas ce qui ne fonctionne pas, n’existe pas ou est inexplicable… si on fait de la recherche en pensant que tout est déjà découvert, on va dans le mur. « Ils ne savaient pas que c’était impossible, et ils l’ont fait ». Le futur ne manque pas d’avenir. Mais en effet, comme un enfant de cinq ans, il faut s’extasier et surtout rêver que c’est possible…
@Sica
Euh, comment dire, la biologie EST une science.
Après mettre homéopathie et médecine dans une même phrase, non, placebo et médecine, oui, l’homéopathie étant une forme de placebo. Le remboursement de ces “medicaments”, la mémoire de l’eau, et tout ce qui tourne autour c’est du charlatanisme.
Les scientifiques pensent de plus en plus que l’environnement (religions, cultures, origines…) ont une influences sur la guérison, et l’étudient de plus en plus, mais cela n’a rien à voir avec des pseudo sciences.
@ya2nick
La biologie n’est pas une science au sens strict du terme avec une reproduction fidèle des expériences…
Peut être aurais-je dû écrire: la biologie est-elle une science ?…
Je suis vétérinaire avant d’être passionné d’informatique. Ça donne beaucoup d’indulgence vis-à-vis des faceties de l’informatique 😜
@Sica
« La biologie n’est pas une science au sens strict du terme »
Pardon ?
@Sica
Ouch, t’es parti loin toi !
D’accord avec ça.
Je pense que l’on tente d’ouvrir un marché avec quelque chose qui n’apporte en fait rien de vraiment utile.
Le pire étant le correcteur clavier. Une honte absolue ce truc.
Je précise que si l’intelligence artificielle était au bon niveau nous serions bien dans un débat de confort et non dans une joute de technos.
C’est précisément la confiscation du débat par les techniciens de l’IA qui démontre l’échec.
Question totalement naïve de quelqu'un qui ne connaît rien à rien mais : en quoi est-ce que les avancées dans l'informatique quantique ne pourraient-elles pas permettre à l'intelligence artificielle de "progresser dans sa façon de traiter l'information? À moins que cela n'ait bien sûr rien à voir.
@passingphantom
Réponse un peu naïve de quelqu’un qui n’y connaît pas plus mais qui a lu quelques articles sur le sujet, en théorie oui, l’intelligence artificielle bénéficiera de l’informatique quantique, mais quand ? 5, 10, 50, 100 ans, on verra (ou pas).
@passingphantom
A mon sens (mais des spécialistes auront peut-être une meilleure réponse), l’informatique quantique peut être vue un peu comme une troisième dimension alors que l’informatique actuelle est en 2 dimensions. Les algorithmes vont pouvoir analyser beaucoup plus d’informations en même temps, obtenir de nombreux résultats à la place d’un seul, et (par exemple) trouver le mot de passe d’un cryptage à une vitesse phénoménale puisque de nombreuses possibilités auront été analysées en même temps et plus seulement l’une après l’autre.
Mais le problème restera entier : comment apprendre à l’ordinateur à faire quelque chose qu’on ne lui a pas appris ? Ou prennent leurs sources l’imagination, la curiosité, l’instinct, qui sont à l’origine de toutes les inventions humaines ?
@j-b.leheup
"comment apprendre à l’ordinateur à faire quelque chose qu’on ne lui a pas appris ?"
L’ordinateur de Google, dans sa dernière version, s’est entraîné seul au go en jouant contre lui-même et a battu la version précédente entraînée avec des parties réelles (de mémoire, merci pour votre indulgence en cas d’approximation).
@DahuLArthropode
On lui a au moins appris les règles…
Après c’est certainement du min-max à la sauce apprentissage automatique, 2 trucs que je suis loin de maîtriser mais qui sont, pour le min-max la base des algorithmes de jeux, et l’apprentissage auto, à la portée de toute personne un minimum dev, suffit de choisir la bonne api. Et là, c’est le choix et l’optimisation de cette api qui joue le plus. Vu les vastes possibilités du jeux de go.
@ya2nick
"On lui a au moins appris les règles…"
Au joueur humain aussi, il faut apprendre les règles.
Il faut lire les articles consacrés à la prouesse (ou plutôt: aux prouesses) de l’équipe de Google dans les derniers temps du programme. Dans https://fr.wikipedia.org/wiki/AlphaGo?wprov=sfti1 par exemple.
Je cite:
…en octobre 2017, DeepMind publie dans Nature une nouvelle étude, décrivant AlphaGo Zero, une architecture simplifiée et n’utilisant plus ni la méthode de Monte-Carlo, ni des connaissances humaines, mais parvenant pourtant très rapidement à des performances supérieures à celles des versions précédentes. [lesquels battaient les champions humains]
On n’est plus dans les algorithmes que tu mentionnes, qui ne fonctionnent pas sur un go ban de 19*19, où tous les coups sont légaux, donc avec une explosion combinatoire sans rapport avec celle des échecs.
On peut même imaginer maintenant qu’un programme apprenne des règles par « observation » de parties légales plutôt que par programmation pure (au go, les règles sont plus simples que la stratégie, au moins pour un humain). Ce n’est toujours pas de l’intelligence, mais c’était inconcevable il y a peu.
@ya2nick
"suffit de choisir la bonne api"
Hum... argument curieux. La complexité est derrière l’API. C’est comme si tu disais que c’est facile d’aller sur la Lune, il suffit de monter dans la fusée.
@passingphantom
Les ordinateurs quantiques ne sont pas forcément meilleurs quand il s’agit de faire des calculs classiques.
Là où potentiellement il y a un gain c’est dans le parallélisme des calculs (plus grande quantité d’information traitée en même temps). Ceci dit, c’est pas pour demain (et on ne sait pas évaluer pour quand ça sera) et je doute que les premières applications d’un ordinateur quantique fonctionnel (genre un ordinateur avec 1 millions de bit quantiques, alors qu’actuellement on doit être à 60 bits quantiques max) soit dédié à l’IA.
Et puis programmer un ordinateur quantique c’est pas de la tarte lol.
La déception est sans doute due à la hype des dernières années concernant les avancées du deep Learning.. et à mon avis les fantasmes diffusés par les médias desservent les réelles avancées dans le domaine, qui sont assez stupéfiantes. Par exemple l’un des derniers modèles de Deepmind (« Gato ») est capable à lui seul d’effectuer + de 600 tâches différentes (pour un seul modèle) !
« Pas d'humour, pas de second degré, pas de cynisme, pas d'ironie, pas d'instinct, pas de peur. »
J’espère qu’on ne met pas dans ces aptitudes l’essentiel de l’intelligence, sinon les personnes atteintes de TSA sont mal barrées.
Merci pour cette analyse qui remet les pendules à l’heure. Le terme IA qui est employé à tort et à travers à des fins purement mercantiles ne sauvera pas l’humanité 😀 Contrairement à ce que la science fiction raconte, les machines n’auront jamais de véritables émotions ni de libre arbitre car elle ne peuvent tout simplement pas être dotées de conscience. Il ne faut pas confondre conscience et cerveau. La conscience est immatérielle et délocalisée comme le démontre, entre autres, les EMI, lesquelles ne sont toujours pas expliquées par la science matérialiste.
@nyantho
"les machines n’auront jamais de véritables émotions ni de libre arbitre car elle ne peuvent tout simplement pas être dotées de conscience."
On n’en sait rien. On n’est pas très au clair sur la nature de ce qui se passe dans notre cerveau.
Mais si notre cerveau est bien le support matériel des phénomènes qui s’y déroulent (ce que je crois), il n’y a aucune raison pour que des phénomènes du même ordre ne puisse émerger de dispositifs artificiels.
Douglas Hofstadter avait là-dessus des avis intéressants et nuancés.
Ce qui est sûr, c’est que l’IA que nous pratiquons aujourd’hui n’effleure même pas la notion de conscience. À ma connaissance, ce n’est pas non plus le but poursuivi, en général.
Je faisais de l’IA en 1985, et ça ne ressemblait en rien à ce qu’on fait aujourd’hui.
Si la combinatoire était encore un obstacle majeur à l’époque à cause des techniques crétines d’exploration de graphe qui étaient à notre disposition, ce n’est plus le cas, sans quoi aucune machine ne me battrait au go. Il n’y a pas que la puissance des bécanes qui a changé!
C’est le principe d’un billet d’humeur de râler sur quelque chose. Mais je ne partage pas, je suis admiratif devant le chemin parcouru et les prouesses dont les machines sont capables. La seule chose qui me semble à relever, finalement, c’est que l’intelligence artificielle n’est pas intelligente. En 1985, cette expression ne désignait aucun produit concret, mais un domaine de recherche, et c’était donc parfaitement légitime.
@DahuLArthropode
d'un point de vue philosophique, un "billet d'humeur" ne devrait pas pouvoir être conçu par une intelligence artificielle avant tres longtemps, alors que JB c'est son truc :P
@raoolito
On peut craindre au contraire d’y arriver bientôt: il est plus facile d’imiter certaines productions humaines que d’implanter la conscience. C’était, je crois, la question posée par le test de Turing: si une machine répond d’une façon indiscernable de celle d’un humain, cela signifie-t-elle qu’elle est consciente?
La rédaction automatique de contenu est déjà sur le marché. Du texte produit sans intelligence, dépourvu de sens pour son propre auteur, peut-il en avoir pour le lecteur?
@raoolito
Je crois qu’on y est déjà, il y a une IA, de deepsense il me semble, qui produisait des article tellement bien rédigés qu’il influençait grandement le lecteur. Le développeur de cette IA n’a pas voulu le mettre à disposition du public et de leurs clients, uniquement pour quelques universitaires afin de confirmer leurs dires.
(Donc impossible de juger de ces affirmations)
@ya2nick
Je crois que tu parles de GPT-4 de OpenAI. Depuis LaMDA de Google l’a dépassé.
@Brice21
OpenAI ça me parle pour ce sujet, vous devez avoir raison. M’en vais rechercher des articles que en parle.
@Brice21
C’est bien ça, c’était à propos de GPT-2 d’OpenAI.
Tant que l’IA restera du calcul mathématique… l’Humain de craindra pas grand chose ! Mais, ne crachons pas sur ses atouts non négligeables : sa capacité à brasser de très grandes quantités d’informations pour extraire des résultats que nous (simple humain) aurions mît des décennies avant d’en caresser l’espoir de le trouver… ainsi que de détecter bien avant nous des signes avant coureur de situation « embarrassante ? »
Pages