Intelligence artificielle : l'un des pionniers du domaine quitte Google pour tirer la sonnette d'alarme

Félix Cattafesta |

Le pionnier de l'intelligence artificielle Geoffrey Hinton quitte Google après plus de 10 ans dans l'entreprise. Pas de départ à la retraite pour ce Canadien de 75 ans très réputé dans le domaine : il démissionne pour plus librement tirer la sonnette d'alarme sur les IA. Dans un entretien pour le New York Times, il confie carrément regretter ce sur quoi il a travaillé toute sa vie. « Je me console avec l'excuse habituelle : si je ne l'avais pas fait, quelqu'un d'autre l'aurait fait », explique-t-il.

Geoffrey Hinton (au milieu) lors d'un évènement dédié au Deep learning en 2016. Image : Steve Jurvetson.

Cet ancien professeur effectue des recherches sur les réseaux de neurones artificiels depuis 1972, et a lancé un premier algorithme pouvant identifier et trier les différents éléments d'une photo en 2012. Les découvertes du chercheur sont à la base des systèmes comme ChatGPT, Bard ou même DALL-E. Très renommé, Geoffrey Hinton a été récompensé par un Turing Award en 2018, un des prix les plus prestigieux en informatique. Auparavant enthousiaste, le développement ultrarapide du secteur l'inquiète.

L'idée que ce matériel puisse devenir plus intelligent que les humains, quelques personnes l'ont crue […] Je pensais que c'était loin d'être le cas. Je pensais que c'était dans 30 à 50 ans, voire plus. Évidemment, je ne pense plus cela aujourd'hui.

Il explique s'attendre à ce qu'Internet soit prochainement submergé de texte, de photos et de vidéos générées par l'IA et qu'il sera bien difficile de trier le vrai du faux. Il s'alarme également du fait que les intelligences artificielles puissent remplacer certains métiers, comme les assistants juridiques ou les traducteurs.

La possibilité que les IA deviennent hors de contrôle lui semble loin d'être de la science-fiction. « Regardez où l'on en était il y a cinq ans et où on en est aujourd'hui », a-t-il déclaré à propos de cette technologie. « Prenez la différence et projetez-la vers l'avant. C'est effrayant ». Il s'inquiète notamment du fait que les intelligences artificielles puissent coder et faire tourner leur propre code. Des entreprises comme OpenAI ont révélé tester leurs modèles pour s'assurer qu'ils ne représentaient pas de danger.

GPT-4 : OpenAI a vérifié que son modèle ne pouvait pas se rebeller

GPT-4 : OpenAI a vérifié que son modèle ne pouvait pas se rebeller

Il faut dire que la scène actuelle du développement des IA a de quoi préoccuper. Google aurait apparemment mis son éthique de côté pour sortir plus rapidement un produit au public et ne pas se laisser distancer par Microsoft. Geoffrey Hinton estime que les deux entreprises sont désormais dans une compétition difficile à arrêter et pouvant avoir des conséquences désastreuses. De son côté, OpenAI est de moins en moins « open » et a annoncé partager de moins en moins d'informations sur la manière dont sont créées ses modèles en coulisse.

avatar Nihondjin | 

Tout ce code est situé sur des serveurs physiques auxquels il faudra prévoir un système de destruction comme sur les fusées.. Bien sur, il faut mettre en place une obligation légale de localisation des serveurs utilisé par les IA.

avatar raoolito | 

@Nihondjin

Un bouton rouge qui se trouveau sommet du batiment au bout d'un couloir compliqué avec des systèmes de sécurité independants qu'il faut desactiver un par un !

avatar ⚜Dan | 

@raoolito

😂😂😂

avatar raoolito | 

@⚜Dan

Depuis patlabor, je me suis toujours demandé pourquoi on construisait des bâtiments avec des systèmes d'autodestruction 😂

avatar Dimemas | 

oh bordel, ça me rappelle une scène dans terminator numéro je ne sais plus combien ...

avatar IRONMAN65 | 

D’un côté on fabrique des débiles pour voter et de l’autre des machines qui les dirigeront 😁

avatar Paquito06 | 

@IRONMAN65

“D’un côté on fabrique des débiles pour voter et de l’autre des machines qui les dirigeront 😁”

En 2026 l’agent orange risque de crier a la fraude pour des votes attribués a l’IA tu veux dire? 🤣

avatar IRONMAN65 | 

@Paquito06

Au temps de Dostoyevsky on faisait voter les morts, maintenant plus de preuves possibles on fait déjà voter des déments sévères des EHPADS alors 😁

avatar Dimemas | 

tu as bien des politiques comme les LR font bien voter les animaux de compagnie en france (et parfois les morts comme tibery XD)

avatar cosmoboy34 | 

@Paquito06

L’agent orange 🤣

avatar backfromcharly | 

Comment empêcher à des entreprises ou des états de développer des IA? On pourrait faire comme le TNP signé en 68 et qui vise à limiter la propagation des armes nucléaires. Mais ça me semble beaucoup plus difficile à contrôler.

avatar iVador | 

Je propose de confier nos armes nucléaires à une IA.
Ça va bien se passer 🤡

avatar backfromcharly | 

@iVador

On a de la chance que les systèmes de lancement soient assez ancien et contiennent peu d’informatique « moderne ». Certains bancs de lancement sont encore avec de gros boutons poussoirs à la star wars.

avatar oomu | 

@iVador

vous les confieriez à Putin ou Macron ?

avatar raoolito | 

@oomu

Ils les ont déjà en fait...

avatar redchou | 

C’est marrant d’être aussi intelligent et bête à la fois.

avatar smog | 

N'importe qui qui réfléchit un peu sait que c'est un grand danger pour le fragile équilibre qui existe encore dans nos sociétés.
Mais malheureusement beaucoup rétorquent les phrases classiques du style "on disait déjà ça quand les moteurs de recherche avancés sont parus", etc.
Bref, ce n'est pas tant l'invention et l'évolution de la science qui est inquiétante, c'est ce qu'on en fait.

avatar cosmoboy34 | 

@smog

Ou ce sera peut être tout l’inverse 🤷🏼‍♂️ personne ne peut savoir mais qui sait peut être que l’ia sera notre salut. Force est de constater que le monde dirigé par les humains s’enfonce de plus en plus profondément dans les crises successives et dans une escalade à la fin de plus en plus sombre sur nombre de points. C’est un constat d’échec pour notre civilisation dirigée par elle même.

avatar smog | 

@cosmoboy34 : oui, vous avez raison, mais j'ai un peu de mal à imaginer que ça se passera ainsi... Enfin espérons !

avatar cosmoboy34 | 

@smog

Moi j’ai du mal à voir comment ça pourrait être pire. Il suffit de voir les derniers rapports de projections de la CIA et du pentagone qui parlent d’une 3eme guerre mondiale en 2027, de la montée des extrêmes, des inégalités grandissantes, ou pire (et c’est tout le problème) de la disparition de la diplomatie internationale. Et quand les pays ne se parlent plus et ne font plus de compromis ça mène à des escalades sans fin. Plus une année sans catastrophe écologie sanitaire démocratique ou humaine ça devrait faire profondément réfléchir mais on s’y est habitué.

avatar cosmoboy34 | 

@smog

J’ai tendance à croire que l’ia est un prétexte pour éviter de se regarder en face. Parce que au fond la véritable peur c’est qu’elle prenne le pas sur nous, qu’elle soit bonne ou mauvaise. Qu’on se déclasse dans la chaîne alimentaire. Qu’on se rende compte que finalement nous ne sommes pas ce qu’on nous a dit depuis tout petit : l’espèce la plus intelligente. Et qu’elle nous mette en face de nos propres contradictions et de nos échecs

avatar MGA | 

Et les progrès ultra-rapides de l’IA ont pour fondement le pillage généralisé de toute la production de l’ensemble de l’humanité sans aucun respect ni aucune règles…
Enfin quelques gugusses sans aucun respect pour autrui, pas vraiment l’IA qui n’est que leur nouveau fantasme.

Nos dirigeants sont tellement avides des promesses de contrôle des populations permises par l’IA qu’ils laissent faire (reconnaissance faciale, recoupement des métadonnées, analyse automatique des images satellites, contrôle des flux, manipulation d’opinion…).

D’ailleurs comment « maîtriser » quand dans le même temps la France a dépensé des centaines de millions d’euros d’argent public pour essayer d’avoir un strapontin dans le wagon de l’IA.

avatar oomu | 

@MGA

"Et les progrès ultra-rapides de l’IA ont pour fondement le pillage généralisé de toute la production de l’ensemble de l’humanité sans aucun respect ni aucune règles…"

on appelle cela le Web 2.0

(DEUX. ZERO, j'ai bien dit _DEUX_, oui le 2.0 ! celui des années 2000s, hein, je précise 2.0. C'est celui là qui est l'amorce du vol généralisé pour créer des services "d'intelligences artificielles" commerciaux)

avatar MGA | 

@oomu

En effet, lorsqu’on a commencé à indexer le contenu de l’ensemble du web. Mais créer l’annuaire, le fichier, n’est pas le problème, c’est l’exploitation des fichiers qui est problématique. Comme toute exploitation de fichier un jour ou l’autre le pire se produit, ce n’est qu’une question de temps.

avatar raf29 | 

Ce qui me fait le plus glousser de rire c’est de lire que Geoffrey Hinton travaille depuis 1972 sur l’IA et qu’il se réveille à 75 ans pour tirer la sonnette d’alarme.
On n’a qu’une version de l’histoire et je suis sûr que la raison de cette agitation est tout autre !

avatar oomu | 

@raf29

"Rendez les sous !" :)

avatar mimolette51 | 

A croire que tu ne comprends pas les quelques mots de la citation... pourtant explicite...

avatar oomu | 

moi aussi

après une carrière bien remplie

à quelques années de ma mort

je dirai

"l'informatique ? pff de la connerie, j'y ai travaillé toute ma vie, je peux vous le dire.. et le mac ? HA! j'en ai jamais utilisé, j'ai juste encouragé les gens à se ruiner en ordinateur en alu ! hahhahahaha"

avatar RonDex | 

Est-ce que ça veut dire que le scénario Terminator n’est plus de la science-fiction ?😅
Mais c’est effectivement aussi fascinant que effrayant et de la vitesse à laquelle la technologie progresse…

avatar oomu | 

@RonDex

le scénario Terminator n'est plus de la science fiction mais de la fantasy absurde infantine oui.

- skynet est allumé, et pour je ne sais quelle raison débile, on l'a connecté à toutes les armes, les usines de voitures, et les piles (!)
- pour gagner la guerre, il lui faut envoyer des robots dans le passé (?!)
- les robots squelettiques qui marchent à 3 à l'heure sont super dangereux. Ok, il peut en faire un métal liquide qui supporterait pas une ogive.
- non seulement les robots de skynet sont supra-débile (ça tue des gens, pour on ne sait quelle raison débile) mais pourtant ils ont inventé la SUPER PILE qui s'use po ! (ou le capteur solaire rendement 1600% )

n'importe quel roomba tu lui enlève sa batterie ou tu débranche le Super Ordi qui Joue au Go, c'est terminé, ben skynet nan ! Il est carrément fondu dans une centrale nucléaire française ? Ben plastique là mec... pfiulala

bref, non.

la technologie n eprogresse pas si vite que ça, vu que les IAs ça date des années 60s

et on accouche de machines qui automatise des tâches répétitives, ce qui est cool.

Par contre, le commerce lui reste toujours aussi infecte: les startups s'assoient sur les lois et leurs responsabilité, tel un UBER, et ensuite paient une fois devenus Riches et que les politiciens ont daigné réguler... (après la guerre donc hmm.. ami politicien, ne serais tu pas un vendu ?)

Bref, la technologie n'est pas effrayante
et Terminator n'est qu'un classique du cinéma sans une once de réalisme (par contre T2 a une vision saisissante de l'apocalypse nucléaire, du grand grand cinéma)

par contre, l'humain est lui effrayant, cauchemardesque même.

avatar debione | 

@oomu:

"- skynet est allumé, et pour je ne sais quelle raison débile, on l'a connecté à toutes les armes, les usines de voitures, et les piles (!)"

Alors pour les armes je sais pas, mais pour tout le reste... Ben c'est déjà le cas... Tout ce qui connecté à internet... Les adeptes de la domotiques, les gens qui possèdent des voitures qui se connectent, les banques, les gouvernements, etc etc....
Bref, si une IA à accès à l'internet, alors elle à potentiellement accès à absolument tout ce qui connecté, TOUT...
Du coup, c'est pas ce scénario qui est infantile, mais plutôt votre vision... (sans méchanceté aucune.... )

avatar DahuLArthropode | 

@oomu

"par contre, l'humain est lui effrayant, cauchemardesque même."

On peut voir ce qui se passe comme une extension artificielle de la sélection naturelle. Patience, l’humain laisse place à une intelligence qui dira un jour « nous descendons de l’homme », tandis que d’autres croiront plutôt que tout a été conçu en sept jours par le Grand Programmeur.

avatar Seb42 | 

Et bien, j’aimerais encore voir ici les défenseurs de l’IA tellement révolutionnaire… enfin pour le coup elle l’est vraiment mais c’est skynet

avatar oomu | 

@Seb42

pourquoi skynet ? ça pourrait être Wall-e, il est sympa Wall-e !

avatar DahuLArthropode | 

@oomu

Oui, mais les humains dans Wall-e… futur inquiétant quand même.

avatar raoolito | 

@Seb42

J'utilise tous les jours chatgpt sous bing et mercredi/jeudi on a un workshop mondial en live dans la boite pour mieux apprendre à integrer l'ia dans nos workflow.
Que l'ia detruise le monde c un risque, qu'elle remplace des boulots, ben ca a toujourds ete, que je sois mis au rencard car j'ai préféré pester plutot que d'aller de l'avant en utilisant une tech si prometteuse ca c'est beaucoup plus immédiat.
Le ruisseau est deja depasse on est face a une rivière : nagez dans le courant ou noyez-vous, vous n'avez que peu d'autres alternatives

avatar Tech | 

@raoolito

Vue l’état catastrophique de la rédaction de votre commentaire, l’intelligence artificielle est plus qu’indispensable pour vous.

avatar raoolito | 

@Tech

Déjà ya pas des tonnes d'erreurs pour unefois et surtout, c là que c drôle, j'ai plus de soucis depuis que j'utilise swiftkey de microsoft avec son bouton bing-gpt
Comme quoi 🤷

avatar Seb42 | 

@raoolito

J’aime bien vos images, elles sont pertinentes.
Mais ce que vous omettez peut être c’est que vous n’allez sûrement pas nager dans le sens du courant mais vous allez vous faire happer par un tsunami.

Oui vous avez raison, il n’y a rien à faire si on reste sur le côté mais vous ne ferez rien en essayant de surfer sur la vague, elle n’est tout simplement plus maîtrisable et bien trop « intelligente » pour nous tous.
Il n’y aura plus beaucoup de boulot à part celui que l’IA voudra bien donner et ensuite on fait quoi de tous les autres… on va croire que l’on aura plus de temps libre et pour faire quoi… on voit bien les endroits où il y a le moins de boulot c’est la ou il y a le plus de problème de société. Ça va être Top ! L’IA réussira peut être la ou tout le monde échoue ?

Alors oui je peste contre l’IA, car ça me désole de voir les gens émerveillés devant un tel monstre. Même si je vois des avancées dans la recherche en médecine et technique qui vont être très appréciables. Mais si c’est pour rédiger des lois ou définir un profil à embaucher… l’IA a déjà la solution, le problème c’est l’homme il doit disparaître… c’est pas moi qui le dit mais l’IA auto, et elle n’a pas forcément tort

avatar Dr. Kifelkloun | 

Il suffit de couper le courant pour que tout s'arrête... Le jour où le IA seront capables de s'auto-alimenter, de se fabriquer et de se reproduire, là je commencerai à baliser. Pour l'instant toutes ces merdes sont à la merci d'un simple transformateur électrique.
Si l'IA pose problème, lâchez la CGT 😅. Ils peuvent foutre un stade ou une hôpital dans le noir alors il ne vont pas se laisser empapapouter par quelques ordinateurs qui ont choppé le melon !

avatar oomu | 

@Dr. Kifelkloun

" Le jour où le IA seront capables de s'auto-alimenter, de se fabriquer et de se reproduire, là je commencerai à baliser"

ho pinaize! c'est ce dont sont capables les humains !

*fonce baliser*

avatar Dr. Kifelkloun | 

@oomu
Bin justement, les humains sont autrement plus inquiétants que quelques PCs. A ma connaissance ce ne sont pas les ordinateurs qui posent problème sur cette planète.

avatar Crunch Crunch | 

Il "suffit de couper le courant".
Sur toute la planète, en même temps ? Et quelle tension faut-il pour "maintenir" une AI en fonction (en veille dormante) ?

Aujourd'hui il faut un courant fort (~230v).
Mais dans 5ans, 10 ans ? Peut-être que la moindre puce, alimentée par une batterie 5v pourra maintenir cela.

ça va être facile de "couper le courant", à la planète entière, oui oui 😱

PS:
Coluche disait:
- Il suffirait que les gens arrête d'en acheter, pour que cela ne se vende plus…
- Le problème est proche dans l'idée. TOUT le monde à au moins 1 à 5 batterie autour de lui…

avatar simK | 

Dans Portal 2, l'énergie générée par une pomme de terre suffit :)

avatar DG33 | 

@simK

Tant qu’il reste de la patate douce 🍠…

avatar debione | 

@ Dr. Kifelkloun:
"Il suffit de couper le courant pour que tout s'arrête... Le jour où le IA seront capables de s'auto-alimenter, de se fabriquer et de se reproduire, là je commencerai à baliser. Pour l'instant toutes ces merdes sont à la merci d'un simple transformateur électrique."

Je vais faire un peu l'avocat du diable... C'est plus des interrupteurs manuels, mais des interrupteurs qui ne s'activent que par des ordinateurs... Pire que cela, les portes qui mènent aux lieux sensibles sont souvent maintenant des portes qui s'ouvrent grâce à l'informatique biométrique... On va plus loin? Tu veux avertir tes collègues mais l'IA sera au courant au moment même ou vous décrochez votre téléphone...
Alors on peut y aller à la manière forte, mais genre, Paris sans électricité, ça donne quoi sous 7 jours?

Vous sous-estimez je pense à quel point l'humain est dépendant de la technologie... Et encore plus depuis que comme des ânes la tête baissée, on fout à la poubelle tout ce qui est physique... De nos paiements aux livres, on fait tout pour que le physique disparaisse... Jusqu'au jour ou ... On viendra nous sortir: "Ah mais on pouvait pas le prévoir!"

avatar oomu | 

" Geoffrey Hinton estime que les deux entreprises sont désormais dans une compétition difficile à arrêter et pouvant avoir des conséquences désastreuses."

ouais ouais c'est passionnant tout ça

mais bon, on peut en finir de réguler les airbnb et autres "nouvelle économie du travail précaire sous enchère de merde" ? et ne pas détruire le RSA
et ne pas pousser les pays vers l'affrontement généralisé et d'immigration globale à force d'anéantir les territoires des gens ?

non ?

bon ben on peut continuer de bosser sur des menaces fantasmatiques aussi, hein. Après tout ça ressemble à des scénarios de films de hollywood, donc ça doit être bien plus rigolo.

Pour être clair: vos angoisses "robots ia" ne sont que du passe-temps, un loisir qui vous amuse.

avatar Dr. Kifelkloun | 

@oomu
"Pour être clair: vos angoisses "robots ia" ne sont que du passe-temps, un loisir qui vous amuse."

+1

avatar donatello | 

Passé un certain age, il semble que certaines personnes, qui ont eu une grande plus-value dans un domaine, trouvent comme moyen d'exister une position de vieux sage décalé.

Franchement, ce genre de discours alarmiste on le lit et on l'entend sur toutes les avancées techniques depuis des siècles.

Ça fait frémir le populo et vendre du papier, mais à part ça...

avatar Chris K | 

Il est peut être atteint d'une forme de nobelitis mais dans version Turing Award.

Pages

CONNEXION UTILISATEUR