IA « responsable » : le bal des faux QI
« Nous pensons que l'intervention du gouvernement est nécessaire pour limiter les risques posés par cette technologie qui devient de plus en plus puissante. » Cette phrase n'a pas été prononcée par un membre de la Commission européenne, mais par le patron d'OpenAI. Lors de ses récentes rencontres avec les autorités du monde entier, Sam Altman n'a cessé d'appeler à la régulation du secteur de l'intelligence artificielle. L'entrepreneur veut-il vraiment que son ChatGPT soit fermement tenu en laisse ? Pas tout à fait.
En coulisses, OpenAI essaye de peser pour que les régulations ne soient pas trop contraignantes. C'est ce que révèle le magazine Time, qui a pu consulter des documents soumis par OpenAI à la Commission européenne dans le cadre de discussions autour de l'AI Act, le grand projet de règlement européen sur l'intelligence artificielle. Plusieurs modifications suggérées par l'entreprise ont trouvé leur chemin jusqu'au texte voté par le Parlement européen le 14 juin — il reste encore d'autres étapes avant la finalisation à la fin de l'année. OpenAI a notamment obtenu que les intelligences artificielles génératives, comme ChatGPT et DALL-E, ne soient pas considérées comme étant à « haut risque », ce qui aurait conduit à des règles plus strictes en matière de transparence ou de contrôle.
L'étoile montante de l'industrie n'est pas la seule à tenir un double discours. Microsoft prétend également vouloir bâtir une « IA responsable » avec de grands principes tels que l'équité, la fiabilité et la sécurité, mais trop soucieux de ne pas se faire doubler, le groupe n'en a pas tenu compte au moment de lancer son Bing infusé à GPT.
Le Wall Street Journal rapporte en effet qu'OpenAI a recommandé à Microsoft de prendre son temps pour intégrer GPT-4, une version alors inédite, afin de réduire les risques d'erreurs factuelles ou de réponses incongrues. Mais trop content de couper l'herbe sous le pied à Google, Satya Nadella s'est empressé de lancer le nouveau Bing… et ce qui devait arriver arriva. Manipulé par des internautes, ce Bing était capable de perdre la tête, au point que Microsoft a dû lui mettre rapidement une camisole de force. Était-ce bien « responsable » de sortir une IA dans un tel état ? Non, mais en attendant, Bing a connu un succès comme jamais.
Google aussi vante une « IA responsable » dans laquelle on peut avoir confiance. Mais dans le même temps, le géant du web demande à ses employés de faire preuve de beaucoup de précaution avec les robots conversationnels, y compris le sien. D'après Reuters, Google conseille en effet à ses salariés de ne pas entrer d'informations confidentielles dans les Bard, ChatGPT et autres Bing. L'entreprise craint que ces informations soient lues par les opérateurs humains chargés d'améliorer ces services ou qu'elles soient absorbées puis recrachées à tout venant par les IA. Bard n'est d'ailleurs toujours pas disponible en Europe en raison des forts doutes qui pèsent sur sa conformité au RGPD.
Jusqu'à l'année dernière, Google s'était pourtant astreint à garder son IA générative entre ses murs. Mais le lancement de ChatGPT et la pression concurrentielle de Microsoft ont poussé Sundar Pichai à libérer sa technologie qui, en étant intégrée à son moteur de recherche, pourrait bouleverser le web.
Et que dire d'Elon Musk qui, le même mois qu'il signait une pétition militant pour une pause dans le développement des IA, créait une nouvelle entreprise devant rivaliser avec OpenAI ? Force est de constater que la course folle lancée par ChatGPT n'incite pas l'industrie à se réguler et se responsabiliser de son propre chef, c'est même le contraire.
Témoignages : « ChatGPT, c'est un réflexe désormais »
🍿 🍿 🍿
IL est URGENT de restreindre les (nouveaux hein, nous on est cool, on est installé) ENTRANTS ! rAAAH
signé: une personne totalement impartiale sans aucun conflit d'intérêt, hohého, je le connais à peine mon cousin!
@oomu
Exactement !!!
Que veut dire QI dans ce contexte ?
@ratz
Pareil, j’ai pas compris. J’imagine que c’est un jeu de mots avec faux-culs, mais je ne vois pas pourquoi QI spécifiquement.
@Ali Baba
Parce que ces IA sont censées être intelligentes ?
Nicolas Furno
Elles écrivent déjà beaucoup mieux que la plupart d'entre nous.
Et on lui ne demande pas d'être intelligente mais de rendre service dans un domaine.
Et que ce service soit bien rendu.
@rikki finefleur
« Et on lui ne demande pas d'être intelligente » via leur nom, si…
@nicolasf
Les LaLaMo/GraMoLa auront fait un bond en avant quand ils seront capables de générer un titre de la qualité de ce « bal des faux QI ».
En attendant, go •…
IA est une insulte à l’intelligence humaine et souligne surtout la fainéantise du genre humain et l’idiocracy qui a besoin de plus en plus d’artifices.
C'est juste que l'ia est plus rapide et plus puissante. Lorsque tu fais une addition avec ta calculette , le processeur peut faire des millions d'opération.
L'homme n'est pas tout puissant.
Aujourd'hui l'ia est capable de battre un champion du monde d'échecs et on ne peut pas le traiter de fainéant comme tu le fais.
Hier on labourait les champs avec des chevaux, c'était dur, puis est venu le tracteur. Les fermiers étaient ils des faignants ou prenaient-ils un matériel moderne pour s'éviter des taches ingrates ?
Ben maintenant on sait que c’était des faignasses qui ont pourrit la terre et la planète.
@rikki finefleur
Ça c’est de la mauvaise fois. Tout ne se vaut pas !
1- l’ia n’a aucune raison d’exister pour soi-même. Une machine n’a aucun besoin existentiel. Je vois déjà des gens (malades) qui s’interrogent sur le droit des robots…
On est au delà des outils par l’Homme pour l’Homme.
Quand une lA est programmée pour jouer aux échecs, ça n’a strictement et objectivement aucune utilité pour l’Homme car celle-ci est rendu imbattable surtout couplée avec les ordinateurs quantiques.
2- Et oui les Hommes doivent faire des efforts pour se surpasser et s’entraîner aux échecs en fait parti. Cela a toujours été le cas de tout temps. Mais l’Homme devient de plus en plus fainéant et con, imbus de lui-même aveuglé par son ego qui fait de la gonflette à coups de pouces bleus…
Il y a une différence entre inventer une machine mécanique qui facilite le travail manuel répétitif de l’homme et une machine qui remplace l’homme et son intelligence et sa créativité. Là c’est non seulement inutile mais dangereux.
Vous avez raison l’homme n’est pas super puissant comme Batman ou superman. Et il a des limites. Mais c’est à l’Homme d’accepter ses limites et s’en aguerrir. La courses du toujours plus n’est pas une solution d’avenir. Et surtout philosophiquement n’a aucun sens.
Sinon tant que vous y êtes exterminons tous les Hommes et tant sinon y est tout les êtres vivants et remplaçons tout ça par des machine qui n’ont aucune raison d’être se débrouiller tout seul de manière autonome.
Il y a un effondrement cognitif universel dû à la multiplication des écrans et à la fainéantise et nous plongeons dans l’idiocracy généralisé. L’ia paraît alléchant pour pour certain qui y voit un palliatif à cet effondrement.
La question de L’iA soulève intrinsèquement la question éthique et philosophique existentielle. Pour se forger une pensée lucide et prendre assez de recul voici quelques…
…conseils de lecture non exhaustive mais les indispensables :
1984 - George Orwell
Le Meilleur des Mondes - Aldous Huxley
La Malediction de L’intelligence - Aaron Clarey
Les Barbares, Essai sur les Mutations - Alessandro Baricco
Sociologie du Gamer - Adrien Sajous
Neuro-Pirates - Lucien Cerise
Psychologie des Foules - Gustave Le Bon
Discours de la Servitude Volontaire
Révolte Contre le Monde Moderne - Julius Evola
Comprendre l’Epoque - Alain Soral
Conseil de films non exhaustifs mais indispensable :
Idiocracy - Mike Judge
Matrix - Les frères Wachowski
The Circle - James Ponsoldt
A.I. Intelligence Artificielle - Steven Spielberg
L’Homme Bicentenaire - Chris Columbus
Bienvenue à Gattaca - Andrew Niccol
Ready Player One- Steven Spielberg
Clones - Jonathan Mostow
Megan - Gerard Johnstone
Track sur internet - Irwin Winkler
Hackers - Iain Softley
Blade Runner - Ridley Scott
Blade Runner 2049 - Denis Villeneuve
Upgrade - Leigh Whannell
2001 : L'Odyssée de l'espace - Stanley Kubrick
iRobot - Alex Proyas
Transcendance - Wally Pfister
L’Oeil du Mal - D.J. Caruso
Wall-e - Andrew Stanton
Johnny Mnemonic - Robert Longo
@JePiCol
C'est juste un outil informatique.
Une continuité de cette dernière.
A ce moment là c'est l'informatique qu'il faut bannir, car bien des métiers ont du changer à cause de celle-ci.
Certains gens contre l'ia, parlent de l'extermination de l'homme , je ne vois pas le rapport.
Sans doute pour faire peur. L'homme est déjà assez bête pour s'auto-détruire.. avec ou sans l'informatique.
La Russie dispose de 4000 têtes nucléaires et depuis longtemps.. Pareil pour les us.
Bref , de toutes manières bien des choses vont changer des bonnes et aussi des moins bonnes. A moins d’arrêter de chercher, et de freiner le progrès technique, cela sera difficile.
Les hommes politiques parlent de l'IA comme d'une chose, alors que ce n'est que de l'informatique appliquée, aussi bien dans du travail de l'esprit, de la conception, de la recherche, de du diagnostic, de la prévention.. etc.... et les applications multiples et sectorielles qui en découleront. L'IA n'est pas une chose, mais de l'informatique appliquée à des objets et des scénaris.
Serons nous plus heureux avec ? Je ne le pense pas, pas plus que ce formidable outil dit de communication, qu'est l'internet, qui finalement font que les gens ne se rencontrent plus et sont rivés à des écrans partout du matin au soir..
Pour avoir vécu dans un monde avec et sans internet, nous voyons qu'aujourd'hui que le seul objectif des gafam (toutes) est que nous restions les fesses sur notre canapé, que nous y restions (*2) afin d'absorber du contenu sur notre siège, impassible . Et le casque d'Apple est bien dans cette veine. Qui s'est plaint de cela ? C'est pourtant bourré d'IA, maintenant et à venir. Un beau monde pourri en fait.
C'est comme de dire que la mondialisation n'est pas un problème puisque de tous temps on a commercé.
@JePiCol
"Il y a une différence entre inventer une machine mécanique qui facilite le travail manuel répétitif de l’homme et une machine qui remplace l’homme et son intelligence et sa créativité. Là c’est non seulement inutile mais dangereux. "
Donc seules les avancées mécaniques sont utiles ?
Un doc type Excel qui permet des publipostages, évitant de se cogner des centaines de saisies manuelles, est donc futile puisque c’est du numérique et de l'automatique ?
Bah oui ou pourrais prendre/perdre 4 ou 5 heures et le faire manuellement plutôt que de laisser un ordi le faire à notre place pendant que l'on fait autre chose de moins rébarbatif.
-----
"Vous avez raison l’homme n’est pas super puissant comme Batman ou superman. Et il a des limites. Mais c’est à l’Homme d’accepter ses limites et s’en aguerrir. La courses du toujours plus n’est pas une solution d’avenir. Et surtout philosophiquement n’a aucun sens. "
Mais c'est justement par ce que l'homme connait ses limites qu'il créé des machines/outils qui lui permettent de partiellement s'en affranchir.
C’est aussi de la créativité que de trouver des solutions à ses problèmes et de faire en sorte de se faciliter la vie.
---
"La question de L’iA soulève intrinsèquement la question éthique et philosophique existentielle"
L'IA est une illusion dans son nom.
Ces programmes/logiciels n'ont rien d'intelligent en réalité.
Ce qu'ils font n'est rien d'autres que de l'analyses de bases de données pour laquelle ils ont été programmés, mais à une échelle infiniment plus grandes que nous ne pourrions le faire en terme de temps et de sources de données (combien de temps pour lire pléthore de bouquins d'une bibliothèque public et y trouver une info recherchée, pour un être humain ? Combien pour une IA analysant une base de donnée équivalente à la bibli en question ?).
La seule véritable question que pose l'IA est de savoir si l'espèce humaine doit être prise comme exemple comme source d'apprentissage ?
Car immanquablement tout ce que les IA vont analyser viendra de ce que nous, humains, leur auront mis à disposition.
Savoir si la "base de donnée humaine" est bonne ou néfaste dépend de la perception que chacun à de l'humanité.
@JePiCol
Dans vos conseils de lecture, on pourrait ajouter Dune de Frank Herbert et les prémisses de Dune par Brian Herbert (fils du précédent) avec sa guerre contre les machines, le djihad butlérien et son mot d'ordre "tu ne construiras pas de machine semblable à l'esprit de l'homme" ; on se demande si la fiction n'est pas en train de rattraper la réalité.
@rikki finefleur
Et avoir la moyenne au bac de philo même si une IA ne sait pas penser
https://www.numerama.com/tech/1415146-vous-navez-pas-besoin-de-neurone-pour-avoir-votre-bac-de-philo.html
Pour les curieux : https://www.alt-gr.tech/history-of-ai
Tout ça est une vaste blague.
J'ai beaucoup aimé cet article sur un meme qui circule dans le petit monde de l'IA (avec un Shoggoth) et qui est assez révélateur.
https://www.nytimes.com/2023/05/30/technology/shoggoth-meme-ai.html
--
Dans un autre genre mais du même journal, les types du podcast Hard Fork parlaient des craintes autour de l'IA, et d'interrogations que beaucoup se posent sur la véracité de la menace. Je paraphrase, je ne me souviens plus bien : "Parce que présenter son produit comme ça, ça permet aussi de dire qu'il est extrêmement important et puissant.
- C'est sûr qu'aujourd'hui, si tu es dans la Silicon Valley et que tu dis que tu travailles sur un outil de gestion de clients pour Salesforce alors que tu pourrais bosser sur un produit qui peut éradiquer toute l'humanité, tu passes un peu pour un rigolo."
@jackhal
Autrefois il y avait des commerciaux qui sillonnaient la France , faisaient des rencontres avec des humains, échangeaient réellement, présentaient des techniques, des produits .. découvraient aussi à l'occasion d'autres paysages et d'autres cultures.
Est ce que Salesforce, le clic bouton clic, est une avancée pour l'humanité?
Peut-être que ces gens devraient se poser des questions sur l'actuel.. car niveau déshumaniser les relations , salesforce et autres cie se posent là , mais personne n'en parle..
@rikki finefleur
Je crois que tu n’as aucun idée de ce qu’est SalesForce (mon agence est platinum partner). SalesForce ne remplace pas les commerciaux, mais il remplace le bloc-notes avec lesquels ils faisaient leur rapport de visite. C’est l’outil de travail des sales rep. Ensuite il permet de générer plein de rapports sur le pipeline de vente. Mais tout y est encodé par des humains.
A la limite tourne ta critique vers Teams ou Zoom, l’e-mail, les messageries ou même le téléphone… qui eux, ont énormément contribué à réduire le nombre de visites humaines.
"Plusieurs modifications suggérées par l'entreprise ont trouvé leur chemin jusqu'au texte voté par le Parlement européen le 14 juin"
Un boulevard ouvert aux lobbies (:-()
"bal des faux QI" : les AI (ou IA chez nous) ne connaîtraient-elles que les claviers anglais (RU, USA, Canada...) ?
la course folle lancée par ChatGPT n'incite pas l'industrie à se réguler et se responsabiliser de son propre chef, c'est même le contraire.
L'industrie se « responsabiliser » ? 😳
Vous avez vu ça où ?
Y a qu'a regarder les questions environnementales, l'industrie ne veut pas se « responsabiliser ». Priorité absolue aux bénéfices des actionnaires.
La raison principale pour laquelle ils appellent à une régulation de leurs outils devenus trop "dangereux" et "puissants", c'est pour le marketing : promouvoir leur produit en disant qu'il est trop puissant et va changer le cours de l'histoire. Rien de mieux que ça pour prendre le relais de croissance dans le secteur. Après les crypto, les NFT, le metaverse, ils cherchent la nouvelle connerie à nous vendre.
@JePiCol
Très bien vos conseils de lecture : continuez à ajouter des auteurs d’Extrême-Droite (voire fascistes) des fois que Julius Evola et Alain Soral ne feraient pas trop tâche…
Et puis comme ça semble passer crème, vous auriez vraiment tort de vous gêner…
Comme ça, vos bons lecteurs pourront faire comme l’IA, bâtir des théories et un corpus à partir de (vraiment) n’importe quel contenu…