IA « responsable » : OpenAI, Microsoft et Google forment un nouveau lobby
OpenAI, Microsoft, Google et Anthropic viennent d'établir le Frontier Model Forum, un nouveau groupe d'intérêt axé sur « le développement sûr et responsable des modèles d'intelligence artificielle de pointe ». Ce lobby, puisque c'est de ça qu'il s'agit, aura comme missions d'encourager les bonnes pratiques de sécurité au sein de l'industrie ainsi que d'échanger avec les politiques et la société civile sur les répercussions de l'IA dans le monde.
Avec cet organisme commun, les quatre entreprises entendent répondre aux craintes grandissantes autour du développement et de la diffusion des IA génératives. Elles espèrent aussi pouvoir influer sur les projets de réglementations en cours.
Cette annonce intervient à peine une semaine après la rencontre entre sept entreprises majeures du secteur et Joe Biden, rencontre pendant laquelle le président américain a appelé l'industrie à s'auto-réguler, en attendant une éventuelle loi sur le sujet. Amazon, Anthropic, Google, Inflection, Meta, Microsoft, et OpenAI se sont engagés à respecter trois principes vagues : vérifier que leurs produits soient sûrs avant de les rendre public, faire de la sécurité une priorité absolue et gagner la confiance des utilisateurs en faisant preuve de transparence.
De son côté, l'Union européenne est en train de préparer l'AI Act, une grande loi qui encadrera les nouvelles technologies d'intelligence artificielle. OpenAI a d'ores et déjà essayé de peser pour que la réglementation ne soit pas trop contraignante pour ses produits. Le Frontier Model Forum, qui pourrait accueillir de nouveaux membres, devrait continuer le boulot de lobbying.
IA « responsable » : le bal des faux QI
typique : en europe on légifère et aux usa on demande au marché de se réguler
ce sont deux visions un peu en miroir, les deux ayants leurs points positifs et négatifs.
rdv dans 10ans pour voir ce que ca aura donné
@raoolito
C’est un peu comme de demandé à un camé de surveiller ton tas de coke ! C’est malin
La soft law du droit anglo-saxon qui pourtant imprègne depuis longtemps le droit européen et de plus en plus le droit français (avec une accélération ces dernières années)… Régulation ou réglementation ?
Si l'ensemble des acteurs ne sont pas parties prenantes (industriels, consommateurs/citoyens, politiques) et de la base au sommet, cela fonctionne en fait rarement, cela donne juste un avantage à quelques uns mais pas à la cause en elle-même.
Et encore plus dans la tech. C'est la réglementation et toucher au portefeuille qui fonctionnent réellement. Rien d'autres.
Bref, encore un lobby qui va tenter de faire avancer son petit business sans être trop embêté… On peut s'étonner de l'absence de Meta, mais dans le domaine de l'IA, elle semble quasiment faire cavalier seul et avoir des positions plutôt sincères, ce qui est plutôt étonnant vu les casseroles de cette société (pour l'instant du moins…). Est-ce lié aux (fortes) personnalités en charge de l'IA chez eux ?
@raoolito
je reviens de dans 10 ans:
- des produits plus ou moins merdiques IA mais fonctionnels, vendu par un quasi monopole d'une société américaine
- des solutions alternatives plus ou moins viable un peu partout
- des textes plus ou moins forts par les pays non-américains d'utiliser d'autres solutions, au moins pour ce qui est du gouvernement
- un nouveau truc super-luminique que le gartner a dit que ça fera 3600 TRILLIARDS de $ de marché, qu'il est urgent de "comprendre mais pas freiner que vive l'innovation", avec plein de gens qui se méfieront et le pépésident (du jour) des USA ou ailleurs selon qui a gagné, qui dira qu'il est urgent de rien faire.
dans 10 ans, quantité de métiers auront été détruits, et les impacts délétères d'entités commerciales vendant des IAs pour tout et rien seront vaguement débattus, mais on aura bien pire à s'inquiéter et y aura des aides et salaires de vie pour éviter que la population brule tous les abris de bus.
dans 10 ans ? et bien, à part avoir vu Oppenheimer "now it's nuclear" 3, pas grand chose a changé.
Sur ce, je retourne me plaindre des réseaux (as)sociaux X et des nuages.
« le président américain a appelé l'industrie à s'auto-réguler »
————
Excellente idée.
L’histoire nous a bien démontré les bénéfices de l’auto régulation.
Il fallait bien un président pour y penser.
@MarcMame
En Europe c’est guère mieux !😅
Dès qu’on essaie de mettre en place un truc… immédiatement après on a 60 millions de génies spécialistes en tout qui nous expliquent que c’est mal fait et que les gouvernements n’y connaissent rien … donc bon 😋!
Je ne suis pas certaines qu’il y ait vraiment une recette miracle 🫤
@cecile_aelita
"En Europe c’est guère mieux !😅"
c'est mieux en Europe.
"Dès qu’on essaie de mettre en place un truc… immédiatement après on a 60 millions de génies spécialistes en tout qui nous expliquent que c’est mal fait et que les gouvernements n’y connaissent rien … donc bon 😋!"
ET ILS ONT RAISON !
Le pouvoir politique doit TOUJOURS ET ÉTERNELLEMENT mis sous pression, critiqué, décortiqué et surveillé
aussi, si y avait vraiment , "60 millions" de "génies" (votre ironie est inutile), alors le consensus serait facile : 60 millions de CITOYENS ne pourraient pas avoir simultanément tort
ils seraient probablement dans le vrai pour décrire une position commune, et serait une force politique incontournable à écouter.
Il existe une recette miracle de 5000 ans d'histoire humaine: LA Régulation ! Les choses doivent être ralenties devenir des sujets de société, et régulées pour limiter les impacts négatifs et diffuser leur usages à tous.
Ni l'interdiction donc à la russkof, ni le jean-foutre à la ricaine.
Mais encore une fois: un minimum d'humilité: oui les gens, tout autour de vous, constamment, sans le moindre doute aucun, ont RAISON de se saisir de la chose politique et technique pour en parler et décider.
En particulier dans ce forum orange de tout ce qui est informatique: vous avez ici un paquet d'ingénieurs en circulation: évidemment qu'ils ont des opinions _éclairées_
et se moquer d'eux ne les rendra ni invisibles, ni leur fera fermer la gueule (seul le bâton permet cela) ni les rendra inutiles
Tous les commentateurs ont raison d'avoir une opinion technique, politique et économique et de la communiquer. A vous de vous démerder avec tout ça ensuite. Vous n'êtes pas obligé d'y adhérer. Mais autrui fera sans vous.
@oomu
« aussi, si y avait vraiment , "60 millions" de "génies" (votre ironie est inutile), alors le consensus serait facile : 60 millions de CITOYENS ne pourraient pas avoir simultanément tort »
C’est là que c’est fort (suffit de lire les commentaires..) c’est qu’ils trouvent tous le moyens de ne pas être d’accord 🤭!
A se demander si quand ils commencent un commentaire, il n’y a pas déjà la phrase « non tu as tort car …. » de pré écrit pour gagner du temps 😋!!
Humour évidement 😉
@cecile_aelita
vous lisez des cas particuliers, ou vous ne cherchez pas ce qui les rapproche. Pourtant se dégage de la masse des commentaires des consensus
on voit apr exemple, comment une majorité des utilisateurs ici sont critiques des réseaux (as)sociaux, la défiance qu'ils ont envers la moindre communication d'Apple et leur fatalisme vis à vis des IA.
je lis (trop) les commentaires, et on voit bien que la plupart pensent que:
- trop cool les ias
- on peut rien y faire, waaAAAAAh
- ça va tout changer en mal
- Terminator mec, TERMINATOR !!
il n'y a pas même sur ce forum 50 commentateurs qui ont 50 opinion différentes. On peut en dégager des tendances. Si on faisait un tableau (je ne le ferai pas), ça serait encore + évident qu'il y a bel et bien des consensus qui se dégagent de l'ensemble des commentaires.
Ma propre "opinion" (yurk...) n'est pas bien différente de la plupart de ceux qui commentent le plus ici.
Tout ce que je dis c'est d'avoir de l'humilité envers autrui. On est tous l'abruti de quelqu'un d'autre.
@oomu
Ah mais étrangement il y a toujours des consensus dès qu’on ajoute des contraintes aux gens (contraintes qui malheureusement des fois sont obligatoires et nécessaires car oui rêver du monde idéal ou tout le monde est responsable et va œuvrer pour le bien commun… ça ne marche pas 😅)… ou alors des contraintes qui ne nous concernent pas ^^.
Je vais vous citer un exemple magique de l’intelligence humaine 🙂.
Dans notre copropriété qui est immense (850 co propriétaires), il y a eu au cours de la réunion de copro de 2019, un point évoqué pour « retirer une souche d’arbres au milieu du chemin devant un des bâtiments de la copro »… l’absurdité de la chose c’est qu’il fallait qu’il y ait 50% des voix de toute la copro « POUR » pour que le vote soit adopté (alors que au final … ça ne concerne que eux) …
Hors ce chemin est très isolé et ne dérange QU’UN bâtiment … mais les propriétaires de la tour avait accepté (visiblement d’après la régie c’était possible) que les frais ne soit à la charge QUE des habitants de cette tour … donc les 14 autres bâtiments n’auraient rien eu à payer … il fallait juste que le vote soit adopté pour que les travaux puissent se faire …
Donc vous avez compris 0€ demandé pour les 14 bâtiments … la seule chose que demandait les habitants de cette tour … c’était d’accepter ces travaux gratuits … et bin ça n’a pas pu se faire car il y a eu moins de la moitié qui ont accepté…
Car l’être humain est individualiste au plus profond de lui … et c’est dramatique !
Penser à la collectivité et pas à son nombril c’est quelque chose que l’être humain ne sait pas faire …
Allonger les temps de retraites … bizarrement tout le monde se bat … vu que ça concerne les gens ! Par contre si cela avait été rallonger la retraite que des artisans .. bizarrement il n’y aurait eu que les artisans qui se seraient battu … car on en aurait eu rien à faire 🫤… pire certains auraient même trouver des raisons valables pour que ça se fasse (alors que si cela avait été pour leur profession … bizarrement… cette même règle n’aurait pas eu le même goût lol😅).
Bref désolé pour mon roman😋😉
@cecile_aelita
Et bin moi que si j’avais été locataire d’un des autres bâtiments et bin j’aurais voté CONTRE.
Pour une fois que j’aurais donné mon avis, j’aurais voulu pas faire comme tout le monde parce que j’aurais montré que j’existe, que je me distingue dans le troupeau ! Bon… là c’est con… on est plein qu’on a voulu montré qu’on existe !
Et puis bon… c’est quand même louche ce truc ou on nous dit qu’y a rien à payer si on dit qu’on est POUR, au moins quand chuis CONTRE c’est sur y’a rien à payer !
Et puis si y sont pas content y déménage ! Non mais !!
l'égocentrisme étant une valeur cardinale de la nature (connerie ?...) humaine point de salut pour ces projets de referendum populaire...
@jujulec
« si j’avais été locataire d’un des autres bâtiments et bin j’aurais voté CONTRE. »
Une chance pour nous que les locataires ne votent pas 😂
@cecile_aelita
Et pan sur le bec !
Ça m’apprendra à balancer des jugements à l’emporte-pièce sur la nature humaine…
@jujulec
Une erreur n’en est une que si on la refait 🙂!
Il vous suffit de ne plus la refaire et ce n’en sera pas une 😉
@oomu
Votre message est (il faut le souligner) plutôt intéressant ! Je dois l’admettre 🙂.
Il y a beaucoup de bon sens dans ce que vous dites, et étrangement je suis même d’accord avec ce que vous dites (ce qui est encore plus choquant ici 😝).
Mais j’avoue que si de temps en temps on pouvant vivre dans un autre monde que celui où tout est toujours gris ou tout est nul tout est pourri etc avec des « négation » dans chaque phrase « je propose A « non A c’est nul, je veux B… ok alors faisons B : non B c’est nul aussi je ne veux pas B »etc etc (bref vous voyez parfaitement ce que je veux dire même si votre future réponse avec le sarcasme dont vous avez le secret (et le talent il faut l’admettre) semblera dire le contraire 😋) !
Vivre dans un petit monde de bisounours de temps en temps, ou la vie est rose et où les gens voient le verre à moitié plein de temps en temps plutôt que de systématiquement voir le verre vide … ça pourrait être intéressant de tester pour voir 🙂!
En tout cas … pour vivre dans ce monde il y a une solution simple : se couper d’internet lol.
@ cecile_aelita
"Vivre dans un petit monde de bisounours de temps en temps, ou la vie est rose et où les gens voient le verre à moitié plein de temps en temps plutôt que de systématiquement voir le verre vide … ça pourrait être intéressant de tester pour voir 🙂!"
Ben c'est ici le monde des bisounours.
Un monde de blanc qui ont les moyens de se payer des produits Apple et qui ont un capital social et culturel important.
C'est une petite minorité de la population dans chaque pays.
@M1Alex
« Un monde de gens qui ont les moyens de se payer des produits Apple et qui ont un capital social et culturel important.
C'est une petite minorité de la population dans chaque pays. »
Y’a du vrai en effet là dedans !
Alors se plaindre parce sur l’iPhone ne fait pas si l’iPhone ne fait pas ça … c’est cracher sur le monde de pseudo bisounours 🫤
@MarcMame
le gag habituel. Mais on ne va pas reprocher à un américain d'être américain
et de leur point de vue, ces entreprises vont faire de l'argent et elles sont américaines. Le politicien pourra réguler plus tard, à tout moment, quand il jugera que c'est opportun pour la politique.
sigh...
et voilà comment le "premier" et les gros verrouillent un marché et font de leur business un énième sujet politique consensuel et qui va de soi.
effectivement comme dit vincentm, la réglementation contre la régulation...
Apple la plus grosse boîte du monde et dramatiquement absente. Quant à l’Europe et son Thierry Breton, ce n’est plus un régulateur, mais un freineur.
J’espère qu’il fera un peu mieux avec l’Europe que ce qu’il a fait avec Bull, Thomson ou France Télécom
@fredazou
Il a aussi été ministre de l’économie, concepteur du Futuroscope et initiateur de la stratégie ZeroEmail. Contrairement au Titanic cet homme est impossible à couler 😅 J’avais lu ses romans techno dans les années 90, Softwar et Netwar.
Comme pour les réseaux sociaux et éditeurs de contenus. Responsabilité pénale des dirigeants pour tout ce qui est diffusé.
Comme tout dirigeant de société est responsable pénalement.
IA "responsable" : les guillemets sont bienvenus dans ce titre, car parler de la "responsabilité" de ce qui n'est finalement qu'un machin créé par des humains, ça serait un peu osé. Rien que pour l'intelligence humaine, en cherchant simplement sur Wikipedia, le Robert et scienceshumaines.com, on s'aperçoit que la recherche d'une définition pourrait être le travail de toute la vie d'un philosophe...
Sans mettre en cause l'utilité des travaux des chercheurs spécialistes du sujet (de l'IA), il est bon d'insister sur le fait que la notion de responsabilité doit être réservée à des actions d'origine humaine.