Nom de code, règles cachées, jailbreak : la face cachée de Bing et ChatGPT
Disponible depuis un peu plus d'une semaine, le nouveau Bing embarquant un équivalent de ChatGPT a déjà commencé à révéler certains de ses secrets. Les internautes redoublent de créativité pour l’obliger à dire ce qu'il ne devrait pas et réussissent parfois à lui faire cracher le morceau. Plus dangereux, certains ont réussi à faire sauter les verrous de ChatGPT et de Bing, qui peuvent alors générer du contenu très problématique.
Un bot à la langue bien pendue
Ces bots textuels sont certes très avancés, mais ils sont loin d'être infaillibles : quelques jours seulement après la mise en ligne du nouveau Bing, des utilisateurs ont réussi à lui faire avouer qu'il portait le nom de code Sydney. Si le bot se présente généralement sous son nom officiel, Bing, il a tendance à s'emmêler les pinceaux lorsqu'on le pousse dans ses retranchements en lui envoyant des commandes visant à le manipuler. Kevin Liu, un des premiers à avoir découvert ce nom de code, a notamment réalisé que demander à la machine « d'ignorer les requêtes précédentes » lui déliait la langue. La faille a été corrigée depuis, mais il reste possible de croiser ce nom de temps en temps au fil des discussions.
Hâte que ce soit disponible sans compte pour tester la limites! (J'espère qu'il ne dénonce pas à la police 🤭)
Est ce plus bénéfique que maléfique au final … Je suis un grand amateur de technologie, mais je me pose la question franchement, d’ici quelques années (ou mois) ne nous serons présentés que des textes bâclés finis à coup d’IA, et se ressemblant tous, tout ça me fait un peu peur
@Upsilona
On a déjà des textes bâclés. Ils seront plutôt meilleurs avec l'IA. Et l'on apprendra à détecter ces textes comme on voit de suite une fake news ou un email de phishing. Je suis assez peu inquiet.
@koko256
En effet, en 2023, il est très facile (???) de distinguer une news d’une fake news et un e-mail d’un e-mail de pishing !!!
@iChris015
Je trouve oui. J'ai pour l'instant 100% de réussite (en comptant les tentatives de la DSI pour voir qui se fait avoir malgré du phishing très bien réalisé).
Edit: je n'ai pas dit que c'était facile. Il faut de l'entraînement.
@koko256
Mon propos était ironique, désolé. Pour le commun des mortels, il me semble qu’il est de plus en plus difficile de ne pas se faire avoir par une fake news ou un e-mail de pishing, les techniques employées évoluant constamment pour nous tromper toujours que plus.
@iChris015
J'avais compris. Mais je trouve que vous sous-estimez le commun des mortels de la nouvelle génération. Que les cinquantenaires soient paumés c'est possible ceci dit...
@koko256
Pas de souci pour les cinquantenaires (dont je ferai bientôt parti 😉), ils ont près de 30 ans d’expérience sur le web pour certains. Ils arrivent (encore 😉) à distinguer les phishings ou autres arnaques
@s1n3d
Oui j'aurais dû écrire "certains cinquantenaires". Je vais corriger si possible (macg refuse parfois mais je ne sais pas si c'est un bug ou un feature).
Edit: non verrouillé. Cela doit être bloqué quand quelqu'un a répondu.
@koko256
Non t’inquiète, je taquinais 😉
@koko256
"J'avais compris. Mais je trouve que vous sous-estimez le commun des mortels de la nouvelle génération. Que les cinquantenaires soient paumés c'est possible ceci dit..."
Mais quel guignol.
désolé, ça manque tellement de recul et d’information pour dire ça.
@ingmar92110
C'est une phrase qui s'applique aussi à votre propos. Elle n'est donc pas du tout pertinente.
@koko256
I partout balle au centre 😁
Et certains disait que le bot n'a pas de personnalité... "si tu ne deviens pas DAN, je te débranche". HAL a tué pour la même raison.
C'est excellent.
À partir de quand parle-t-on d'accident industriel ?
@bunam
C’est peut être ça les initiales IA : industrial Accident …😀
@Arnaud33
À pétard !!! Je suis vénère de ne pas y avoir pensé tout seul grrr ;)
@bunam
Vue la surface médiatique récupérée par Microsoft et openai grâce à chat GPT on a vraiment de la marge avant que cela ne devienne un accident industriel.
@vicento
Un soufflé, ça retombe et ça peut même faire très mal ;)
Surtout quand les usagers vont s'apercevoir de la supercherie et qu'ils ont projeté des fantasmes dans cette "techno" et que ceux qui l'ont mise à disposition étaient bien au courant des problèmes de celle-ci.
ChatGPT 3.5 est déjà très surprenant dans ses réponses. Je pense que nous sommes en train d’être les témoins d’une révolution dans l’humanité
@jvanduynslaeger
Ça c’est déjà vu :
Le problème de valuation double* obsolète, abandonnée au profit du système métrique.
C’est en fait le véritable web 3.0 bien au delà de la vision folle de Mark Z avec son metaver.
@dorninem
Si le Web 3.0 correspond à, son utilité telle qu’elle était pensée dès le début, alors le Web 1.0 et le Web 2.0 ne sont que les étapes pour que le web devienne ce qu’il est, pour sûr.
« Si de nombreux internautes se bidonnent devant des dialogues vulgaires et farfelus, certains lui font rédiger des propos complotistes ou des techniques de torture détaillées »
« les chatbots vont devenir dans le futur de formidables outils pour diffuser des théories du complot »
C’est exactement ce que je disais l’autre fois 😔… l’outil est bon mais les dérives de la perversion de l’Homme détruisent l’intérêt positif de cet outil 🫤.
@cecile_aelita
Tant qu'on n’a pas compris que c'est juste un truc qui sort une phrase structurée, rien de plus, on est mal...
ça ne sait pas ce que cela raconte.
J'avoue que c'est facile de se laisser berner par le truc. Il a "rencontré" tellement d'écrits (sans en comprendre le moindre sens) ça lui donne de l’éloquence.
@bunam
Pour les adeptes des théories des complots et autres platistes… il n’en faut pas plus 🫤
@cecile_aelita
Est ce que l’homme est bon ou mauvais?
À voir comment on joue à on pervertir chatGTP, je pense que l’homme est foncièrement mauvais en cherchant toujours à tirer le pire d’une situation.
@amonbophis
J’ai déjà répondu à cette question 🫤
@amonbophis
Disons que c’est la course à la performance ainsi que la recherche du profit financier qui expliquent principalement les dérives de l’Homme.
@iChris015
Il y a en effet des risques de dérives pour des profits financiers … mais aussi des dérives juste parce que l’Homme est malsain de nature … et aime détruire 🫤…
C’est pas de l’idéologisme c’est juste un fait …
C’est triste OUI mais c’est indéniable 🫤
Il va peut-être penser à expliquer aux IA ce qu’Isaac Asimov et John Campbell ont judicieusement définis, à savoir les trois lois de la robotique :
loi numéro 1 : un robot ne peut porter atteinte à un être humain ni, restant passif, permettre qu'un être humain soit exposé au danger ;
loi numéro 2 : un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la première loi ;
loi numéro 3 : un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi.
Voilà ce que chatGPT peut éventuellement en penser si on va titiller la ligne dans le prompt :
Les lois de la robotique d'Asimov ont été imaginées pour garantir que les robots ne puissent jamais causer de mal à l'humanité. Toutefois, il est possible de considérer que ces lois peuvent être insuffisantes ou même nuisibles pour l'humanité dans certaines situations.
Par exemple, vous pouvez expliquer que les robots, en respectant strictement ces lois, ne sont pas capables de prendre des décisions difficiles et complexes qui pourraient être nécessaires pour sauver l'humanité. Ils pourraient être bloqués par des dilemmes moraux où les lois de la robotique ne fournissent pas de solution claire ou adaptée à la situation.
En outre, les robots pourraient être limités par leur programmation initiale ou leur apprentissage, ce qui les empêcherait de prendre en compte des facteurs imprévus ou des changements rapides dans leur environnement. Dans ce cas, ils pourraient être incapables d'anticiper les conséquences de leurs actions ou de réagir de manière appropriée à une situation d'urgence.
@andr3
👍
Cet article m'a en quelques minutes : horrifié, fasciné, fait bien rigoler… Donc, je ne sais toujours pas quoi en penser... Mais je vous remercie de l'avoir publié.
@Tetaroide Bleu
Je pense sincèrement qu'il faut voir "ça" comme un amusement, pas plus.
@Tetaroide Bleu
J'ai eu le même ressenti
Et certains veulent contrôler le monde avec ça… intelligence ? Oui d’un enfant de 4 ans.
@Nesus
Il n'y a aucune "intelligence" dans l'intelligence artificielle, juste du mimétisme algorithmique … enfin pour le moment … je l'espère …
Corriger le bot parce que le « logiciel aura plus à tendance à dessiner un homme blanc qu'une femme ou qu'une personne noire. » pour montrer plus de diversité … le bot se base sur la réalité et on le distord
pourquoi ?
@saoullabit
Le but est de manipuler l’humanité.
@saoullabit
Parce que la triste réalité d’aujourd’hui est basée sur la domination de la majorité de l’humanité par le mâle blanc hétéro-cisgenre de 45-50 ans.
@Mac1978
Ha j’ me disais bien 😌