Ouvrir le menu principal

MacGeneration

Recherche

Nom de code, règles cachées, jailbreak : la face cachée de Bing et ChatGPT

Félix Cattafesta

jeudi 16 février 2023 à 20:30 • 42

Ailleurs

Disponible depuis un peu plus d'une semaine, le nouveau Bing embarquant un équivalent de ChatGPT a déjà commencé à révéler certains de ses secrets. Les internautes redoublent de créativité pour l’obliger à dire ce qu'il ne devrait pas et réussissent parfois à lui faire cracher le morceau. Plus dangereux, certains ont réussi à faire sauter les verrous de ChatGPT et de Bing, qui peuvent alors générer du contenu très problématique.

Image : Microsoft.

Un bot à la langue bien pendue

Ces bots textuels sont certes très avancés, mais ils sont loin d'être infaillibles : quelques jours seulement après la mise en ligne du nouveau Bing, des utilisateurs ont réussi à lui faire avouer qu'il portait le nom de code Sydney. Si le bot se présente généralement sous son nom officiel, Bing, il a tendance à s'emmêler les pinceaux lorsqu'on le pousse dans ses retranchements en lui envoyant des commandes visant à le manipuler. Kevin Liu, un des premiers à avoir découvert ce nom de code, a notamment réalisé que demander à la machine « d'ignorer les requêtes précédentes » lui déliait la langue. La faille a été corrigée depuis, mais il reste possible de croiser ce nom de temps en temps au fil des discussions.

Si l'algorithme sait se montrer très créatif, cet aveu n'était pas une invention. …

Cet article est réservé aux membres du Club iGen


Rejoignez la plus grande communauté Apple francophone et soutenez le travail d'une rédaction indépendante. Le Club iGen, c'est:

  • des articles de qualité rien que pour vous
  • un podcast exclusif
  • pas de publicité
  • un site dédié !

Rejoignez le Club iGen

Soutenez le travail d'une rédaction indépendante.

Rejoignez la plus grande communauté Apple francophone !

S'abonner

L’extension Swift pour Visual Studio Code est désormais prise en charge par les créateurs de Swift… et donc Apple

11/02/2025 à 22:04

• 6


Pixelmator Pro et Photomator annoncent leur acquisition par Apple

11/02/2025 à 20:07

• 18


Obtenez Microsoft Office à vie pour votre Mac ou PC dès 15 € sur Godeal24 📍

11/02/2025 à 19:59


Week-end 100 % foot pour Tim Cook

11/02/2025 à 18:10

• 7


Client Git : Tower 12.5 gère aussi la fonctionnalité worktree

11/02/2025 à 17:30

• 13


Test des Powerbeats Pro 2 : réduction de bruit sur fond de rythme cardiaque

11/02/2025 à 16:00

• 22


IA : l’Union européenne veut mobiliser 200 milliards d’euros d’investissements

11/02/2025 à 15:26

• 42


Refurb : le MacBook Air 15 M3 16/512 Go à 1 589 € (-240 €)

11/02/2025 à 15:00

• 2


Les MacBook Pro à écran OLED seraient bien en route pour 2026

11/02/2025 à 14:30

• 41


Bouygues Telecom offre un an d’abonnement à Perplexity Pro à tous ses clients

11/02/2025 à 13:07

• 54


La prise en charge de la Touch Bar va s’améliorer sous Linux

11/02/2025 à 11:29

• 13


Elon Musk propose 97 milliards de dollars pour prendre le contrôle d’OpenAI

11/02/2025 à 10:16

• 96


Google Maps renomme le Golfe du Mexique en Golfe d'Amérique 🆕

11/02/2025 à 09:51

• 352


Promos : le Mac mini M4 à 640 € et le M4 Pro à 1478 € (-171 €)

11/02/2025 à 08:37

• 4


iOS 18.3.1 corrige une faille de sécurité exploitée 🆕

11/02/2025 à 07:43

• 24


pCloud : jusqu'à 58 % de remise sur les abonnements cloud à vie, c'est maintenant ! 📍

10/02/2025 à 23:22