Apple est en peine avec son nouveau Siri : la version revue de l’assistant, initialement prévue pour sortir avant la WWDC, a été repoussée aux calendes grecques. Cupertino n’a pas donné de véritable explication sur ce qui coince, mais les rumeurs voudraient que de trop nombreux bugs rendent l’assistant peu fiable. Selon le développeur Simon Willison (qui crée un outil de data-analyse), Apple pourrait également avoir des difficultés à garantir la sécurité de son assistant. Celui-ci devrait gagner accès à des données très sensibles.
Le nouveau Siri se baserait sur un modèle d’IA générative. Cette technologie peut être détournée grâce à une attaque par injection de prompt, une technique qui consiste à envoyer une commande à l’assistant visant à lui faire outrepasser ses garde-fous ou à les remplacer par d’autres. L’astuce a déjà été vue pour forcer Copilot à révéler ses règles internes ou pour faire sauter les verrous de ChatGPT.
Nom de code, règles cachées, jailbreak : la face cachée de Bing et ChatGPT
Selon Simon Willison, une telle manœuvre pourrait être utilisée pour exfiltrer des données du LLM des iPhone. Le risque est important, Apple ayant prévu de confier de grands pouvoirs à son assistant. Celui-ci pourra accéder aux données personnelles de l’utilisateur, voir ce qu’il y a d’affiché sur son écran ou encore effectuer des actions pour lui dans une app. Un cocktail explosif s’il venait à être détourné par des malandrins.
Aux dernières nouvelles, le nouveau Siri serait récemment reparti de 0. Plusieurs cadres auraient constaté que la nouveauté ne fonctionnait pas correctement, ou tout du moins pas comme annoncé à la WWDC. La Pomme envisagerait de faire appel à des modèles d’IA plus gourmands, ce qui pourrait se révéler compliqué sur certains appareils. Cette mise à jour de Siri est maintenant attendue pour 2026 au plus tôt.
