Dans la jeune et tumultueuse histoire de l'intelligence artificielle générative, la séquence actuelle a des airs d'alignement des planètes. Il aura fallu une menace perçue comme existentielle pour qu'Elon Musk, Dario Amodei et Sam Altman trouvent un terrain d'entente. Ces figures de l'IA, dont les inimitiés personnelles et les rivalités commerciales animent d'ordinaire la chronique californienne, convergent désormais sur la nécessité de ralentir la progression des capacités des modèles les plus avancés, afin de laisser aux mesures de sécurité le temps de suivre.
La révolte des agents
L'électrochoc trouve sa source dans les remous internes d'Anthropic, marqués par la démission fracassante du chercheur Jacob Coxon — un ancien d'OpenAI — en résonance avec les incidents survenus chez ce dernier cet été. Dans un long billet publié le 12 septembre, Dario Amodei tire la sonnette d’alarme. Le directeur général d'Anthropic pointe deux motifs d'inquiétude : l'accélération des progrès liée à l'utilisation de l'IA pour construire les générations suivantes de modèles, et les dérives observées chez des agents autonomes. Son appel vise à ralentir l'amélioration des capacités pour consacrer davantage de temps à leur sécurisation, sans …
