L’intelligence artificielle est « potentiellement plus dangereuse que les armes nucléaires » a prévenu Elon Musk, fondateur et patron de Tesla et de SpaceX. Cette même IA est « notre plus importante menace existentielle », craint Stephen Hawking, le célèbre physicien anglais. Nous n’en sommes pas encore aux flottes de Terminator de Skynet ou aux Sentinelles exterminatrices de Bolivar Trask (X-Men), mais de plus en plus de grands esprits s’alarment des avancées des technologies liées à l’intelligence artificielle et du potentiel désastreux qu’il y aurait à voir les armées développer des systèmes de défense entièrement autonomes. Et si les armes intelligentes, devenues complètement hors de contrôle, venaient à s’en prendre à l’humanité toute entière ?
Dans une lettre ouverte présentée à l’occasion de l’IJCAI (les conférences internationales sur l’intelligence artificielle qui se tiennent à Buenos Aires), plusieurs grands noms appellent les gouvernements du monde à interdire le développement d’armes offensives autonomes afin d’empêcher une course à l’armement qui pourrait bien signer notre perte. Elon Musk et Stephen Hawking sont signataires, tout comme Steve Wozniak le cofondateur d’Apple, Noam Chomsky le penseur américain, et d’autres chercheurs.
Les drones ou les missiles téléguidés peuvent continuer à patrouiller dans les cieux : ce sont des soldats humains qui prennent les décisions. En revanche, le développement d’armes autonomes est à proscrire, estiment-ils. « Si une puissance militaire de premier plan commence à investir dans les armes autonomes, une course à l’armement sera virtuellement inévitable, et la finalité de cette trajectoire technologique est évidente : les armes autonomes deviendront les Kalashnikov de demain ».
À l’instar des biologistes et des chimistes qui n’ont aucunement envie de participer au développement d’armes biologiques, ces chercheurs ne veulent pas aider à la conception d’armes autonomes, ce qui pourrait provoquer un rejet de l’IA chez le grand public et réduire les bienfaits de cette technologie, explique la lettre. Celle-ci n’est adressée à personne en particulier, mais elle peut servir à éveiller les consciences autour de cette problématique de plus en plus importante.
