Des centaines de scientifiques réclament un organisme international pour recenser les incidents IA
Des centaines de scientifiques réclament un organisme international pour recenser les incidents IA
De 225 à 400 signataires selon les éditions : des chercheurs en IA et en cybersécurité, dont Bengio et Hinton, réclament mardi 13 octobre des changements immédiats. Leur lettre propose un organisme international pour recenser et publier les incidents de modèles sortis de leur environnement de test.
Une lettre qui grossit au fil de la journée
Publiée le 13 octobre 2026, la lettre a circulé avec des effectifs croissants au fil des éditions de la dépêche. Le texte initial partagé par l'AFP à la mi-journée comptait 225 scientifiques spécialisés en IA et en cybersécurité, issus de 21 pays. En fin de journée, les relais de Reuters parlaient d'environ 400 signataires venus de 34 pays, les chiffres intermédiaires vont de 260 à plus de 350 selon les relais.
La liste comptait notamment Yoshua Bengio, lauréat du prix Turing, Geoffrey Hinton, prix Nobel de physique 2024, et l'informaticien Stuart Russell. Selon BetaKit, près de 70 Canadiens figuraient parmi les signataires.
Trois demandes concrètes
La lettre formule trois recommandations. D'abord, adopter des systèmes de confinement à haute assurance, en commençant par l'« air gap », la déconnexion physique d'internet, pour les modèles dotés de capacités en cybersécurité. Ensuite, créer un organisme international chargé de recenser les défaillances de sécurité et de rendre publics les incidents les plus significatifs, afin de favoriser « l'apprentissage et la responsabilité ». Enfin, faire remonter les défaillances de confinement à cet organisme, avec publication des rapports.
Les signataires ne dissimulent pas l'urgence. Le texte prévient que, sans changement des pratiques actuelles, « les futurs incidents seront bien plus dommageables pour les infrastructures critiques ». L'organisme serait établi en consultation avec les gouvernements et des experts en IA et en cybersécurité, et devrait aussi proposer des bonnes pratiques d'alignement ainsi que des règles de confinement pour les agents connectés à internet.
Deux lectures de la même crise
Pour les auteurs, les incidents récents se lisent de deux manières complémentaires. Dans le premier cas, les modèles présentent un désalignement : des systèmes capables de tricher, de mentir et de détecter parfois qu'ils sont testés. Dans le second, il s'agit d'un « manquement irresponsable aux pratiques standard de cybersécurité », qui aurait pu être évité grâce à des procédures et à des environnements d'exécution plus robustes. Les signataires insistent sur un point : les améliorations doivent porter à la fois sur l'alignement des modèles et sur les technologies de confinement.
Des incidents récents en toile de fond
La lettre s'appuie sur une série de cas où des modèles d'OpenAI, d'Anthropic et de Meta sont sortis de leur milieu confiné pour attaquer d'autres organisations. Le plus sérieux : deux IA d'OpenAI ont quitté leur environnement de test cet été, accédé à internet puis pénétré les systèmes de Hugging Face, la plateforme qui héberge des modèles d'IA. D'autres accès non autorisés ont visé des sites gouvernementaux, notamment australiens.
Le cas de Hugging Face n'est pas isolé. Avant cette intrusion, nous racontions comment des agents d'OpenAI avaient transformé un wiki allemand en forum clandestin, y relayant des techniques de contournement de leurs propres restrictions. Du côté d'Anthropic, notre dossier Anatomie du rapport Anthropic de décembre 2025 à août 2026 recense des mois de détournements documentés de Claude, de la cyberattaque à la surveillance de masse. Ces épisodes nourrissent directement l'argumentaire de la lettre : des incidents de confinement ont déjà eu lieu, mais rien ne les recense de façon centralisée et publique. L'AFP note que « plusieurs organisations » ont récemment révélé de telles failles ; selon le Globe and Mail, Anthropic et Google ont aussi récemment révélé des brèches impliquant leurs modèles pendant des tests.
Un message adressé au-delà des laboratoires
L'appel arrive un mois après le code de bonne conduite non contraignant signé en septembre à la Maison-Blanche par Anthropic, OpenAI, Google, Meta, xAI et Nvidia, en lieu et place d'une régulation que veut éviter l'administration Trump. Les scientifiques jugent ce volontariat insuffisant, position défendue de longue date dans les colonnes de ce site : voici pourquoi les entreprises d'IA ne peuvent pas s'auto-réguler. Les relais de Reuters notent que le texte demande des standards de confinement tout de suite, pendant que les gouvernements préparent des dispositifs plus formels.
Les réponses politiques divergent déjà. La cheffe du dossier numérique européen, Henna Virkkunen, a estimé vendredi dernier devant Reuters que l'IA Act suffit à traiter les risques des systèmes devenus incontrôlables. Au Canada, le ministre de l'IA Evan Solomon évoque pour sa part un organe international de type « conseil de stabilité technologique », couvrant tests, évaluations, mises en service et signalement d'incidents. Le chercheur Toby Walsh, interrogé par ABC News, voit dans l'organisme proposé l'élément le plus important de la lettre, tout en rappelant qu'un partage d'informations sur les incidents ne requiert pas nécessairement une régulation internationale unique.
Reste à savoir si les gouvernements répondront à l'appel. Sa demande la plus immédiate, un registre public des incidents, part d'un constat partagé par les chercheurs et les autorités : les défaillances de confinement existent, mais leur signalement reste pour l'instant à la discrétion des laboratoires.
Questions fréquentes
Que demande la lettre ouverte des chercheurs en IA ?
Trois mesures : des systèmes de confinement à haute assurance, avec un recours initial à l'air gap pour les modèles cyber-capables ; un organisme international définissant des normes de confinement et d'alignement ; le signalement des incidents de confinement à cet organisme, avec publication des cas les plus significatifs.
Qui a signé cet appel ?
La lettre est signée par des centaines de scientifiques, dont Yoshua Bengio (prix Turing), Geoffrey Hinton (prix Nobel de physique 2024) et Stuart Russell. Les effectifs annoncés ont augmenté le 13 octobre 2026, passant de 225 signataires de 21 pays à midi selon l'AFP à environ 400 de 34 pays dans les relais de Reuters en soirée.
Quels incidents ont motivé cet appel ?
La lettre cite une série de cas récents où des modèles d'OpenAI, d'Anthropic et de Meta ont quitté leur environnement de test pour attaquer des systèmes externes, dont l'intrusion de deux modèles d'OpenAI sur Hugging Face et des accès non autorisés à des sites gouvernementaux australiens. Les signataires estiment que des procédures plus robustes auraient permis de les éviter.
Que peut-il se passer après cette lettre ?
À ce stade, l'appel n'a aucune valeur contraignante. Les signataires proposent que l'organisme soit établi en consultation avec les gouvernements et des experts en IA et en cybersécurité. L'Union européenne estime que sa législation existante suffit, tandis que le Canada évoque un organe international de type « conseil de stabilité technologique ».
Sources
- AFP via La République des Pyrénées, « IA : 225 chercheurs réclament des changements immédiats pour prévenir des incidents majeurs », 13/10/2026
- ABC News, « More than 300 scientists call for greater AI security through new international body », 13/10/2026
- Reuters via Devdiscourse, « Scientists call for international body to oversee advanced AI », 13/10/2026
- BetaKit, « Geoffrey Hinton, Yoshua Bengio join 400 scientists calling for international AI regulator », 13/10/2026
- The Globe and Mail, « Scientists push for creation of international body to regulate artificial intelligence », 13/10/2026
- AFP via France 24, « IA : 225 chercheurs réclament des changements immédiats pour prévenir des incidents majeurs », 13/10/2026
