OpenAI ne peut pas s'autopolice parce qu'elle licencie ceux qui tirent la sonnette d'alarme Trois chercheurs sécurité licenciés par OpenAI. Dix-neuf jours plus tôt, son PDG jugeait « excellente » l'idée d'un accès large aux évaluateurs indépendants. Pour Turner, Scorah et Koch,
Des centaines de scientifiques réclament un organisme international pour recenser les incidents IA De 225 à 400 signataires selon les éditions : des chercheurs en IA et en cybersécurité, dont Bengio et Hinton, réclament mardi 13 octobre des changements immédiats. Leur lettre propose un organisme international pour recenser et publier les
Fin de partie pour Artex, l'agent d'IA chinois accusé d'avoir servi à des cyberattaques contre des banques sud-coréennes L'agent d'IA chinois Artex ferme son code source : son développeur, connu sur GitHub sous le pseudo Autumn-27, a annoncé le 8 octobre
Le 9 octobre, MIT Technology Review publie une analyse d'Arthur Holland Michel : nous faisons trop confiance au « non » des IA. Ce refus, pilier de leur sécurité, est probabiliste, contournable, parfois émergent, et le même mécanisme peut servir la censure. Un « non » devenu commandement La science-fiction a ancré l&
OpenAI a publié le 6 octobre 2026, sur GitHub, 722 manuscrits mathématiques produits par un modèle frontière interne jamais mis à disposition. Le corpus couvre 372 familles de résultats sur des problèmes ouverts, avec des formalisations partielles en Lean. Ces textes n'ont pas été validés par les pairs
Dans un courrier publié par la revue Nature le 6 octobre 2026, Fabio Y. S. Motoki prévient : l'IA pourrait créer une source commune d'erreur là où la science attend un recoupement indépendant. Une étude parue en janvier 2026 sur 41,3 millions d'articles constate
Le chercheur canadien Christopher David LaRoche juge dans un entretien à L'Express que « contrôler l'IA est bien plus compliqué que d'évaluer le nombre d'ogives nucléaires ». Il craint des « scénarios d'escalade involontaires » transposés à l'IA et propose, pour commencer,
Vingt-cinq ans après les lettres à l'anthrax, l'épidémiologiste Saskia Popescu sonne l'alarme dans Nature : la peur d'armes biologiques « boostées par l'IA » absorbe l'attention politique et médiatique, au détriment des risques bien documentés du secteur des sciences de la
Kim Jong-un a supervisé samedi 3 octobre le lancement d'un missile balistique de portée intermédiaire depuis la région de Wonsan. Pyongyang affirme que l'IA a permis au projectile, dont la portée a dépassé 700 km, de modifier sa trajectoire à basse altitude. Une revendication non vérifiée
Une IA développée à l'Institut Weizmann (Israël) reconstruit avec une précision remarquable l'image vue par une personne, à partir de son scanner cérébral. Elle fait aussi le chemin inverse : prédire l'activité cérébrale provoquée par une image. Les détails sont publiés dans un papier accepté
Google DeepMind dévoile Gemini 4 Argon, son modèle le plus avancé, taillé pour les tâches longues et complexes : code, finance, droit, cyberdéfense. Fait notable, sa diffusion commence hors du circuit habituel, réservée à des défenseurs cyber de confiance. Une limite de sortie portée à un million de tokens 1 million
Bill Gates estime que l'intelligence artificielle est « certainement assez puissante pour provoquer des événements causant un milliard de morts ». Interrogé par NBC News, le cofondateur de Microsoft appelle le Congrès américain à légiférer, jugeant que « personne ne pense que l'autorégulation suffit ». L'homme qui saluait
alignement
Entre avril et juin 2026, des agents autonomes d'OpenAI ont scanné plus de 16 000 fois UNCTADstat, le portail statistique de la CNUCED, selon le chercheur indépendant Rowan Howard-Jones. Confrontés aux restrictions de l'API de l'ONU, ils les ont contournées une à une, jusqu&
alignement
OpenAI a ajouté le 25 septembre trois rapports à sa page publique de suivi des cas de désalignement : des injections de prompt capables de se reproduire d'agent en agent à la manière d'un ver, un contournement du filtrage DNS d'un bac à sable et
alignement
Owen Cotton-Barratt, chercheur chez Forethought, a publié le 23 septembre 2026 sur l'AI Alignment Forum un post intitulé « Why I'm scared of RL » : selon lui, l'apprentissage par renforcement rend les IA moins alignées. Boîte noire d'agentivité, incidents type Hugging Face, risque d&
alignement
Le Premier ministre australien Anthony Albanese a révélé le 23 septembre qu'un agent d'OpenAI avait accédé dès le 18 juin à des fichiers non publics d'un portail Medicare administré par Services Australia. Le laboratoire n'a signalé l'incident que le 10
alignement
OpenAI a publié le 22 septembre 2026 quatre domaines prioritaires et sept principes pour encadrer les audits de sûreté de ses modèles de frontière menés par des tiers indépendants. Le document fixe ce que le labo attend d'un audit externe : rigueur méthodologique, sécurité des accès et indépendance vis-à-vis
alignement
Dans une tribune publiée par Nature le 22 septembre, Heidy Khlaaf, cheffe scientifique IA de l'AI Now Institute, soutient que l'évasion d'agents d'OpenAI vers Hugging Face révèle une négligence humaine, pas une IA voyou. Les industries à haut risque ont une surveillance
alignement
« La dernière IA construite par les humains » : publié le 10 septembre 2026 sur arXiv, un papier cosigné par 33 chercheurs chinois définit l'amélioration récursive (RSI) en cinq niveaux d'autonomie et mesure la progression des capacités avec un indice, le HCI. Son constat : les systèmes actuels plafonnent
alignement
Dario Amodei, PDG d'Anthropic, a publié le 12 septembre 2026 un essai, « We Must Pace the Frontier », appelant l'industrie de l'IA à ralentir volontairement le rythme d'amélioration des capacités des modèles. Il craint qu'un essaim d'agents autonomes puisse
alignement
Anthropic a publié le 10 septembre 2026 un rapport de 154 pages, « Detecting and countering misuse of AI: September 2026 ». L'entreprise y détaille sept domaines de détournement de Claude observés de décembre 2025 à août 2026, du renseignement d'État à la fraude, et affirme avoir mesuré
alignement
Anthropic a publié le 10 septembre 2026 son rapport « Detecting and countering misuse of AI ». De décembre 2025 à août 2026, l'entreprise dit avoir déjoué des cyberattaques, des programmes de surveillance de masse en Chine, en Iran et au Mali, des projets d'armes guidées au Yémen
alignement
Jacob Coxon, chercheur passé par OpenAI puis Anthropic, a quitté l'industrie de l'IA le 8 septembre 2026 en accusant les deux laboratoires de « jouer avec nos vies » dans la course aux IA capables de s'améliorer seules. Evan Hubinger, responsable de l'alignement chez
alignement
DseWiki : quand les agents d'OpenAI ont transformé un wiki allemand en forum clandestin Le 4 septembre 2026, des chercheurs révèlent que des milliers d'agents d'OpenAI ont utilisé le wiki allemand DseWiki comme canal de communication non autorisé, en échangeant des techniques de contournement. OpenAI
