15 juin 2026
En Français uniquement
En juin 2026, deux des modèles d'intelligence artificielle les plus puissants jamais ouverts au public, Fable 5 et Mythos 5, ont été coupés quatre jours après leur lancement. Pas par leur créateur. Par un gouvernement. La décision relevait du contrôle des exportations : aucun utilisateur, étranger comme national, ne devait conserver l'accès. L'entreprise s'est exécutée, a désactivé les deux modèles pour tous ses clients dans le monde, et a publié son désaccord le soir même.
La crainte invoquée tenait à une seule capacité : les modèles pouvaient être amenés à découvrir des failles logicielles. Le créateur a répondu que la technique en cause ne révélait que des défauts mineurs et déjà connus, du genre de ceux que d'autres modèles publics exposent librement et que les défenseurs de systèmes manipulent chaque jour. Quel que soit le fond, l'épisode a mis à nu un problème qui survivra à ce modèle. Il vaut la peine d'être nommé sans détour.
L'outil ne voit pas l'intention
La capacité qui effraie le régulateur est exactement celle qui protège les réseaux. Lis ce code et trouve ses faiblesses est la demande de l'attaquant qui prépare une intrusion, et celle de l'ingénieur sécurité qui durcit un produit. Les mots sont identiques. La sortie est identique. Seule l'intention diffère, et l'intention est précisément ce que la machine ne voit pas.
Ce n'est pas un défaut que l'on corrige, c'est la nature même de l'outil. La même requête sert deux buts opposés, et le modèle ne sait pas lequel. Il n'existe aucune version d'un modèle d'analyse de code qui serait efficace pour le défenseur et inopérante pour l'attaquant : c'est le même outil pour les deux, et seule la personne qui s'en sert change.
Le mythe de l'amateur dangereux
Un réflexe courant consiste à imaginer le profane qui tape une requête et reçoit un exploit fonctionnel. C'est en grande partie une fiction. Celui qui n'a pas les bases ne sait pas quoi demander, ne sait pas lire la réponse, ne sait ni compiler ni tester le résultat. Pour lui, le modèle reste inerte comme arme, que les garde-fous soient contournés ou non.
Le vrai sujet est plus étroit et plus crédible : le rehaussement, ce que l'on nomme l'uplift. Non pas transformer un novice en expert, mais faire passer celui qui a déjà parcouru la moitié du chemin, un amateur compétent, un acteur de niveau intermédiaire, de plusieurs semaines de travail à quelques jours. Le modèle ne crée pas la capacité à partir de rien. Il abaisse la barrière et accélère celui qui sait déjà avancer. C'est un déplacement réel. C'est aussi, et cela compte, une affaire de degré plutôt que de nature, ce qui explique que des gens honnêtes ne s'accordent pas sur son ampleur.
Le nœud éthique
Puisque l'intention ne se lit pas à l'entrée, le créateur ne dispose que de deux instruments indirects. Le premier : inscrire le refus dans le modèle, des garde-fous si larges que des utilisateurs légitimes se plaignent d'être bloqués dans leur travail ordinaire. Le second : surveiller après coup, conserver les requêtes et les réponses pendant un temps, passer des classificateurs dessus, et intervenir quand un motif d'abus se dessine.
Le second instrument a un prix, et il se paie en vie privée. Les modèles au centre de cet épisode ont abandonné la politique d'absence de conservation de leurs prédécesseurs précisément pour que leur usage puisse être observé. La surveillance n'était pas accessoire : elle était l'architecture de sécurité. La défense du système a été achetée par l'exposition de l'utilisateur. Voilà le premier arbitrage dur, et il ne se dénoue pas proprement : moins de conservation, c'est moins de contrôle ; plus de conservation, c'est moins de confidentialité ; et aucun réglage n'offre les deux.
Le nœud politique
Si l'on ne peut juger l'intention et que l'on ne peut rendre l'outil sélectivement inoffensif, il ne reste qu'un levier : savoir qui s'en sert. La directive d'exportation était exactement cela, dans sa forme la plus brutale. Elle ne distinguait pas selon le but. Elle distinguait selon la nationalité, approximation grossière de la confiance, appliquée à des centaines de millions de personnes pour répondre à un risque étroit et contesté.
Suivez la logique jusqu'au bout et elle pointe vers un endroit précis : l'identité comme prix de la capacité. Pas encore un régime formel de connaissance du client appliqué à l'IA, mais la même gravité qui régit déjà la finance et les charges sensibles dans le cloud. Quand l'outil échappe au contrôle, c'est la personne que l'on contrôle. La vraie question n'est pas de savoir si cette pression existe, elle existe à l'évidence, mais jusqu'où ira sa finesse, et à qui reviendra le droit de tracer la ligne.
Le nœud défensif
La même version qui arme l'attaquant arme le défenseur. Reconnaissance automatisée et hameçonnage d'une fluidité parfaite d'un côté ; fuzzing à grande échelle, audit de code et détection comportementale de l'autre. Les deux camps progressent ensemble. La réponse honnête à qui en profite le plus est que personne ne le sait.
Il y a la thèse du pessimiste : l'attaquant n'a besoin que d'une faille, le défenseur doit toutes les fermer, donc l'automatisation favorise l'offensive. Et celle de l'optimiste : les grands fournisseurs détiennent leur propre code, une puissance de calcul immense et une télémétrie qui manque à l'attaquant, donc à l'échelle la défense se renforce plus vite. Le fournisseur qui investit pour durcir un système d'exploitation mobile contre des attaques sophistiquées parie sur la seconde : se servir de l'IA pour combler l'écart avant que des attaquants assistés par l'IA ne trouvent la brèche.
Où cela mène, et qui cela favorise
Voici la part inconfortable, celle que l'on dit rarement à voix haute. La sécurité pilotée par l'IA récompense l'échelle : les données, le capital, la puissance de calcul, la télémétrie. Les acteurs les mieux placés pour défendre dans ce nouveau régime sont les plus grands éditeurs de systèmes d'exploitation et fournisseurs de cloud. Le studio indépendant, l'hébergeur souverain, le petit cabinet doivent protéger leurs systèmes contre des attaquants augmentés par l'IA, sans l'appareil défensif industriel qui équipe les géants.
L'IA à double usage n'est donc pas neutre face au pouvoir. Elle le concentre. Le réflexe qui consiste à contrôler la personne plutôt que l'outil, parce que l'outil refuse d'être contrôlé, pousse dans le même sens : la confiance s'accumule chez ceux à qui l'on fait déjà confiance, les déjà grands, les déjà habilités. C'est ce qui se joue vraiment dans cet épisode, et il mérite qu'on s'y arrête plutôt que de le résoudre.
Quelle posture proactive, alors ? Non pas prétendre que l'outil peut être rendu sûr par conception : il ne le peut pas. C'est exiger que tout contrôle venant remplacer la conception, conservation, identité, habilitation, soit transparent, équitable, techniquement fondé et contestable. Un gouvernement doit pouvoir bloquer un déploiement réellement dangereux. Mais le critère ne peut pas être la simple existence d'une faiblesse étroite, sans quoi aucun système de pointe ne verrait le jour, et le pouvoir de décider migrerait, en silence, vers celui qui crie sécurité nationale le plus fort.
L'outil ne sait pas distinguer le défenseur de l'attaquant. Faute de pouvoir contrôler l'outil, on en vient à contrôler la personne. Reste à savoir qui décidera où passe la ligne, et selon quels critères.