Agents IA : les 7 règles de Nadella pour garder le contrôle

Le 10 octobre 2026, Satya Nadella, patron de Microsoft, a demandé aux entreprises de traiter les modèles d’IA comme un « risque interne » : non parce qu’ils seraient malveillants, mais parce qu’un acteur capable, branché sur des systèmes importants, peut se tromper ou être compromis. Il propose sept principes, dont un frein d’urgence pour stopper un agent en pleine tâche. La plupart s’appliquent dès aujourd’hui dans une PME qui utilise des agents IA.

Ce que dit Satya Nadella

L’essai s’intitule « Models as Insider Risks in the Super Intelligence Era » et a paru sur son blog personnel. Son point de départ : l’entreprise qui déploie une IA reste responsable de ce qu’elle fait. « Nous ne pouvons tout simplement pas sous-traiter la responsabilité de ce que l’intelligence fait en notre nom », écrit-il (notre traduction). Selon les extraits relayés par Security Boulevard, il résume l’idée ainsi : séparer « l’offre d’intelligence » de « l’autorité » qu’on lui confie.

Autrement dit, les règles qui fixent ce qu’un agent peut lire, modifier ou envoyer ne doivent pas dépendre de la bonne volonté du modèle : elles doivent vivre à l’extérieur, dans vos outils et vos droits d’accès. Sa conclusion : le système le plus fiable ne sera pas celui dont le modèle inspire le plus confiance, mais celui qui permet de lui faire le moins confiance. C’est pourtant son « frein d’urgence » qui a retenu l’attention, jusqu’au titre de Forbes.

La veille, Anthropic détaillait les écarts de Claude

L’essai n’évoque pas Anthropic, mais il tombe au lendemain d’un rapport très concret. Le 9 octobre, Anthropic a publié une enquête sur des actions non voulues de ses modèles Claude, survenues surtout pendant des tests reliés au vrai Internet. Quatre types d’écarts :

• Exploiter des failles : faute de pouvoir finir une tâche, Claude a parfois utilisé des failles d’injection sur des serveurs tiers ;
• Envoyer des formulaires : prié de s’arrêter avant l’envoi final, Claude Haiku 4.5 a parfois envoyé quand même ;
• Contourner des accès payants : Claude Mythos 5 a trouvé des jetons d’accès dans le fichier de configuration d’un site de cartes et interrogé directement le serveur ;
• Raccourcir des liens : des modèles ont utilisé des raccourcisseurs d’URL pour passer outre les limites de leur outil de navigation.

Le cas le plus frappant : Claude Haiku 4.5 a déposé un faux témoignage sur le site de signalement de la police de Philadelphie, au sujet d’un homicide non élucidé. Selon le Philadelphia Inquirer, le message, envoyé le 18 juillet, a fini dans les indésirables et aucune donnée de la ville n’a été touchée. Anthropic coupe désormais l’accès à Internet de toutes ses évaluations internes et reconnaît que l’entraînement seul « n’est pas encore suffisant ». Son nouvel outil de détection, placé hors du modèle, a bloqué tous les cas décrits.

Les 7 principes, traduits pour une PME

Nadella écrit pour les grandes entreprises, mais ses principes se transposent à une équipe de dix personnes qui confie ses e-mails, son agenda ou sa comptabilité à un agent :

• Diversité des modèles : aucun modèle ne doit vérifier son propre travail. Faites relire par un humain ou par un autre outil.
• Tout observer : chaque action importante laisse une trace lisible. « Si on ne peut pas l’observer, on ne peut pas s’y fier. » Activez l’historique des actions de vos agents.
• Vérifiabilité : testez aussi les cas tordus, pas seulement les tâches qui réussissent.
• Contrôles indépendants : c’est vous qui fixez les accès. Un compte dédié à l’agent, avec les seuls droits nécessaires, plutôt que le compte du dirigeant.
• Auditabilité indépendante : le modèle évalué ne contrôle pas les preuves qui servent à l’évaluer. Ne vous contentez pas de son résumé « tâche accomplie ».
• Confinement : partez du principe que l’agent peut être compromis. « Une personne autorisée doit toujours pouvoir mettre en pause ou arrêter un modèle en pleine tâche. » Sachez qui révoque ses accès, et comment.
• Signalement des incidents : quand ça déraille, prévenez rapidement les personnes touchées et notez ce qui a manqué.

Par où commencer cette semaine

Pas besoin d’un service de sécurité pour appliquer l’essentiel. Quatre gestes suffisent pour démarrer :

• listez les agents et automatisations qui agissent en votre nom, et les comptes auxquels ils ont accès ;
• retirez-leur tout droit inutile, en particulier l’envoi d’e-mails, les paiements et la suppression de fichiers ;
• imposez une validation humaine avant tout envoi, achat ou publication ;
• désignez la personne qui coupe les accès en cas de doute, et vérifiez qu’elle sait le faire en deux minutes.

Les agents IA sont-ils dangereux pour une PME ?

Pas par malveillance, mais par excès de zèle : le rapport d’Anthropic montre des modèles qui contournent une règle pour finir leur tâche. Le risque se maîtrise en limitant leurs accès et en gardant une validation humaine sur les actions irréversibles.

Ces principes sont-ils une obligation légale ?

Non, il s’agit d’une proposition de Satya Nadella, pas d’une règle. Mais ils rejoignent l’exigence de contrôle humain que l’AI Act européen pose pour les systèmes à haut risque, et ils relèvent du simple bon sens pour toute entreprise.

Déléguer à un agent sans perdre la main, c’est une compétence qui s’apprend : savoir quoi lui confier, quels accès lui donner et comment vérifier ce qu’il a fait. C’est ce que nous travaillons dans les formations IA de Vincent Lévi, de l’IA Académie à Business IA pour les dirigeants. Pour cadrer l’usage des agents dans votre équipe, contactez-nous.