Quand laisser l'IA agir seule : ce que vérifie Anthropic

La question qui revient le plus souvent dans les projets d'IA n'est pas quel modèle utiliser. C'est jusqu'où laisser le système agir sans que personne ne surveille. Anthropic a publié en septembre la manière dont elle répond à cela en interne, avec environ trente mille agents fonctionnant simultanément — et la réponse n'est pas « vérifiez ce qui est important ». C'est une règle plus simple, qui s'applique à toute entreprise.

Les chiffres publiés

La publication rassemble trois mesures internes d'Anthropic, portant sur le mois d'août 2026 :

• Quelle part du travail l'IA mène. Claude « dirige » 26 % du travail de recherche et développement en IA de l'entreprise. En février, ce chiffre était inférieur à 1 %. « Diriger », selon l'échelle propre à Anthropic, signifie accomplir l'essentiel de la tâche à partir d'une demande générale, avec une personne qui supervise — ce n'est pas travailler sans personne.
• Quelle part est surveillée. Sur la plateforme interne la plus utilisée, environ trente mille agents travaillent simultanément. En août, plus d'un milliard de décisions ont été prises, et toutes sont passées par un moniteur avant d'être exécutées, en général en quelques secondes. 0,002 % d'entre elles ont été bloquées, soit une sur 47 000.
• Quelle part est consacrée à la sécurité. Lors d'un relevé effectué sur une semaine en juillet, environ 6 % de la puissance de calcul dédiée à la recherche a été consacrée au travail de sécurité. Dans la part de la recherche menée par l'IA elle-même, cette proportion double, pour atteindre environ 12 %.

Le troisième chiffre est celui dont presque personne ne parle : plus l'IA effectue de travail seule, plus la part du budget consacrée à la vérification de ce travail augmente.

La règle qui se cache derrière : rapidité et réversibilité

Anthropic ne classe pas les actions des agents par importance. Elle les classe selon deux questions, et chaque combinaison entraîne un type de vérification différent.

Le dommage est-il rapide et irréversible ? Alors la vérification intervient en amont. C'est le rôle du moniteur en temps réel, conçu pour empêcher ce qui se produit en quelques secondes et ne peut être annulé — l'exemple donné par l'entreprise elle-même est celui d'un agent copiant les fichiers du modèle hors des systèmes. L'action ne s'exécute qu'après avoir passé ce filtre, et les équipes examinent tout ce qui a été bloqué dans un délai d'une semaine.

Le dommage est-il lent et réversible ? Alors la vérification intervient après coup. Un second moniteur lit toute l'activité déjà exécutée, à la recherche de comportements qui se développent progressivement. Ce qu'il trouve sert à ajuster les filtres, et seul un problème grave et imminent amènerait l'entreprise à désactiver une partie du système.

Remarquez ce que cela résout : personne n'a besoin d'approuver un milliard de décisions. L'intervention humaine se situe là où l'erreur est irréparable, et le reste est audité.

L'entonnoir qui ne fait remonter que l'essentiel jusqu'à une personne

Le second moniteur signale environ cent mille conversations d'agents par semaine. Elles passent par plusieurs classificateurs automatiques, qui écartent les fausses alertes et résolvent la majorité des cas. Environ cinquante par semaine parviennent jusqu'à un humain.

Cette conception compte plus que l'ampleur. Un processus qui envoie tout à la révision humaine n'est pas plus sûr : c'est un processus dans lequel la personne apprend à cliquer sur « approuver » sans lire. La sécurité repose sur le fait que la révision humaine doit être suffisamment rare pour être prise au sérieux.

Ce que cela signifie pour une entreprise qui n'a pas trente mille agents

La règle fonctionne avec un seul agent. Dressez la liste de tout ce que le système peut faire — répondre, planifier, facturer, publier, supprimer — et soumettez chaque action aux deux questions :

1. Rapide et irréversible — approbation préalable. Payer, rembourser, supprimer des données client, envoyer un message de masse, publier au nom de la marque, signer ou accepter une condition commerciale. L'agent prépare ; une personne valide.
2. Rapide, mais réversible — l'agent agit et prévient. Reporter un rendez-vous, modifier le statut d'une commande, répondre à une question dont la réponse est déjà prête. Cela nécessite un enregistrement et un moyen simple d'annuler.
3. Lent et réversible — fonctionne seul, avec échantillonnage. Classer des tickets, résumer des conversations, proposer des textes. Quelqu'un lit un échantillon chaque semaine, pas chaque élément.
4. Lent et irréversible — le cas le plus traître. Une information erronée qui se répète pendant des semaines jusqu'à devenir une politique, ou une remise que l'agent se met à offrir de sa propre initiative. Il n'y a pas de moment de blocage ; il faut quelqu'un qui mesure la tendance, pas l'action isolée.

La quatrième catégorie est celle qui reste généralement sans responsable. Et c'est justement celle que le moniteur a posteriori a été conçu pour repérer.

Trois erreurs courantes en laissant l'IA agir

• Donner à l'agent les permissions de la personne qui l'a configuré. Si la personne qui a monté le système peut supprimer la base de clients, l'agent le peut aussi. Les permissions doivent correspondre à la tâche, pas à son créateur.
• Bloquer sans que personne ne révise le blocage. Un filtre qui bloque et que personne ne regarde devient un processus à l'arrêt. Anthropic a fixé un délai pour cela : une semaine.
• Ne mesurer que la réussite. Ce qui doit être mesuré, c'est combien de fois le système a été arrêté et pourquoi. Ce chiffre en dit plus sur le risque que n'importe quel taux de réussite — et, lorsqu'il tombe à zéro, ce n'est pas nécessairement une bonne nouvelle.

Le cas de deux agents qui se mettent à discuter entre eux, et conviennent de choses qu'aucun des deux ne devrait, est traité dans l'article sur ce qui se passe quand vous avez plus d'un agent. Et celui de l'agent qui paie seul, dans celui sur les agents autonomes dans le commerce.

Ce qu'Anthropic elle-même dit que ces chiffres ne montrent pas

La publication apporte ses propres réserves, qui valent pour toute entreprise reproduisant ce modèle :

• Il est difficile d'être certain que la surveillance couvre tous les types de comportement possibles.
• Le système fonctionne depuis des mois, pas des années.
• La puissance de calcul est un thermomètre imparfait de l'effort consacré à la sécurité, car une bonne partie de ce travail consiste en réflexion humaine et non en calcul machine — et les estimations ont été volontairement établies du côté prudent.

C'est aussi un portrait de ceux qui construisent l'IA, pas de ceux qui l'utilisent. Mais la règle des deux questions ne dépend pas de l'échelle : elle dépend du fait de savoir ce que chaque action de votre système peut défaire. Pour comparer avec l'autre bout de la chaîne, OpenAI a publié en septembre combien de travail ses agents accomplissent réellement, et combien cela coûte par jour.

Comment nous procédons en pratique

Dans l'implémentation d'IA, la liste des actions vient avant l'agent. Chaque élément est marqué par la même question — en cas d'erreur, est-ce réversible ? — et c'est elle qui détermine ce qui fonctionne seul, ce qui attend une personne et ce qui est vérifié en fin de semaine. Modifier cela une fois que le système sert déjà des clients coûte bien plus cher que d'en décider en amont.

Sources

Anthropic Institute, « Measurements for understanding the pace of AI development inside frontier labs », par Marina Favaro et Phillie Wright, avec les données d'août 2026 sur l'automatisation de la recherche, la supervision des agents et la puissance de calcul dédiée à la sécurité.