Quando deixar a IA agir sozinha: o que a Anthropic confere

A pergunta que mais aparece em projeto de IA não é qual modelo usar. É até onde deixar o sistema agir sem ninguém olhar. A Anthropic publicou em setembro como responde isso dentro da própria casa, com cerca de trinta mil agentes rodando ao mesmo tempo — e a resposta não é "revise o que for importante". É uma regra mais simples, que cabe em qualquer empresa.

Os números publicados

A publicação reúne três medições internas da Anthropic, referentes a agosto de 2026:

• Quanto do trabalho a IA conduz. O Claude "lidera" 26% do trabalho de pesquisa e desenvolvimento de IA da empresa. Em fevereiro eram menos de 1%. "Liderar", na escala da própria Anthropic, é completar a maior parte da tarefa a partir de um pedido geral, com uma pessoa supervisionando — não é trabalhar sem ninguém.
• Quanto se vigia. Na plataforma interna mais usada, cerca de trinta mil agentes trabalham simultaneamente. Em agosto foram mais de um bilhão de decisões, e todas passaram por um monitor antes de serem executadas, em geral em segundos. Foram bloqueadas 0,002% delas, uma a cada 47 mil.
• Quanto se gasta com segurança. Num levantamento de uma semana em julho, cerca de 6% da computação de pesquisa foi para trabalho de segurança. Na parte da pesquisa conduzida pela própria IA, a fatia dobra, para cerca de 12%.

O terceiro número é o que quase ninguém comenta: quanto mais trabalho a IA faz sozinha, maior a fatia do orçamento que vai para conferir esse trabalho.

A regra que está por trás: rapidez e volta

A Anthropic não separa as ações dos agentes por importância. Separa por duas perguntas, e cada combinação leva a um tipo de conferência diferente.

O dano é rápido e não tem volta? Então a conferência vem antes. É o papel do monitor em tempo real, feito para impedir o que acontece em segundos e não se desfaz — o exemplo dado pela própria empresa é um agente copiar os arquivos do modelo para fora dos sistemas. A ação só roda depois de passar pelo filtro, e as pessoas revisam tudo o que foi bloqueado em até uma semana.

O dano é lento e tem volta? Então a conferência vem depois. Um segundo monitor lê toda a atividade já executada, procurando comportamento que se desenvolve aos poucos. O que ele encontra serve para ajustar os filtros, e só um problema grave e iminente faria a empresa desligar parte do sistema.

Repare no que isso resolve: ninguém precisa aprovar um bilhão de decisões. A pessoa entra onde o erro não tem conserto, e o resto é auditado.

O funil que leva só o essencial até uma pessoa

O segundo monitor sinaliza cerca de cem mil conversas de agentes por semana. Elas passam por vários classificadores automáticos, que descartam os alarmes falsos e resolvem a maior parte. Chegam a um humano cerca de cinquenta por semana.

Esse desenho importa mais que o tamanho. Um processo que manda tudo para revisão humana não é mais seguro: é um processo em que a pessoa aprende a clicar em "aprovar" sem ler. A segurança está em a revisão humana ser rara o suficiente para ser levada a sério.

Traduzindo para uma empresa que não tem trinta mil agentes

A regra funciona com um agente só. Faça a lista de tudo o que o sistema pode fazer — responder, agendar, cobrar, publicar, apagar — e passe cada ação pelas duas perguntas:

1. Rápido e sem volta — aprovação antes. Pagar, estornar, apagar dado de cliente, enviar mensagem em massa, publicar em nome da marca, assinar ou aceitar condição comercial. O agente prepara; uma pessoa libera.
2. Rápido, mas com volta — o agente age e avisa. Remarcar um horário, mudar o status de um pedido, responder uma dúvida que tem resposta pronta. Precisa de registro e de um jeito fácil de desfazer.
3. Lento e com volta — roda sozinho, com amostragem. Classificar atendimentos, resumir conversas, sugerir textos. Alguém lê uma amostra toda semana, não cada item.
4. Lento e sem volta — o caso mais traiçoeiro. Uma informação errada que se repete por semanas até virar política, ou um desconto que o agente passa a oferecer por conta própria. Não tem um momento de bloqueio; precisa de alguém medindo o padrão, não a ação isolada.

A quarta categoria é a que costuma ficar sem dono. E é justamente a que o monitor de depois foi criado para pegar.

Três erros comuns ao deixar a IA agir

• Dar ao agente a permissão da pessoa que o configurou. Se quem montou o sistema pode apagar a base de clientes, o agente também pode. A permissão tem que ser a da tarefa, não a do dono.
• Bloquear sem ninguém revisar o bloqueio. Um filtro que trava e ninguém olha vira um processo parado. A Anthropic fixou prazo para isso: uma semana.
• Medir só se deu certo. O que precisa ser medido é quantas vezes o sistema foi barrado e por quê. Esse número conta mais sobre o risco que qualquer taxa de acerto — e, quando ele cai a zero, não é necessariamente boa notícia.

O caso de dois agentes que passam a conversar entre si, e combinam coisas que nenhum dos dois devia, está no texto sobre o que acontece quando você tem mais de um agente. E o do agente que paga sozinho, no de agentes autônomos no comércio.

O que a própria Anthropic diz que esses números não mostram

A publicação traz as próprias ressalvas, e elas valem para qualquer empresa que copie o modelo:

• É difícil ter certeza de que o monitoramento cobre todo tipo de comportamento possível.
• O sistema opera há meses, não há anos.
• A computação é um termômetro imperfeito do esforço em segurança, porque boa parte desse trabalho é gente pensando, não máquina rodando — e as estimativas foram feitas de propósito para o lado conservador.

Também é um retrato de quem constrói IA, não de quem a usa. Mas a regra das duas perguntas não depende da escala: ela depende de você saber o que cada ação do seu sistema pode desfazer. Para comparar com a outra ponta, a OpenAI publicou em setembro quanto trabalho os agentes dela fazem de verdade, e quanto isso custa por dia.

Como a gente faz na prática

Na implementação de IA, a lista de ações vem antes do agente. Cada item sai marcado com a mesma pergunta — se der errado, tem volta? — e é ela que define o que roda sozinho, o que espera uma pessoa e o que é conferido no fim da semana. Mudar isso depois que o sistema já está atendendo cliente custa bem mais do que decidir antes.

Fontes

Anthropic Institute, "Measurements for understanding the pace of AI development inside frontier labs", de Marina Favaro e Phillie Wright, com os dados de agosto de 2026 sobre automação de pesquisa, supervisão de agentes e computação dedicada à segurança.