AIDive

Anthropic estudou 400,000 sessões de IA. Devs perderam

Por AIDive · Publicado em

Agentes de código

Gestores vencem desenvolvedores na programação com IA

A Anthropic colocou um classificador para avaliar 400,000 sessões do Claude Code, uma por uma, para descobrir quem realmente tem sucesso com um agente de programação. O grupo com a melhor taxa de sucesso verificado não é o dos engenheiros de software. É o dos gestores. Os dez maiores grupos ocupacionais do estudo ficam todos a menos de sete pontos dos desenvolvedores, o que significa que pessoas que não escrevem código estão entregando código que funciona quase na mesma proporção que pessoas que fazem isso profissionalmente.

Se você já disse a si mesmo que essas ferramentas não são para você porque não sabe programar, este estudo diz exatamente o contrário. Saber programar já não separa as pessoas que têm sucesso das que fracassam, e o estudo diz com precisão o que separa.

O que a Anthropic realmente mediu

Três definições mudam como você deve ler cada número do estudo. Primeiro, a amostra: 400,000 sessões interativas de 235,000 pessoas, registradas entre outubro de 2025 e abril de 2026. O Claude Code é o agente de programação da Anthropic que vive num terminal: você escreve o que quer em linguagem natural, e ele lê seus arquivos, escreve o código e executa os comandos por conta própria.

Ninguém na Anthropic leu essas conversas manualmente. Um classificador construído sobre um dos modelos da própria empresa avaliou cada sessão automaticamente, e suas notas foram verificadas contra a telemetria, ou seja, os commits, as mudanças de código e os resultados dos testes. Nas sessões que modificam código, o classificador e a telemetria concordam mais de 90% das vezes.

Segundo, o sucesso. O estudo acompanha dois tipos, e a diferença sustenta tudo o que vem a seguir. Um sucesso julgado significa que o classificador acredita que o objetivo declarado foi alcançado. Um sucesso verificado é mais difícil: exige prova, como testes que passam, um commit ou o usuário confirmando explicitamente o resultado. O sucesso verificado é a régua alta por trás de cada número abaixo, e é uma régua exigente, porque muitas sessões úteis terminam sem prova formal.

Terceiro, a expertise em si. O classificador nunca olha seu cargo ou seu currículo. Ele lê seu comportamento dentro da sessão e o avalia numa escala de cinco níveis, de novato a expert, usando apenas três sinais: quão precisas são suas instruções, o que você pede ao agente para verificar e se um de vocês corrige o outro. Seu nível mede seu domínio do problema naquela sessão, então a mesma pessoa pode ser expert no próprio ofício de manhã e novata num assunto novo à noite.

Os cinco níveis, de novato a expert

Um novato é reconhecível numa frase: instruções genéricas, sem conhecimento de domínio embutido. Um expert escreve prompts carregados de contexto, e o mesmo agente responde com muito mais trabalho autônomo. Uma ação, aqui, é um movimento concreto do agente, como ler um arquivo, escrever uma função ou executar um comando.

Métrica Novato Expert
Ações do agente por prompt ~5 ~12
Palavras de trabalho entregue por prompt ~600 ~3,200
Taxa de sucesso verificado 15% 28 a 33% (de intermediário para cima)
Taxa de abandono quando a sessão dá errado 19% 5 a 7% (todos os não novatos)
Sessões problemáticas convertidas em sucesso verificado 4% 15%

Isso é cinco vezes mais trabalho entregue com a mesma ferramenta e a mesma assinatura. A única variável que mudou é a pessoa no teclado.

O detalhe que mais importa: quase todo o ganho acontece entre novato e intermediário, e a distância entre intermediário e expert é modesta. Você não precisa virar expert para dobrar sua taxa de sucesso. Precisa deixar de ser novato.

A diferença mais brutal aparece quando uma sessão dá errado. Quando o agente entra numa espiral de erros e testes quebrando, novatos abandonam 19% das vezes, contra 5 a 7% de todos os outros. Entre os que persistem, novatos convertem apenas 4% dessas sessões problemáticas em sucessos verificados, enquanto experts convertem 15%. São quase quatro vezes mais sessões salvas, puramente porque a pessoa entende o problema bem o suficiente para redirecionar o agente em vez de vê-lo afundar. A diferença entre os níveis não aparece quando tudo funciona. Aparece no primeiro tropeço.

Por que saber programar já não importa

Conhecimento de domínio, nos termos da Anthropic, é entender o problema que você está tentando resolver, até o fundo. Nas sessões que produzem código, a diferença entre ocupações é pequena e estável:

Grupo Sucesso verificado Sucesso parcial
Ocupações de software 34% 89%
Todas as outras ocupações 29% 88%

Cinco pontos de diferença, uma distância que não aumentou nem diminuiu ao longo dos sete meses do estudo, enquanto os dois grupos continuavam melhorando. No sucesso parcial, quando o objetivo foi ao menos parcialmente alcançado, os dois grupos empatam.

O estudo também mostra onde o conhecimento de domínio age. Numa sessão típica, o humano toma cerca de 70% das decisões de planejamento (o que construir), mas só 20% das decisões de execução (como escrever). A divisão já está dada: você decide o quê, e o agente cuida do como. Um gestor que sabe exatamente o que seu produto deve fazer está segurando a alavanca que conta, mesmo sem escrever uma linha do que o agente produz. É por isso que os gestores terminam no topo do ranking.

O uso ao longo dos sete meses observados confirma que o centro de gravidade está se movendo:

Tipo de tarefa Início do estudo Fim do estudo
Depuração 33% das sessões 19%
Executar software 14% 21%
Análise de dados e escrita de documentos linha de base quase dobrou

As pessoas já não usam o agente só para consertar código; estão usando para tocar o próprio trabalho. No mesmo período, o valor estimado da tarefa média entregue ao agente cresceu 27%.

A autonomia reposiciona seu papel do mesmo jeito. Uma sessão típica tem só cerca de quatro trocas entre o humano e o agente, e cada prompt dispara em média cerca de dez ações. No extremo, um único prompt às vezes desencadeia mais de cem ações: uma instrução, e o agente trabalha sozinho pelo equivalente a uma tarde. O que você traz cabe em poucas frases por sessão, e é exatamente por isso que a precisão delas pesa tanto. Quando você só fala quatro vezes, cada frase conta.

A mesma tarefa, com prompt de novato e de expert

Reproduzimos a diferença numa tarefa que todo mundo entende: adicionar um formulário de contato a um site pequeno.

A versão novato é o prompt que metade de nós ainda digita: nove palavras, sem contexto, sem critérios. O agente não sabe onde o site está, o que o formulário coleta nem para onde vão as mensagens, então toma cada uma dessas decisões por você, e você descobre as escolhas dele no final. Na nossa execução, ele colocou o formulário na página inicial, inventou um campo de telefone que ninguém pediu e apontou os envios para um endereço de e-mail que não existe. Nada disso é um bug. O agente preencheu os buracos do pedido com suposições, e cada suposição era uma chance de errar. Esse é o padrão medido do novato: poucas ações, um resultado curto e aproximadamente uma chance em sete de um sucesso verificado.

A versão expert resolve a mesma tarefa sem uma única linha de código no prompt. Ela diz onde agir (a página "sobre"), o que construir (três campos precisos), com o que construir (a rota de envio que já existe) e, acima de tudo, como provar que está pronto (rodar os testes e mostrar o formulário no navegador). Nenhuma dessas informações exige saber programar. Exige conhecer seu site, sua necessidade e seu padrão de qualidade, ou seja, seu domínio. O agente assume dali: lê a página, adiciona o formulário, conecta a rota, escreve a validação e roda os testes. Essa é a cadeia de 12 ações do estudo, disparada pela precisão do prompt, não pelo talento técnico de quem o escreveu.

Escrever o prompt de expert levou uns trinta segundos a mais que o de novato, e esses trinta segundos eliminaram cada oportunidade que o agente tinha de adivinhar. A demonstração inteira cabe numa frase: a mesma ferramenta fica cinco vezes mais produtiva quando o pedido carrega o domínio.

Três hábitos que sobem seu nível

O primeiro hábito é dar o contexto que só você conhece, antes que o agente o adivinhe errado. O classificador chama isso de precisão de instrução. Todo pedido deveria dizer onde agir, com o quê e como fica o "pronto". Três frases bastam, e funciona para qualquer trabalho, não só código: um prompt de marketing com o público, as restrições e a linha de chegada cobre os mesmos três blocos. Se você não consegue preencher um dos blocos, esse é o sinal de que a imprecisão está do seu lado, não do agente, e vale esclarecê-la antes de iniciar a sessão.

O segundo hábito é exigir prova no final, o segundo sinal do classificador. Termine seus prompts com uma condição de conclusão checável: rode os testes, mostre o resultado, verifique se a página carrega. Um agente do qual você não pede prova vai entregar trabalho impossível de verificar, e o estudo mostra que é exatamente isso que separa um sucesso julgado de um verificado. Essa prova também protege você, porque permite aprovar o trabalho sem saber ler o código por trás.

O terceiro hábito é permanecer no circuito quando as coisas começam a quebrar. Releia o que o agente devolve, corrija quando estiver errado e não feche a sessão na primeira falha. Novatos aceitam a saída passivamente e abandonam cerca de quatro vezes mais que todos os outros no momento em que trava, e é precisamente aí que o nível compensa. Explicar o problema de novo com suas próprias palavras e apontar o que não bate com sua expectativa é corrigir o agente, o terceiro sinal do classificador. A forma de uma boa correção: o que está acontecendo, o que era esperado, onde olhar. Ainda nenhuma linha de código, só uma descrição honesta da diferença.

Os três hábitos cabem num post-it: dê seu contexto, exija prova, permaneça no circuito. Nenhum exige aprender a programar, e juntos eles cobrem a distância entre 15 e 30% de sucesso.

O que o estudo não diz

Mesmo para experts, o sucesso verificado para entre 28 e 33%. Duas em cada três sessões terminam sem prova sólida de que o objetivo foi alcançado, na melhor das hipóteses com um sucesso parcial, que de fato sobe acima de 90%. Subir um nível dobra suas chances; não torna o agente infalível.

O ranking dos gestores merece sua própria ressalva. A Anthropic observa que um viés de medição é possível, porque o sucesso verificado também conta confirmações explícitas do usuário, e confirmar claramente que o trabalho está validado é um reflexo de gestor. Além disso, o estudo mede sessões do Claude Code, uma ferramenta de terminal cujo público já é mais motivado que a média, então nada garante que os mesmos números valham no ChatGPT ou em qualquer outra ferramenta. Guarde a inclinação geral, não os decimais: precisão paga, prova paga, e ninguém passa de um terço de certeza.

Seu nível não é um rótulo

Vale a pena entrar se você não sabe programar? O estudo responde por grupo. Se você conhece seu ofício a fundo (seu domínio, seus clientes, o que significa um bom resultado), então sim. Você está trazendo exatamente a metade das decisões que conta, a metade do planejamento. Mas se está entrando num assunto que ainda não entende, o agente não vai preencher esse vazio; vai enchê-lo de suposições, como o nosso formulário de contato parando na página errada.

A conclusão cabe numa decisão: pare de tratar sua falta de código como uma deficiência e comece a tratar seu conhecimento do problema como seu verdadeiro capital. O classificador não avalia quem você é; avalia como você trabalha dentro da sessão, e isso pode mudar já na próxima. Escreva o pedido com seu contexto dentro, termine com a prova que você exige e, quando travar, reformule em vez de fechar. Se você não sabe programar, começa com as mesmas chances de todo mundo. O estudo acabou de provar isso em 400,000 sessões.

Fontes

Perguntas frequentes

O que o estudo da Anthropic sobre 400,000 sessões do Claude Code descobriu?
Um classificador avaliou 400,000 sessões do Claude Code de 235,000 pessoas (outubro de 2025 a abril de 2026) e descobriu que o conhecimento de domínio, e não a habilidade de programação, prevê o sucesso. Gestores tiveram a melhor taxa de sucesso verificado, e ocupações fora de software verificaram 29% contra 34% das ocupações de software.
Dá para usar o Claude Code sem saber programar?
Sim, se você conhece seu domínio. Humanos tomam cerca de 70% das decisões de planejamento, mas só 20% das decisões de execução numa sessão típica, então saber o que construir importa mais que saber como escrever. Quem não programa entrega código funcional quase na mesma proporção que desenvolvedores profissionais.
O que é um sucesso verificado no estudo da Anthropic?
Um sucesso verificado exige prova de que o objetivo foi alcançado: testes passando, um commit ou confirmação explícita do usuário. É mais rigoroso que um sucesso julgado, em que o classificador apenas acredita que o objetivo foi atingido. Mesmo experts verificam só 28-33% das sessões.
Como a Anthropic mede os níveis de expertise dos usuários de IA?
Um classificador avalia cada sessão numa escala de cinco níveis, de novato a expert, usando três sinais comportamentais: a precisão das instruções, o que o usuário pede ao agente para verificar e se usuário e agente corrigem um ao outro. Ele nunca olha cargos, então a mesma pessoa pode ser expert numa tarefa e novata em outra.
O que separa prompts de novato e de expert em agentes de programação com IA?
Prompts de expert carregam contexto de domínio: onde agir, o que construir, com o que construir e uma condição de conclusão checável, como rodar os testes. Cada prompt de expert dispara cerca de 12 ações do agente e 3,200 palavras de trabalho, contra 5 ações e 600 palavras dos prompts genéricos de novato, com o dobro da taxa de sucesso verificado.
Desenvolvedores ainda têm vantagem com agentes de programação com IA?
Uma vantagem pequena: ocupações de software verificam 34% das sessões que produzem código contra 29% dos demais, uma diferença de cinco pontos que ficou estável por sete meses. Em sucesso parcial, os grupos empatam com 89% e 88%.

Vídeos relacionados